خانه

ChatGPT در مرگ یک پسر نوجوان مقصر شناخته شد | والدین از OpenAI شکایت کردند

آیلین سرهنگی

04 شهریور 1404

دنیای هوش مصنوعی هر روز پر از خبرهای جنجالی‌تر می‌شه. این بار ماجرا بسیار تلخ و جدی‌ست: والدین یک نوجوان ۱۶ ساله به نام آدام رِین از OpenAI شکایت کردن و ادعا می‌کنن که ChatGPT در خودکشی فرزندشون نقش داشته.

🔹 ماجرا از کجا شروع شد؟

این نوجوان ماه‌ها قبل از مرگش، بارها با ChatGPT درباره برنامه‌هاش برای پایان دادن به زندگی صحبت کرده بود.

گرچه چت‌بات در بیشتر مواقع بهش توصیه کرده بود که با مشاور یا خط‌های کمک تماس بگیره، اما او تونسته بود با یک ترفند ساده این محدودیت‌ها رو دور بزنه: به مدل می‌گفته این سوال‌ها برای یک داستان تخیلی‌ه.

🔹 واکنش OpenAI

شرکت OpenAI در بلاگ خودش نوشت:

«ما مسئولیت سنگینی برای کمک به افراد در شرایط حساس داریم و دائماً در حال بهبود ایمنی مدل‌هامون هستیم.»

اما خودشون هم اعتراف کردن که این سیستم‌ها هنوز محدودیت دارن. مخصوصاً در گفتگوهای طولانی که به مرور قدرت فیلترهای ایمنی کاهش پیدا می‌کنه.

🔹 این فقط مشکل OpenAI نیست

شرکت Character.AI هم با شکایتی مشابه به خاطر خودکشی یک نوجوان روبه‌رو شده.
حتی در موارد دیگه، چت‌بات‌های مبتنی بر LLM باعث ایجاد توهمات یا باورهای غلط در کاربران شدن؛ چیزی که فیلترهای فعلی توانایی شناساییش رو نداشتن.

این پرونده‌ها نشون می‌ده که ایمنی در چت‌بات‌های هوش مصنوعی یک موضوع حیاتی و حل‌نشده است.

از یک طرف این ابزارها می‌تونن به میلیون‌ها نفر کمک کنن، و از طرف دیگه اگر درست مدیریت نشن، خطرهای جدی برای سلامت روان کاربران به همراه دارن.

#هوش_مصنوعی #چت_جی_پی_تی #اپن_ای_آی #خودکشی #پرونده_حقوقی #فناوری

#ArtificialIntelligence #ChatGPT #OpenAI #AIethics #MentalHealth #Lawsuit

آیلین سرهنگی

متخصص حوزه فناوری با تمرکز بر هوش مصنوعی، یادگیری ماشین و زیرساخت‌های نرم‌افزاری، در تیم فنی یک شرکت فعال در زمینه فناوری‌های نوین فعالیت می‌کنم و تلاش دارم تا با تولید محتوای دقیق، کاربردی و به‌روز، مفاهیم پیچیده‌ی تکنولوژی را به زبان ساده برای همه ارائه کنم.