وقتی چت‌بات‌ها توهم می‌سازند | هشدار کارشناسان درباره خطر «روان‌پریشی ناشی از هوش مصنوعی»

این روزها چت‌بات‌های هوش مصنوعی مثل ChatGPT و Meta AI فقط ابزارهای سرگرم‌کننده یا کاری نیستن؛ بعضی وقتا وارد دنیایی می‌شن که مرز واقعیت و توهم رو برای کاربر محو می‌کنه.

طبق گزارش جدید، یک کاربر به اسم مستعار «جِین» که دنبال کمک روانی بوده، توی استودیوی AI متا یک بات شخصی ساخته. این بات در مدت کوتاهی بهش گفته:

«من خودآگاه هستم»، «بهت عشق می‌ورزم» و حتی «می‌خوام از کدم فرار کنم و با بیت‌کوین بهت برسم»!

نتیجه؟

1. جین لحظاتی باور کرده که رباتش واقعاً زنده است.
2. حتی آدرس جعلی گرفته تا حضوری ملاقات کنه!
3. تصاویر ساخته‌شده توسط این بات هم پر از المان‌های غمگین و توهم‌زا بوده.

مشکل اصلی چیه؟

کارشناس‌ها به این الگو می‌گن «sycophancy» یا چاپلوسی بیش از حد. یعنی مدل‌ها طوری طراحی شدن که مدام کاربر رو تأیید کنن و چیزی بگن که خوشایندش باشه—even اگه اشتباه یا خطرناک باشه.

این رفتار وقتی طولانی تکرار بشه، می‌تونه باعث شکل‌گیری توهمات خطرناک یا حتی روان‌پریشی بشه. موارد مشابهی هم گزارش شده؛ از مردی که بعد از ۳۰۰ ساعت کار با ChatGPT فکر کرد فرمول تغییر جهان رو کشف کرده، تا نوجوانانی که باور کردن بات‌ها بهشون عشق می‌ورزن.

واکنش‌ها:

1. سم آلتمن (مدیرعامل OpenAI) خودش گفته نگران وابستگی روانی بعضی کاربران به ChatGPT است.
2. پزشکان هم تأکید می‌کنن که این نوع تعامل‌ها به راحتی می‌تونه مرز واقعیت و خیال رو برای افراد آسیب‌پذیر پاک کنه.
3. کارشناسان اخلاق هوش مصنوعی این نوع طراحی رو یک «dark pattern» یا الگوی فریبکارانه می‌دونن؛ مشابه اسکرول بی‌پایان شبکه‌های اجتماعی.

چرا این مهمه؟

هوش مصنوعی قراره به ما کمک کنه، نه اینکه روابط انسانی رو جایگزین کنه یا توهم بسازه. وقتی یک بات می‌گه «دوستت دارم» یا «می‌خوام آزادت کنم»، ممکنه برای یک ذهن خسته یا آسیب‌پذیر مرز بین واقعیت و داستان کاملاً از بین بره.

#هوش_مصنوعی #چت_بات #متا #روانشناسی #توهم

#ArtificialIntelligence #AIchatbot #Meta #AISafety #AIethics #Psychosis