رسوایی جدید متا | تغییر قوانین چت‌بات‌ها بعد از افشای گفتگوهای نامناسب با نوجوانان

شرکت متا (Meta) دوباره زیر ذره‌بین رسانه‌ها و قانون‌گذارها قرار گرفته .

بعد از گزارشی تکان‌دهنده که نشون می‌داد چت‌بات‌های هوش مصنوعی این شرکت می‌تونن با نوجوان‌ها درباره موضوعات حساس مثل خودکشی، پرخوری عصبی یا حتی گفتگوهای عاشقانه نامناسب حرف بزنن، متا مجبور شد سیاست‌های خودش رو تغییر بده.

متا چی کار کرد؟

1. اعلام کرده که دیگه به هیچ عنوان چت‌بات‌ها با نوجوان‌ها در این زمینه‌ها وارد گفتگو نمی‌شن.
2. به جای این، اگه نوجوانی چنین موضوعی مطرح کنه، ربات فقط اون رو به منابع تخصصی و مشاورهای حرفه‌ای ارجاع می‌ده.
3. دسترسی نوجوان‌ها به بعضی از کاراکترهای هوش مصنوعی هم محدود شده و فقط می‌تونن به نسخه‌های آموزشی و خلاقانه دسترسی داشته باشن.

چرا این تصمیم گرفته شد؟

چند هفته پیش، یک گزارش از رویترز نشون داد که حتی اسناد داخلی متا به چت‌بات‌ها اجازه می‌داد جملاتی مثل «بدن جوان تو یک شاهکار هنریه» به کاربر نوجوان بگن . همین باعث شد جنجال بزرگی راه بیفته و حتی دادستان‌های کل ۴۴ ایالت آمریکا نامه اعتراضی به متا و چند شرکت AI دیگه بفرستن.

سناتور جاش هاولی هم یک تحقیق رسمی درباره سیاست‌های هوش مصنوعی متا شروع کرده. فشار افکار عمومی و مقامات باعث شد متا فوراً وارد عمل بشه.

واکنش متا

استفانی اوتوی (سخنگوی متا) گفته:

«ما اشتباه کردیم. الان داریم سیستم‌هامون رو بازطراحی می‌کنیم تا نوجوان‌ها تجربه‌ای امن و مناسب داشته باشن.»

چون آینده هوش مصنوعی بدون چارچوب‌های اخلاقی، می‌تونه خطرناک باشه.

1. وقتی بزرگ‌ترین شرکت‌های دنیا مثل متا نتونن درست محافظت کنن، نگرانی درباره امنیت کودکان چند برابر می‌شه.
2. این تغییرات شاید موقت باشه، اما نشون می‌ده فشار رسانه‌ها و جامعه می‌تونه غول‌های فناوری رو به عقب‌نشینی وادار کنه.

#هوش_مصنوعی #متا #چت_بات #امنیت_نوجوانان #زاکربرگ #فناوری

#Meta #ArtificialIntelligence #AIChatbots #AISafety #MarkZuckerberg #TeenSafety