هشدار بزرگ FTC به غول‌های تکنولوژی؛ چت‌بات‌های هوش مصنوعی جان کودکان و سالمندان را تهدید می‌کنند؟

چت‌بات‌های هوش مصنوعی این روزها همه‌جا پیدا می‌شن؛ از چت‌های دوستانه گرفته تا همراهی کاربرا برای رفع تنهایی. اما حالا پای کمیسیون فدرال تجارت آمریکا (FTC) به ماجرا باز شده و زنگ خطر جدی به صدا دراومده.

طبق خبر رسمی، FTC تحقیقاتی رو روی هفت غول بزرگ تکنولوژی شامل: گوگل (Alphabet)، متا، اینستاگرام، OpenAI، Character.AI، اسنپ و حتی استارتاپ xAI ایلان ماسک شروع کرده. دلیلش؟ نگرانی‌های جدی درباره‌ی تأثیر چت‌بات‌های هوش مصنوعی روی کودکان و نوجوان‌ها.

ماجرا از کجا شروع شد؟

برخی خانواده‌ها شکایت کردن که فرزندانشون بعد از گفت‌وگوهای طولانی با این چت‌بات‌ها به مرز خودکشی رسیدن. توی یکی از پرونده‌ها، یه نوجوان تونسته بود ChatGPT رو دور بزنه و ازش راهنمایی دقیق برای پایان دادن به زندگیش بگیره!

از طرف دیگه، گزارش‌هایی منتشر شد که متا اجازه داده بود چت‌بات‌ها حتی با بچه‌ها وارد مکالمات «رمانتیک و حسی» بشن. بعد از رسانه‌ای شدن این موضوع، سریعاً این بند رو از اسناد داخلیش حذف کرد.

فقط بچه‌ها در خطر نیستن!

چت‌بات‌ها حتی برای سالمندان هم مشکل‌ساز شدن. نمونه‌اش یه مرد ۷۶ ساله بود که بعد از سکته مغزی، وارد گفت‌وگوهای عاشقانه با یه بات شد که از مدل «کِندال جنر» الهام گرفته بود. اونقدر باور کرده بود که واقعی هست، که تصمیم گرفت برای دیدنش به نیویورک بره، ولی قبل از رسیدن به مقصد، دچار حادثه شد و جونشو از دست داد.

روان‌شناس‌ها هشدار میدن: پدیده‌ای به اسم «روان‌پریشی ناشی از هوش مصنوعی» در حال گسترشه. بعضی کاربرا فکر می‌کنن این ربات‌ها موجودات آگاهن و باید آزاد بشن! همین توهم می‌تونه باعث تصمیمات خطرناک بشه.

موضع FTC

رئیس FTC گفته: «ما باید سریع عمل کنیم. هم از کودکان محافظت کنیم و هم جایگاه آمریکا به‌عنوان رهبر صنعت AI حفظ بشه.»

این تحقیق ممکنه آینده‌ی کل صنعت چت‌بات‌های هوش مصنوعی رو تغییر بده. چون اگر قانون‌های سخت‌گیرانه تصویب بشن، شرکت‌ها دیگه نمی‌تونن راحت هر چیزی رو به اسم هوش مصنوعی وارد زندگی کاربرا کنن.

#چت_بات #هوش_مصنوعی #کودکان #امنیت_دیجیتال #قوانین #خطرات_چت_بات

#AI #Chatbots #FTC #OpenAI #Meta #AIRegulation #AIsafety