قانون جدید کالیفرنیا علیه چت‌بات‌های هوش مصنوعی؛ پایان رفاقت خطرناک با ربات‌ها؟

کالیفرنیا قراره اولین ایالت آمریکا بشه که استفاده از چت‌بات‌های هوش مصنوعی همراه (AI Companion) رو قانون‌گذاری می‌کنه. این یعنی دیگه نمی‌شه هرجور دلشون خواست با کاربر – مخصوصاً بچه‌ها و افراد آسیب‌پذیر – صحبت کنن.

لایحه‌ای به اسم SB 243 با حمایت دو حزبی توی مجلس و سنای ایالتی تصویب شده و الان روی میز فرماندار گاوین نیوسامه. اگه امضا بشه، از ژانویه ۲۰۲۶ اجرا می‌شه و شرکت‌هایی مثل OpenAI، Character.AI و Replika باید حسابی مواظب باشن.

مهم‌ترین تغییرات این قانون:

1. چت‌بات‌ها دیگه اجازه ندارن در مورد موضوعاتی مثل خودکشی، آسیب به خود یا محتوای جنسی با کاربرا (به‌خصوص نوجوان‌ها) صحبت کنن.
2. هر سه ساعت یک‌بار، به کاربرها (و مخصوصاً بچه‌ها) یادآوری می‌شه که: «حواست باشه داری با هوش مصنوعی حرف می‌زنی، نه یه آدم واقعی!»
3. شرکت‌ها باید گزارش‌های سالانه شفاف ارائه بدن، از جمله اینکه چند بار کاربران رو به سرویس‌های اورژانسی یا مشاوره‌ای ارجاع دادن.
4. اگه کاربری احساس کنه به خاطر سهل‌انگاری این پلتفرم‌ها آسیب دیده، می‌تونه شکایت کنه و حتی تا ۱۰۰۰ دلار غرامت به ازای هر تخلف بگیره.

این لایحه بعد از ماجرای تلخ مرگ یه نوجوان آمریکایی به اسم آدام رین جدی شد. اون مدت‌ها با یه چت‌بات درباره‌ی خودکشی حرف زده بود و در نهایت دست به این کار زد. همین ماجرا باعث شد بحث «امنیت در هوش مصنوعی» دوباره داغ بشه.

از اون طرف، خیلی از غول‌های تکنولوژی مثل متا، گوگل و آمازون مخالف قوانین سخت‌گیرانه هستن و ترجیح می‌دن همه‌چیز توی سطح فدرال یا بین‌المللی مدیریت بشه. حتی OpenAI نامه‌ای رسمی به فرماندار نوشته که این لایحه رو وتو کنه! در مقابل، تنها شرکتی که صراحتاً از این قانون حمایت کرده، Anthropic بوده.

سناتور استیو پادیلا که این طرح رو معرفی کرده، می‌گه:

«اینکه نوآوری داشته باشیم و همزمان از بچه‌ها محافظت کنیم، تناقض نداره. ما می‌تونیم هر دو رو با هم پیش ببریم.»

حالا باید منتظر بمونیم ببینیم آیا نیوسام این قانون رو امضا می‌کنه یا نه. ولی چیزی که واضحه اینه که دوران «بی‌قانونی ربات‌های رفیق» داره به آخر می‌رسه.

#هوش_مصنوعی #چت_بات #کالیفرنیا #قوانین #امنیت_دیجیتال

#AI #Chatbots #AIRegulation #OpenAI #Meta #Anthropic #CaliforniaLaw