گوگل بالاخره گفت: پشت‌پرده امنیت قابلیت‌های هوش‌مصنوعی Chrome چقدر جدیه؟

آیلین سرهنگی
18 آذر 1404
33
0

مرورگرها کم‌کم دارن وارد یه مرحله جدید می‌شن؛ مرحله‌ای که توش دیگه فقط صفحات وب رو نشون نمی‌دن، بلکه به‌جای شما کار انجام می‌دن!

مثلاً بلیت می‌گیرن، خرید می‌کنن یا فرم‌ها رو پر می‌کنن. این قابلیت‌ها که بهشون می‌گن Agentic Features، خیلی جذاب و آینده‌دارن، اما خب… خطر هم کم ندارن.

همین موضوع باعث شد گوگل بالاخره جزئیات امنیتی Chrome رو درباره این ویژگی‌های جدید منتشر کنه و توضیح بده که چطور می‌خواد جلوی ریسک‌هایی مثل نشت اطلاعات، حملات تزریق دستوری و حتی خسارت مالی رو بگیره.

گوگل چطور رفتار Agentها رو کنترل می‌کنه؟
۱. منتقد مخصوص (User Alignment Critic)

گوگل با کمک Gemini یه مدل «ناظر» ساخته که روی تصمیمات Agent نظارت می‌کنه.

کارش اینه که ببینه اقدامات برنامه‌ریزی‌شده واقعاً به نفع کاربر هست یا نه.

اگه تشخیص بده کارها بی‌ربطن یا خطرناک، درخواست می‌ده که مدل برنامه‌ریز استراتژی رو دوباره بچینه.

نکته مهم؟

این منتقد فقط متادیتا رو می‌بینه، نه کل محتوای سایت—یعنی کمتر فضول‌بازیه و تمرکزش فقط روی ایمنی عمل‌هاست!


۲. محدود کردن دسترسی با Agent Origin Sets

گوگل مشخص کرده که Agent دقیقاً کجا می‌تونه بخونه و کجا می‌تونه عمل کنه:

  1. Read-only origin: فقط بخون، کاری نکن!
  2. مثلاً لیست محصولات فروشگاه.
  3. Read-write origin: اجازه داری کلیک کنی یا تایپ کنی.

این یعنی Agent حتی اگر بخواد، نمی‌تونه بره سراغ بنر تبلیغاتی، iframe مشکوک یا بخش‌هایی که به کاربر مربوط نیست.

به زبان ساده‌تر:

کروم دسترسی‌ها رو جوری بریده‌بندی کرده که حتی مدل هم نتونه از چارچوب خارج بشه.


۳. جلوگیری از ورود به سایت‌های خطرناک

گوگل یه ناظر URL هم گذاشته که لینک‌هایی که مدل می‌سازه یا می‌خواد باز کنه رو بررسی می‌کنه.

اگه ساختگی، مخرب یا ناشناس باشه، کروم اجازه حرکت نمی‌ده.


۴. کارهای حساس فقط با تأیید کاربر

اینجا کنترل کاملاً دست خود کاربره. Agent بدون اجازه شما:

  1. وارد سایت بانکی نمی‌شه
  2. به صفحات پزشکی یا اطلاعات حساس نمی‌ره
  3. از Password Manager استفاده نمی‌کنه
  4. خرید نمی‌کنه
  5. پیام نمی‌فرسته

گوگل حتی تأکید کرده که مدل به پسوردها هیچ دسترسی مستقیمی نداره.


۵. مبارزه با Prompt Injection

توی دنیای AI، یکی از خطرناک‌ترین حمله‌ها اینه که هکر داخل متن، دستور مخفی بذاره و Agent رو فریب بده.

گوگل برای این موضوع یه سیستم تشخیص حمله ساخته و Agentها رو با حمله‌های واقعی محققان تست می‌کنه.

پرپلکسی هم چند هفته پیش یه مدل متن‌باز برای همین موضوع معرفی کرده.

پس این جنگ امنیتی فعلاً ادامه داره!


جمع‌بندی

قابلیت‌های عامل‌محور شاید آینده مرور وب باشن؛ مرورگری که مثل یه دستیار واقعی کارها رو انجام می‌ده.

اما گوگل با این توضیحات نشون داد که قبل از هرچیز امنیت مهمه و برای همین چندلایه محافظ گذاشته تا خطرها کم بشن.

حالا باید منتظر موند ببینیم وقتی این قابلیت‌ها به‌صورت عمومی فعال بشن، تجربه واقعی کاربران چطور خواهد بود.



#گوگل #مرورگر_کروم #امنیت_سایبری #هوش_مصنوعی #عامل_هوشمند #مرورگر_هوشمند #فناوری #اخبار_فناوری #امنیت


#Google #Chrome #AI #AIAgents #Security #GoogleChrome #Gemini #CyberSecurity #TechNews #BrowserAI

آیلین سرهنگی

آیلین سرهنگی

متخصص حوزه فناوری با تمرکز بر هوش مصنوعی، یادگیری ماشین و زیرساخت‌های نرم‌افزاری، در تیم فنی یک شرکت فعال در زمینه فناوری‌های نوین فعالیت می‌کنم و تلاش دارم تا با تولید محتوای دقیق، کاربردی و به‌روز، مفاهیم پیچیده‌ی تکنولوژی را به زبان ساده برای همه ارائه کنم.
پیشنهاد میشود بخوانید
ورود OpenAI به فاز جدی سازمانی؛ همکاری با BCG، مک‌کنزی و Accenture برای فتح بازار Enterprise AI
05 اسفند 1404
7
0
ورود OpenAI به فاز جدی سازمانی؛ همکاری با BCG، مک‌کنزی و Accenture برای فتح بازار Enterprise AI
آیلین سرهنگی
به نظر می‌رسد OpenAI دیگر فقط به ساخت مدل‌های قدرتمند فکر نمی‌کند؛ حالا هدف بعدی، تسخیر بازار سازمانی در سال ۲۰۲۶ است. ا...

هوش مصنوعی

اتهام سنگین Anthropic به شرکت‌های چینی: آیا Claude هدف استخراج غیرقانونی مدل‌های AI قرار گرفته است؟
05 اسفند 1404
7
0
اتهام سنگین Anthropic به شرکت‌های چینی: آیا Claude هدف استخراج غیرقانونی مدل‌های AI قرار گرفته است؟
آیلین سرهنگی
رقابت هوش مصنوعی وارد فاز تازه‌ای شده؛ فازی که دیگر فقط درباره ساخت مدل قوی‌تر نیست، بلکه درباره این است که چه کسی از چه...

هوش مصنوعی

آیا OpenClaw از کنترل خارج شد؟ ماجرای حذف دسته‌جمعی ایمیل‌های پژوهشگر امنیتی Meta AI
05 اسفند 1404
7
0
آیا OpenClaw از کنترل خارج شد؟ ماجرای حذف دسته‌جمعی ایمیل‌های پژوهشگر امنیتی Meta AI
آیلین سرهنگی
گاهی اوقات یک توییت وایرال بیشتر از ده‌ها مقاله فنی درباره ریسک‌های AI حرف برای گفتن دارد. ماجرا از جایی شروع شد که Summ...

هوش مصنوعی

Canva با خرید استارتاپ‌های انیمیشن و مارکتینگ، به ابرپلتفرم تبلیغات و طراحی تبدیل می‌شود؟
05 اسفند 1404
6
0
Canva با خرید استارتاپ‌های انیمیشن و مارکتینگ، به ابرپلتفرم تبلیغات و طراحی تبدیل می‌شود؟
آیلین سرهنگی
وقتی اسم Canva می‌آید، خیلی‌ها یاد طراحی پست اینستاگرام و ارائه‌های شیک می‌افتند. اما به نظر می‌رسد این شرکت دیگر فقط یک...

هوش مصنوعی

یک پیام بگذارید
نام و نام خانوادگی
آدرس ایمیل
متن نظر

به کمک نیاز دارید؟ با ما تماس بگیرید

کرج عظیمیه طالقانی شمالی کوچه شهید مسعود شجاعی (رز) برج قائم 2 واحد 1

02632558409

09124287589

afrino.co@gmail.com

ما را دنبال کنید
logo-samandehi

تمامی حقوق این سایت محفوظ و متعلق به شرکت "توسعه دانش رایا آفرینش" است.

An error has occurred. This application may no longer respond until reloaded. Reload 🗙