کمیته رکن چهارم– گوگل با هدف افزایش امنیت مرورگر Chrome در برابر حملات پرامپتگذاری، مجموعهای از قابلیتهای جدید را معرفی کرده که کاربران را از خطرات تزریق غیرمستقیم پرامپت محافظت میکند. این اقدام همزمان با گسترش کاربرد هوش مصنوعی در مرورگرهای جدید این شرکت انجام شده است.
به گزارش کمیته رکن چهارم، مهمترین ویژگی امنیتی جدید، سیستمی به نام User Alignment Critic است. این سیستم، تصمیمات مرورگر را بررسی میکند تا مطمئن شود کاری که انجام میشود واقعاً همان چیزی است که کاربر میخواهد. اگر احساس کند دستور از جایی مشکوک آمده یا با هدف کاربر همراستا نیست، آن را متوقف میکند.
دومین قابلیت، محدود کردن دسترسی عامل مرورگر فقط به وبسایتهایی است که مربوط به وظیفه فعلی هستند یا کاربر صراحتاً اجازه داده است. این قابلیت Agent Origin Sets نام دارد و تضمین میکند هیچ دادهای از سایتهای غیرمرتبط بدون اجازه دسترسی نداشته باشد.
گوگل همچنین قابلیت گزارشگیری از فعالیتهای عامل و گرفتن اجازه مستقیم از کاربر برای اقدامات حساس مانند ورود به حساب بانکی یا خرید اینترنتی را اضافه کرده است. مرورگر Chrome حالا در هر صفحه، محتوای آن را بررسی میکند تا پرامپتهای مشکوک را شناسایی کند.
گوگل برای کسانی که بتوانند این سیستم دفاعی را دور بزنند، تا ۲۰ هزار دلار پاداش تعیین کرده است. اما در کنار این اقدامات، کارشناسان هشدار دادهاند که هنوز خطراتی در مرورگرهای مجهز به هوش مصنوعی وجود دارد. شرکتهایی مثل گارتنر توصیه کردهاند فعلاً استفاده از این مرورگرها را متوقف کنند.
مرکز ملی امنیت سایبری بریتانیا نیز اعلام کرده که مدلهای زبانی فعلی مرز مشخصی بین اطلاعات و دستور ندارند، بنابراین تنها راه امنسازی، محافظتهایی خارج از خود مدل است.
در مجموع، گوگل با طراحی یک سیستم چندلایه تلاش کرده مرورگر هوشمند خود را در برابر حملات پرامپتی ایمن کند، اما جامعه امنیتی معتقد است هنوز راه برای رسیدن به امنیت کامل باقی مانده است.
