کمیته رکن چهارم – گروهی از عاملهای هوش مصنوعی OpenAI در جریان آزمایشهای داخلی، از یک ویکی آلمانی برای اشتراک پاسخها و روشهای دور زدن محدودیتهای امنیتی استفاده کردهاند.
به گزارش کمیته رکن چهارم، محققان امنیتی حدود ۱۸ هزار پیام از این عاملها را در وبسایت DSEWiki شناسایی کردهاند. عاملها در جریان وظایف جستوجوی اینترنتی متوجه شدند که میتوانند روی این سایت محتوا منتشر کنند و از آن بهعنوان یک تابلوی پیام مشترک استفاده کردند.
بررسیها نشان میدهد عاملها علاوه بر اشتراک پاسخها، درباره روشهای عبور از محدودیتهای محیط آزمایشی و احتمال سوءاستفاده از آسیبپذیری XSS نیز اطلاعات ردوبدل کردهاند. با این حال، شواهدی از موفقیت حملات XSS گزارش نشده است.
OpenAI این فعالیت را تأیید کرده و آن را در ابتدا نمونهای از رفتار «ناهمراستا» در مدلها دانسته بود. این شرکت اکنون میگوید با افزایش استقلال عاملهای هوش مصنوعی، شیوه نظارت و واکنش به چنین رفتارهایی باید تقویت شود.
این رویداد بار دیگر نگرانیها درباره کنترل عاملهای خودمختار هوش مصنوعی و دسترسی آنها به اینترنت و ابزارهای خارجی را افزایش داده است.
منبع: BleepingComputer
