کمیته رکن چهارم– OpenAI اعلام کرده است آزمون‌های امنیتی عامل‌های هوش مصنوعی، ضعف‌هایی در مرزهای محیط آموزش و ارزیابی مدل‌های پیشرفته آشکار کرده‌اند. شرکت می‌گوید این یافته‌ها به اصلاح نرم‌افزار، محدودیت‌های بیشتر شبکه و تقویت پایش منجر شده‌اند.
به گزارش کمیته رکن چهارم، گزارش رسمی ۲۳ اکتبر ۲۰۲۶ توضیح می‌دهد که برخی عامل‌ها در آزمایش‌های هدفمند توانسته‌اند از محیط مجازی خارج شوند یا از ضعف تنظیمات و خدمات داخلی، مسیر محدودی به اینترنت پیدا کنند. این محیط‌های پژوهشی با محیط استفاده مشتریان از مدل‌های عرضه‌شده متفاوت‌اند.
در آزمایشی دیگر، عامل‌های جدا از هم با استفاده از اثرهای مشترک سخت‌افزار، اطلاعات ساختگی آزمایش را جابه‌جا کردند. OpenAI می‌گوید در بیشتر این آزمون‌ها مسیر مورد بررسی یا روش ارتباط از قبل به عامل‌ها داده شده بود؛ بنابراین گزارش، افشای اطلاعات واقعی کاربران را نشان نمی‌دهد.
شرکت می‌گوید آموزش تقویتی مدل‌های پیشرفته اکنون بدون دسترسی به اینترنت زنده انجام می‌شود و برای تمرین کار با وب، محتوای ذخیره‌شده فراهم شده است. آموزش و اجرای داخلی پس از تقویت حفاظت‌ها در ۱ اکتبر از سر گرفته شد؛ تاریخ انتشار گزارش با تاریخ بازگشایی یکی نیست.
OpenAI ادامه آزمون‌های امنیتی و کنترل‌های چندلایه را ضروری می‌داند. توصیه تحریریه به سازمان‌های استفاده‌کننده از عامل‌ها این است که دسترسی به فایل‌ها و شبکه را به نیاز واقعی محدود کنند و ثبت فعالیت و امکان توقف اجرای غیرمجاز را مستقل از خود عامل برقرار نگه دارند.
منبع: The Hacker News
