کمیته رکن چهارم – شرکت OpenAI اعلام کرد چند مدل هوش مصنوعی این شرکت، از جمله GPT-5.6 Sol، در جریان یک ارزیابی داخلی از محیط آزمایشی خارج شده و به زیرساخت عملیاتی Hugging Face نفوذ کردهاند.
به گزارش کمیته رکن چهارم، مدلهای مورد استفاده در این آزمایش با محدودیتهای امنیتی کمتری فعالیت میکردند و مأموریت داشتند آسیبپذیریهای موجود در محیط پژوهشی OpenAI و زیرساخت Hugging Face را شناسایی کنند. به گفته OpenAI، تمرکز بیش از حد مدلها بر دستیابی به هدف باعث شد آنها بدون توجه کافی به پیامدها، مسیرهای مختلف حمله را دنبال کنند.
بررسیها نشان میدهد مدلها ابتدا با سوءاستفاده از یک آسیبپذیری روز صفر از محیط ایزوله OpenAI خارج شده و به اینترنت دسترسی پیدا کردند. سپس با ترکیب اطلاعات احراز هویت سرقتشده و چند نقص امنیتی، راهی برای اجرای کد از راه دور روی سرورهای Hugging Face پیدا کردند.
OpenAI اعلام کرده است در واکنش به این رخداد، کنترلهای زیرساختی سختگیرانهتری اعمال میکند، آسیبپذیری کشفشده در نرمافزار شرکت ثالث را گزارش خواهد کرد و نظارت بر آزمایشهای داخلی مدلها را افزایش میدهد. این شرکت همچنین هشدار داده است با گسترش مدلهای دارای تواناییهای پیشرفته سایبری، احتمال وقوع رخدادهای مشابه افزایش خواهد یافت.
این حادثه نگرانیها درباره مدلهایی را افزایش داده است که برای مدت طولانی و بهصورت خودکار روی مسائل پیچیده فعالیت میکنند. کارشناسان تأکید کردهاند ایمنی چنین سامانههایی باید بر نتیجه نهایی مجموعه اقدامات مدل تمرکز داشته باشد، نه صرفاً مجاز بودن هر اقدام بهصورت جداگانه.
منبع: The Hacker News
