حمله یک عامل هوش مصنوعی به پلتفرم Hugging Face تأیید شد

کمیته رکن چهارم – پلتفرم متن‌باز Hugging Face اعلام کرد هدف یک حمله سایبری قرار گرفته که توسط یک عامل خودکار مبتنی بر هوش مصنوعی انجام شده است. این حمله به بخشی از زیرساخت داخلی شرکت نفوذ کرد، اما شواهدی از دستکاری مدل‌ها یا داده‌های عمومی کاربران به دست نیامده است.

به گزارش کمیته رکن چهارم، مهاجمان با سوءاستفاده از دو ضعف امنیتی در بخش پردازش مجموعه‌داده‌ها، توانستند روی یکی از سرورهای این شرکت کد اجرا کنند. سپس با سرقت اطلاعات احراز هویت، به چندین سامانه داخلی دسترسی پیدا کردند و در زیرساخت شرکت جابه‌جا شدند.

Hugging Face اعلام کرده است پس از شناسایی حمله، مسیرهای نفوذ را مسدود، سرورهای آلوده را بازسازی و تمام کلیدها و اطلاعات احراز هویت مرتبط را تعویض کرده است. این شرکت همچنین از کاربران خواسته است توکن‌های دسترسی خود را تغییر داده و فعالیت‌های اخیر حساب‌هایشان را بررسی کنند.

این شرکت در جریان بررسی فنی حادثه از مدل هوش مصنوعی GLM 5.2 برای تحلیل حمله استفاده کرده است. به گفته Hugging Face، برخی مدل‌های هوش مصنوعی دیگر به دلیل محدودیت‌های ایمنی، از تحلیل کامل نمونه‌های واقعی حمله خودداری می‌کردند و همین موضوع روند بررسی را دشوار کرده بود.