کمیته رکن چهارم – گوگل اعلام کرده یک گروه ناشناس سایبری از اکسپلویتی استفاده کرده که به احتمال زیاد با کمک هوش مصنوعی توسعه یافته و برای دور زدن احراز هویت دومرحلهای در یک ابزار متنباز مدیریت سیستم بهکار رفته است.
به گزارش کمیته رکن چهارم، گروه اطلاعات تهدید گوگل (GTIG) اعلام کرده این حمله بخشی از یک عملیات گسترده سوءاستفاده از آسیبپذیریها بوده و در آن از یک اسکریپت Python برای بهرهبرداری از آسیبپذیری روز-صفر استفاده شده است. گوگل نام نرمافزار آسیبپذیر را فاش نکرده اما اعلام کرده با توسعهدهنده مربوطه برای رفع مشکل همکاری کرده است.
بررسیهای گوگل نشان میدهد کد اکسپلویت دارای نشانههایی است که معمولاً در خروجی مدلهای هوش مصنوعی دیده میشود؛ از جمله توضیحات بیشازحد، ساختار بسیار تمیز کد، استفاده از قالبهای استاندارد آموزشی و حتی درج امتیاز CVSS جعلی. گوگل میگوید این موضوع با «اطمینان بالا» نشان میدهد از مدلهای زبانی برای کشف و توسعه اکسپلویت استفاده شده است.
به گفته پژوهشگران، آسیبپذیری مورد سوءاستفاده یک خطای منطقی سطح بالا بوده که از یک فرض اعتماد اشتباه در نرمافزار ایجاد شده بود؛ نوعی ضعف که مدلهای هوش مصنوعی در شناسایی آن عملکرد قابلتوجهی دارند.
گوگل همچنین به بدافزار اندرویدی PromptSpy اشاره کرده که از Gemini برای تحلیل صفحهنمایش، هدایت رابط کاربری و تصمیمگیری خودکار در طول حمله استفاده میکند. این بدافزار قادر است دادههای بیومتریک، الگوی قفل و اطلاعات حساس کاربر را جمعآوری کند و حتی مانع حذف برنامه توسط قربانی شود.
بر اساس این گزارش، برخی گروههای هکری و وابسته به دولتها نیز از Gemini و سایر مدلهای هوش مصنوعی برای تحلیل CVEها، توسعه ابزارهای مخرب و انجام تحقیقات امنیتی سوءاستفاده کردهاند. گوگل اعلام کرده گروههایی مرتبط با چین، کره شمالی و روسیه در فعالیتهای مشابه مشاهده شدهاند.
پژوهشگران همچنین نسبت به رشد بازارهای غیررسمی دسترسی به مدلهای هوش مصنوعی هشدار دادهاند؛ سرویسهایی که از طریق پراکسی و APIهای غیررسمی، امکان استفاده کنترلنشده از مدلهایی مانند Claude و Gemini را فراهم میکنند.
پیشزمینه
در سالهای اخیر، مدلهای هوش مصنوعی به ابزار مهمی برای توسعه نرمافزار، تحلیل امنیتی و خودکارسازی تبدیل شدهاند. همزمان کارشناسان بارها هشدار داده بودند که همین فناوری میتواند برای کشف سریعتر آسیبپذیریها و تولید بدافزار نیز مورد سوءاستفاده قرار گیرد. اکنون گوگل میگوید برای نخستینبار شواهد واقعی از استفاده عملیاتی هوش مصنوعی در توسعه اکسپلویت Zero-Day مشاهده شده است.
جمعبندی
این گزارش نشان میدهد هوش مصنوعی دیگر تنها یک ابزار کمکی برای برنامهنویسی نیست و میتواند به بخشی از زنجیره واقعی حملات سایبری تبدیل شود. کارشناسان هشدار میدهند سرعت کشف و سوءاستفاده از آسیبپذیریها با کمک AI بهطور قابلتوجهی افزایش یافته و همین موضوع میتواند آینده امنیت سایبری را با چالشهای جدیدی مواجه کند.
منبع: The Hacker News
