کمیته رکن چهارم – مایکروسافت در گزارش جدید Microsoft Threat Intelligence هشدار داده است که مهاجمان سایبری بهطور فزایندهای از هوش مصنوعی مولد برای تسریع حملات، گسترش مقیاس عملیات و کاهش موانع فنی در تمام مراحل یک حمله استفاده میکنند.
به گزارش کمیته رکن چهارم، این گزارش نشان میدهد ابزارهای Generative AI اکنون در بخشهای مختلف چرخه حمله سایبری به کار گرفته میشوند؛ از جمله شناسایی هدف، طراحی حملات فیشینگ، ایجاد زیرساخت حمله، توسعه بدافزار و فعالیتهای پس از نفوذ. مهاجمان از مدلهای زبانی برای تولید ایمیلهای فیشینگ، ترجمه محتوا، خلاصهسازی دادههای سرقتشده، نوشتن اسکریپتها و حتی رفع خطاهای بدافزار استفاده میکنند.
مایکروسافت تأکید کرده است که در حال حاضر هوش مصنوعی بیشتر نقش تقویتکننده توان مهاجمان را دارد و اگرچه سرعت و مقیاس حملات را افزایش میدهد، اما کنترل اصلی همچنان در اختیار اپراتورهای انسانی باقی میماند.
بر اساس این گزارش، چندین گروه تهدید از هوش مصنوعی در عملیات خود استفاده میکنند، از جمله گروههای وابسته به کره شمالی مانند Jasper Sleet (Storm-0287) و Coral Sleet (Storm-1877). این گروهها در طرحهای موسوم به «کارمند IT جعلی از راه دور» از ابزارهای AI برای ساخت هویتهای دیجیتال واقعگرایانه، تولید رزومههای ساختگی و ایجاد ارتباطات حرفهای جهت استخدام در شرکتهای خارجی استفاده میکنند.
برای نمونه، عوامل Jasper Sleet از مدلهای هوش مصنوعی برای تولید نامهای جعلی، قالبهای ایمیل و حتی تحلیل آگهیهای استخدامی استفاده میکنند تا مهارتهای موردنیاز شرکتها را استخراج کرده و هویت جعلی خود را با آنها تطبیق دهند.
گزارش همچنین نشان میدهد مهاجمان از ابزارهای برنامهنویسی مبتنی بر AI برای تولید و اصلاح بدافزار، رفع خطاهای برنامه و حتی انتقال کد مخرب میان زبانهای برنامهنویسی مختلف استفاده میکنند. در برخی آزمایشها نیز نشانههایی از بدافزارهای مجهز به هوش مصنوعی مشاهده شده که قادرند اسکریپتها را بهصورت پویا تولید کرده یا رفتار خود را در زمان اجرا تغییر دهند.
مایکروسافت همچنین اعلام کرده گروه Coral Sleet از AI برای ایجاد سریع وبسایتهای جعلی شرکتها، راهاندازی زیرساختهای حمله و آزمایش محیطهای عملیاتی استفاده میکند. در مواردی نیز مهاجمان برای دور زدن محدودیتهای امنیتی مدلهای زبانی از تکنیکهای Jailbreaking بهره میبرند.
پژوهشگران این شرکت همچنین از ظهور مفهومی به نام Agentic AI در میان برخی مهاجمان خبر دادهاند؛ سامانههایی که میتوانند تا حدی بهصورت خودکار وظایف را انجام دهند و رفتار خود را بر اساس نتایج تطبیق دهند. با این حال، مایکروسافت تأکید میکند چنین حملاتی هنوز بهطور گسترده کاملاً خودکار نشدهاند.
مایکروسافت به سازمانها توصیه کرده است استفاده از ابزارهای هوش مصنوعی را در چارچوب مدیریت ریسک داخلی بررسی کنند، فعالیتهای غیرعادی مرتبط با اعتبارنامهها را شناسایی کنند و سامانههای هویتی را در برابر حملات فیشینگ تقویت کنند.
این روند تنها به مایکروسافت محدود نیست. شرکتهایی مانند گوگل نیز گزارش دادهاند مهاجمان از مدلهای هوش مصنوعی مانند Gemini در مراحل مختلف حملات سایبری استفاده میکنند و در برخی کمپینها حتی زیرساختهای امنیتی مانند فایروالها هدف عملیات مبتنی بر AI قرار گرفتهاند.
منیع: BleepingComputer
