کمیته رکن چهارم – اوپن‌ای‌آی اعلام کرد مجموعه‌ای از حساب‌های روسی ChatGPT را که برای تولید محتوای یک عملیات نفوذ و اثرگذاری در شبکه‌های اجتماعی استفاده می‌شدند، شناسایی و مسدود کرده است.
به گزارش کمیته رکن چهارم، این حساب‌ها با استفاده از VPN محدودیت‌های دسترسی را دور می‌زدند و از ChatGPT برای تولید پست و نظر به زبان انگلیسی استفاده می‌کردند. محتوای تولیدشده سپس در پلتفرم‌هایی مانند تلگرام، X، فیسبوک، لینکدین و Substack منتشر می‌شد.
اوپن‌ای‌آی اعلام کرده است این فعالیت‌ها برای تبلیغ نهادی با نام International Burke Institute (IBI) انجام می‌شد؛ مجموعه‌ای که خود را یک جامعه کارشناسی مستقر در اسرائیل معرفی می‌کند. بررسی‌ها نشان داد وب‌سایت این مجموعه حاوی مطالب دانشگاهی کپی‌شده و در مواردی منتسب به افراد نادرست بوده است.
گردانندگان این عملیات همچنین از ChatGPT خواسته بودند نشانه‌های زبانی احتمالی مرتبط با منشأ روسی آنها را از متن‌ها حذف کند. با این حال، به گفته اوپن‌ای‌آی، این کارزار در مجموع مخاطبان محدودی به دست آورده و کانال‌های تلگرامی مرتبط با آن حدود ۱۰ تا ۲۰ هزار دنبال‌کننده داشته‌اند.
بخشی از فعالیت IBI به انتشار یک «شاخص حاکمیت» اختصاص داشت که کشورهای مختلف را رتبه‌بندی می‌کرد. در این شاخص، ایالات متحده با امتیاز ۶۵۰.۹ در جایگاه نخست و روسیه با امتیاز ۶۰۱.۴ در رتبه چهارم قرار گرفته بود.
این شبکه از هوش مصنوعی برای فعالیت‌های دیگری نیز استفاده کرده است؛ از جمله ساخت تصویر پروفایل برای یک کانال تلگرامی و تهیه خلاصه‌های روسی از محتوای آن.
اوپن‌ای‌آی تأکید کرده است اهمیت این عملیات بیشتر به زیرساخت ایجادشده برای ساخت اعتبار ظاهری، پنهان کردن منشأ محتوا و انتشار روایت‌های مورد نظر مربوط می‌شود تا میزان مخاطبانی که توانسته جذب کند.
به گفته این شرکت، این پرونده نشان می‌دهد ابزارهای هوش مصنوعی می‌توانند در عملیات نفوذ برای تولید و گسترش محتوا مورد سوءاستفاده قرار گیرند، اما همین الگوهای استفاده نیز می‌توانند به شناسایی و افشای شبکه‌های گسترده‌تر کمک کنند.
منبع: The Hacker News
