کمیته رکن چهارم – شرکت OpenAI اعلام کرده که از ابتدای سال ۲۰۲۵ تاکنون موفق شده جلوی حداقل ۱۰ کمپین مخرب را بگیرد که با استفاده از هوش مصنوعی و چتبات ChatGPT طراحی شده بودند. به گفته این شرکت، منشأ این فعالیتها بیشتر از کشورهایی مثل چین، روسیه و ایران بوده است.
به گزارش کمیته رکن چهارم، برخی از این کمپینها شامل انتشار اخبار و نظرات ساختگی، دستکاری فضای آنلاین و تلاش برای تأثیرگذاری بر سیاست داخلی کشورهای غربی بودهاند. در یکی از موارد، گروهی چینی با ارسال نظرات منفی جعلی درباره یک بازی ویدیویی، سعی در تخریب آن داشتند چون بازی پیامهایی بر ضد حزب کمونیست چین داشت.
در یک نمونه دیگر به نام «Helgoland Bite»، گروهی وابسته به روسیه محتوایی در نقد آمریکا و ناتو به زبان آلمانی تولید کردند تا بر انتخابات ۲۰۲۵ آلمان تأثیر بگذارند.
در موردی مرتبط با ایران، پستهایی در توییتر به زبانهای انگلیسی و اسپانیایی درباره موضوعات حساسی مثل مهاجرت، استقلال اسکاتلند و مذاکرات ایران و آمریکا منتشر شده که هدفشان تأثیرگذاری سیاسی بوده است.
OpenAI همچنین گفته که در بعضی موارد، افراد یا گروههایی با استفاده از ChatGPT سعی کردهاند فعالان شبکههای اجتماعی را شناسایی و با آنها همکاری کنند تا پیامهایی هماهنگ منتشر شود. برخی حتی وعده پرداخت پول داده بودند.
یکی از کمپینهای شناساییشده به نام «Uncle Spam» تلاش میکرد روی فضای سیاسی آمریکا تأثیر بگذارد. در این کمپین، حسابهای جعلی با موضوعاتی مثل اختلافات حزبی و حمایت از سربازان بازنشسته آمریکایی ساخته شده بودند تا اعتماد کاربران را جلب کنند.
OpenAI هشدار داده است که همیشه نمیتوان مطمئن بود محتوایی که در اینترنت میبینیم از طرف یک فرد واقعی منتشر شده باشد؛ ممکن است برخی پستها یا نظرات، بخشی از یک عملیات سازمانیافته برای ایجاد اختلاف و سردرگمی باشند.
