کمیته رکن چهارم – OpenAI اعلام کرد که حسابهای کاربری متعددی را که از ChatGPT برای توسعه ابزارهای نظارتی و کمپینهای نفوذ سایبری استفاده میکردند، مسدود کرده است. برخی از این شبکهها از ChatGPT برای رصد اعتراضات، انتشار اطلاعات نادرست و اجرای حملات سایبری بهره میبردند.
به گزارش کمیته رکن چهارم، این فعالیتها شامل نظارت بر اعتراضات ضدچینی، کلاهبرداریهای استخدامی کره شمالی، تولید محتوای رسانهای ضدآمریکایی از چین، و انتشار تبلیغات سیاسی از ایران بوده است. همچنین، گروههای هکری کره شمالی از این ابزار برای جمعآوری اطلاعات درباره حملات سایبری و ارزهای دیجیتال استفاده کردهاند.
در ژانویه ۲۰۲۵، تحقیقات نشان داد که ۵۷ گروه تهدید از چین، جمهوری اسلامی ایران، کره شمالی و روسیه از مدلهای هوش مصنوعی برای حملات سایبری و انتشار اطلاعات نادرست استفاده کردهاند. این روند نشاندهنده افزایش استفاده از هوش مصنوعی در عملیاتهای سایبری جهانی است.
OpenAI تأکید کرد که همکاری بین شرکتهای هوش مصنوعی، شبکههای اجتماعی و پلتفرمهای ابری ضروری است تا تهدیدات سایبری بهطور مؤثرتری شناسایی و مسدود شوند. این شرکت از همکاری گسترده با دیگر سازمانها برای مقابله با سوءاستفاده از هوش مصنوعی در حملات سایبری و اطلاعات نادرست خبر داد.
