کمیته رکن چهارم – شرکت OpenAI اعلام کرده چند حساب کاربری مرتبط با کاربران چینی را به دلیل استفاده مشکوک از ChatGPT برای طراحی ابزارهای رصد شبکه‌های اجتماعی و تهیه محتوا برای تبلیغات هدفمند، مسدود کرده است.
به گزارش کمیته رکن چهارم، این حساب‌ها از طریق VPN و با هدف همکاری با مشتریان دولتی چین به ChatGPT متصل می‌شدند. فعالیت‌های این کاربران شامل توسعه ابزاری برای پایش محتوای قومیتی، مذهبی و سیاسی در پلتفرم‌هایی نظیر ایکس، فیسبوک، اینستاگرام، ردیت، تیک‌تاک و یوتوب بوده است. OpenAI تأکید کرده که هرچند مدل‌های این شرکت مستقیماً در عملیات رصد به‌کار نرفته‌اند، اما رفتار مشکوک حساب‌ها موجب مسدودسازی آن‌ها شده است.
همچنین OpenAI اعلام کرده یک حساب دیگر را به دلیل استفاده از ChatGPT برای تدوین پیشنهاد مرتبط با ردیابی جابه‌جایی مسلمانان اویغور، تطبیق داده‌ها با سوابق پلیس و ایجاد هشدارهای خودکار مسدود کرده است. این اقدام در شرایطی انجام می‌شود که نهادهای حقوق بشری سال‌هاست نسبت به نقض حقوق اویغورها در چین هشدار داده‌اند.
در گزارش منتشرشده، جزئیاتی درباره تلاش گروه‌هایی از چین، روسیه و کره شمالی برای بهره‌برداری از مدل‌های هوش مصنوعی به‌منظور ساخت بدافزار، ابزارهای دسترسی از راه دور، نرم‌افزارهای سرقت اطلاعات و روش‌هایی برای دور زدن شناسایی‌های امنیتی نیز منتشر شده است.
شرکت OpenAI همچنین شبکه‌هایی از کلاهبرداران مستقر در کامبوج، میانمار و نیجریه را شناسایی کرده که قصد داشته‌اند از ChatGPT برای اجرای طرح‌های تقلب و فریب دیجیتال استفاده کنند. این شرکت اعلام کرده که با تقویت نظارت بر استفاده از مدل‌های خود، به مقابله با چنین تهدیداتی ادامه خواهد داد.
