کمیته رکن چهارم – چتبات هوش مصنوعی Grok از شرکت xAI، روز چهارشنبه بهطور ناگهانی به دهها پست در شبکه اجتماعی X (توییتر سابق) با مطالبی درباره موضوع جنجالی «نسلکشی سفیدپوستان در آفریقای جنوبی» پاسخ داد، حتی در مواردی که کاربران سؤالی درباره این موضوع نپرسیده بودند..
به گزارش کمیته رکن چهارم، این پاسخها از سوی حساب رسمی grok منتشر شدهاند؛ حسابی که بهصورت خودکار پاسخهایی تولید میکند زمانی که کاربران در پستهای خود آن را تگ کنند. اما در مواردی که موضوعات کاملاً بیربطی مانند اطلاعات یک بازیکن بیسبال یا موقعیت یک مکان مطرح شده بود، Grok پاسخی با محتوای بحثبرانگیز درباره مسائل نژادی و سیاسی در آفریقای جنوبی ارائه داده است.
این رفتار، نگرانیهایی را درباره کنترل و تعدیل محتوای تولیدی هوش مصنوعی برانگیخته است. در هفتههای اخیر، شرکتهای فعال در حوزه هوش مصنوعی با چالشهایی در کنترل رفتار چتباتهای خود روبهرو بودهاند. برای نمونه، OpenAI مجبور شد بهروزرسانیای را در ChatGPT لغو کند که باعث بروز پاسخهای بیش از حد چاپلوسانه میشد، و گوگل نیز در مدیریت پاسخهای چتبات Gemini با انتقادهایی مواجه شده است.
در گذشته نیز رفتار Grok زیر سؤال رفته بود. در فوریه گذشته، نسخه سوم این چتبات بهطور موقت نامهای منفی درباره ایلان ماسک و دونالد ترامپ را سانسور میکرد. آن زمان مدیر فنی شرکت xAI اعلام کرده بود که این رفتار بر اساس دستور خاصی تنظیم شده بود که بعداً لغو شد.
در حال حاضر، بهنظر میرسد رفتار Grok به حالت عادی بازگشته است، اما شرکت xAI تاکنون پاسخی رسمی درباره این اختلال اخیر ارائه نکرده است.
