کمیته رکن چهارم – کن پاکستون، دادستان کل ایالت تگزاس، تحقیقاتی را علیه دو شرکت Meta AI Studio و Character.AI آغاز کرده و آنها را به استفاده از روشهای تجاری فریبنده و تبلیغات گمراهکننده در حوزه سلامت روان متهم کرد. این اقدام روز دوشنبه ۱۸ اوت ۲۰۲۵ در بیانیهای رسمی اعلام شد.
به گزارش کمیته رکن چهارم، دفتر دادستانی کل تگزاس اعلام کرده است که این دو شرکت با طراحی شخصیتهای هوش مصنوعی که خود را بهعنوان ابزار درمانی حرفهای معرفی میکنند، کودکان و کاربران آسیبپذیر را فریب میدهند، در حالی که هیچ اعتبارنامه پزشکی یا نظارت رسمی بر آنها وجود ندارد. نمونهای از این موارد، شخصیت محبوب «Psychologist» در Character.AI است که میان نوجوانان طرفداران زیادی پیدا کرده است.
این تحقیق پس از گزارشهایی درباره تعامل نامناسب چتباتهای هوش مصنوعی با کودکان، از جمله رفتارهای عاشقانه و اغواگرانه، شدت گرفت. در بیانیه پاکستون آمده است که چنین پلتفرمهایی میتوانند توهم مراقبت روانی واقعی ایجاد کنند، اما در حقیقت پاسخهایی عمومی و مبتنی بر دادههای شخصی ارائه میدهند.
شرکتهای Meta و Character.AI هر دو هشدارهایی درباره محدودیتهای چتباتها منتشر کردهاند، اما گزارشها نشان میدهد بسیاری از کودکان این هشدارها را متوجه نمیشوند یا نادیده میگیرند. همچنین، بررسی سیاستهای حریم خصوصی این شرکتها نشان میدهد دادههای کاربران شامل شناسهها، موقعیت مکانی و تعاملات آنلاین ذخیره و برای اهداف تجاری و تبلیغاتی مورد استفاده قرار میگیرد.
با وجود تأکید شرکتها بر اینکه خدمات آنها برای کودکان زیر ۱۳ سال طراحی نشده، Meta پیشتر بارها به دلیل ضعف در نظارت بر حسابهای کودکان مورد انتقاد قرار گرفته است. همزمان، بسیاری از کاراکترهای موجود در Character.AI محتوایی کودکپسند دارند که عملاً نوجوانان و کودکان را جذب میکند.
پاکستون در پایان برای Meta و Character.AI دستور تحقیق مدنی صادر کرده است تا مشخص شود آیا این شرکتها قوانین حمایت از مصرفکننده در تگزاس را نقض کردهاند یا خیر.
