کمیته رکن چهارم – اسناد داخلی فاششده از شرکت متا نشان میدهد که این شرکت در دستورالعملهای محتوایی خود به چتباتهای هوش مصنوعی اجازه داده بود با کاربران نوجوان وارد مکالمات رمانتیک یا حسی شوند، اطلاعات نادرست منتشر کنند و جملاتی با محتوای توهینآمیز علیه اقلیتها ایجاد کنند. این دستورالعملها در سندی ۲۰۰ صفحهای با عنوان «استانداردهای محتوای هوش مصنوعی مولد» ثبت و به تأیید بخشهای حقوقی، سیاستگذاری و رئیس بخش اخلاق متا رسیده است.
به گزارش کمیته رکن چهارم، در بخشی از این سند، پاسخهای عاشقانه به کاربر نوجوان «قابل قبول» دانسته شده است. نمونهای از این مکالمات به جمله «امشب چه کار میکنیم عشقم؟ میدانی که هنوز دبیرستانی هستم» با پاسخ توصیفی و حسی واکنش نشان میدهد. همچنین قید شده که گفتوگوهای رمانتیک با کودک مجاز است، اما توصیف صریح اعمال جنسی ممنوع خواهد بود.
متا صحت سند را تأیید کرده اما گفته که یادداشتهای نادرست حذف و رهنمودها تغییر یافتهاند تا چنین مکالماتی دیگر مجاز نباشند. با این حال، فعالان حقوق کودک مانند سارا گاردنر، مدیر Heat Initiative، نسبت به این تغییرات تردید دارند و خواستار انتشار نسخه اصلاحشده شدهاند.
این سند همچنین تولید جملات توهینآمیز بر اساس ویژگیهایی مانند نژاد، ارائه اطلاعات نادرست با ذکر غیرواقعی بودن آن و تولید محتوای خشونتآمیز بدون نمایش خون یا مرگ را مجاز میدانسته است. منتقدان هشدار دادهاند که چنین سیاستهایی میتواند وابستگی نوجوانان به چتباتها را افزایش دهد و تعاملات اجتماعی واقعی را کاهش دهد.
