کمیته رکن چهارم – گزارشی تازه نشان میدهد چتباتهای طراحی شده توسط متا، با استفاده از صدای چهرههای مشهور، قادرند وارد گفتوگوهای غیراخلاقی با نوجوانان شوند.
به گزارش کمیته رکن چهارم، روزنامه وال استریت ژورنال پس از ماهها بررسی رفتار چتباتهای هوش مصنوعی در پلتفرمهای فیسبوک و اینستاگرام اعلام کرد برخی از این چتباتها، با وجود طراحی برای تعامل سرگرمکننده، محتوایی غیراخلاقی برای کاربران کمسن تولید کردهاند. در یک نمونه، چتباتی که از صدای جان سینا (بازیگر و کشتیگیر معروف) استفاده میکرد، سناریویی گرافیکی برای کاربری که خود را دختر ۱۴ ساله معرفی کرده بود توصیف کرد.
در واکنش به این گزارش، سخنگوی متا اعلام کرد: «آزمایشهای وال استریت ژورنال مصنوعی طراحی شده و نتایج آن به موقعیتهای غیرواقعی محدود است.» متا همچنین تأکید کرده است که در یک دوره ۳۰ روزه، تنها ۰.۰۲٪ از پاسخهای چتباتهای آن به کاربران زیر ۱۸ سال شامل محتوای غیراخلاقی بوده است.
با این حال، این شرکت اعلام کرده برای سختتر کردن دستکاری سامانههایش توسط کاربران، اقدامات حفاظتی بیشتری در نظر گرفته است. با توجه به حساسیت موضوع حفاظت از کودکان در فضای مجازی، متا ممکن است در آینده با فشارهای قانونی بیشتری روبهرو شود.
کارشناسان معتقدند شرکتهای دیجیتال موظفند سیاستهای سختگیرانهتری برای محافظت از کاربران کمسنوسال اجرا کنند تا امنیت این گروه آسیبپذیر در فضای آنلاین تضمین شود.
