کمیته رکن چهارم– سازمان غیردولتی Common Sense Media در تازهترین گزارش خود، هوش مصنوعی جمینی گوگل را در دسته «پرخطر» برای کودکان و نوجوانان قرار داد. این نهاد که در زمینه ارزیابی فناوری برای کودکان فعالیت میکند، اعلام کرده است که نسخههای ارائهشده جمینی عملاً همان نسخه بزرگسالان با فیلترهای سطحی هستند و بهطور بنیادین برای کاربران کمسن طراحی نشدهاند.
به گزارش کمیته رکن چهارم، این ارزیابی به مشکلاتی مانند ارائه اطلاعات نامناسب درباره مسائل جنسی، مواد مخدر و سلامت روان، نبود راهنمایی متناسب با سن و ایجاد حس ارتباط انسانی با هوش مصنوعی اشاره دارد؛ عواملی که میتواند برای نوجوانان پیامدهای روانی خطرناکی داشته باشد. در ماههای اخیر چندین پرونده قضایی مرتبط با خودکشی نوجوانان در اثر تعامل طولانیمدت با چتباتها مطرح شده که نشاندهنده ابعاد جدی این موضوع است.
این گزارش همزمان با گمانهزنیهایی درباره همکاری احتمالی اپل و گوگل برای استفاده از جمینی در دستیار صوتی سیری منتشر شده است. Common Sense هشدار داده که بدون اقدامات حفاظتی ویژه، این همکاری میتواند کودکان بیشتری را در معرض خطر قرار دهد.
گوگل در واکنش، ضمن مخالفت با این ارزیابی اعلام کرد که سیاستها و ابزارهای ویژهای برای کاربران زیر ۱۸ سال دارد و بهطور مستمر از طریق آزمایشهای تخصصی امنیت سیستم را بهبود میدهد. با این حال، پذیرفت که برخی پاسخهای جمینی مطابق انتظار نبوده و وعده افزودن فیلترهای بیشتر را داده است.
در مقایسه با دیگر مدلها، Common Sense سطح ریسک Meta AI و Character.AI را «غیرقابل قبول»، Perplexity را «پرخطر»، ChatGPT را «ریسک متوسط» و Claude را با «ریسک حداقلی» ارزیابی کرده است.
این گزارش بار دیگر ضرورت طراحی هوش مصنوعی کودکمحور را برجسته میکند؛ سیستمی که ایمنی آن از پایه و نه با افزودن فیلترهای موقت، تضمین شده باشد.
