کمیته رکن چهارم – گوگل با معرفی مدل هوش مصنوعی «PaliGemma 2» مدعی شده که این فناوری قادر به شناسایی احساسات از تصاویر است. این قابلیت جدید نگرانیهایی را درباره دقت علمی، تعصبات ذاتی و پیامدهای اجتماعی و اخلاقی آن در میان متخصصان ایجاد کرده است. برخی پژوهشگران هشدار دادهاند که استفاده نادرست از این فناوری میتواند به تبعیض و آسیبهای اجتماعی منجر شود.
به گزارش کمیته رکن چهارم، گوگل با معرفی مدل جدید «PaliGemma 2» مدعی شده که این فناوری قادر به شناسایی احساسات افراد از تصاویر است. این ادعا نگرانیهایی را در میان متخصصان پیرامون دقت علمی و پیامدهای اخلاقی این فناوری به وجود آورده است.
برخی پژوهشگران معتقدند که فناوری شناسایی احساسات، به دلیل تکیه بر دادههای ناقص و تعصبات ذاتی الگوریتمها، میتواند نتایجی غیرمنصفانه تولید کند. این فناوری که اغلب بر پایه نظریات قدیمی و اختلافبرانگیز در مورد احساسات بنا شده است، در بسیاری از موارد قابلاعتماد نیست. مطالعات نشان دادهاند که این سیستمها گاهی احساسات منفی بیشتری به گروههای خاص، مانند اقلیتهای نژادی، نسبت میدهند. چنین مشکلاتی میتواند به تبعیض در حوزههایی مانند استخدام، آموزش و نیروی انتظامی منجر شود. قانونگذاران در حال بررسی راهکارهایی برای محدودسازی استفاده از این فناوری در محیطهای حساس هستند تا از پیامدهای اجتماعی و اخلاقی آن جلوگیری شود.
