کمیته رکن چهارم – آزمایشی جدید روی نرم افزار شناسایی صورت آمازون نشان داد این نرم افزار ۲۶ نماینده مجلس را به طور اشتباه شناسایی کرده است.
با وجود آنکه سازمان های قضایی در سراسر آمریکا استفاده از فناوری شناسایی صورت را تایید کرده اند، اما آزمایش های این اواخر نشان می دهد فناوری چندان قابل اعتماد نیست.
موسسه غیر انتفاعی American Civil Liberties Union در این اواخر با استفاده از نرم افزار شناسایی صورت آمازون به نام Rekognition آزمایشی انجام داده است. طی آزمایش، این نرم افزار ۲۶ نماینده مجلس آمریکا را به طور اشتباه شناسایی کرد. به عبارت دیگر نتایج آزمایش نشان داد Rekognition میان هر ۵ نفر، یک فرد را اشتباه شناسایی کرده است.
در این آزمایش تصاویر نماینده مجلس با مخزنی از عکس های مجرمان تطبیق داده شدند. این فرایند شناسایی حداقل در ۲۰۰ سازمان پلیس در سراسر آمریکا به طور معمول اجرا می شود و در همه این سازمان ها نرم افزار مورد استفاده Rekognition است.
به طور مشابه در سال ۲۰۱۸ میلادی هنگامیکه آزمایشی روی نرم افزار آمازون انجام شد، این ابزار ۲۸ نماینده را اشتباهی شناسایی کرد که بسیاری از آنها رنگین پوست بودند.
به نوشته ال ای تایمز این آزمایش مهر تاییدی بر درخواست قانونگذاران کالیفرنیایی جهت محدود کردن موارد استفاده فناوری شناسایی صورت در حوزه پلیس است.
فیل تینگ یکی از نمایندگان کالیفرنیا در این باره می گوید:
پر واضح است که این نرم افزار برای استفاده در حوزه پلیس آماده نیست و چنین خطاهایی خط بطلانی بر آن می کشند.
