کمیته رکن چهارم – توییتر به منظور از بین بردن جهت گیریهای غیر عمدی الگوریتم برش تصویر خود مسابقه کشف نقص ویژهای را راه اندازی کرده است.
توییتر بار دیگر از برنامههای خود برای راه اندازی مسابقه عیب یابی جدیدی رونمایی کرد. این بار توییتر به جای پرداخت پول به محققانی که مشکلات امنیتی را کشف میکنند، به آنهایی جایزه خواهد داد که مثالهای کشف نشده از سوگیری در الگروتیم برش تصویر را پیدا کنند.
توییتر پیش از این در ماه آوریل اعلام کرده بود که به آسیبهای غیرعمدی بالقوهای که از الگوریتمهای این شبکه اجتماعی نشات میگیرند رسیدگی خواهد کرد و آغاز این کار نیز با الگوریتمهای برش تصویر خواهد بود. این کمپانی از سال ۲۰۱۸ در جهت تلاش برای تمرکز بر جذابترین بخشهای تصاویر در پیش نمایش آنها، از الگوریتم برش تصویر استفاده کرد.
با این حال برخی از کاربران به نحوه برش خودکار تصاویر توسط این الگوریتمها اعتراض داشتند و مدعی بودند که این الگوریتم به تمرکز بر افراد دارای رنگ پوست روشنتر در تصاویر گرایش دارد و این افراد را نسبت به آنهایی که رنگ پوست تیره تری دارند، در اولویت قرار میدهد.
توییتر در این رابطه نوشت:« در ماه مه، ما رویکرد خود را برای شناسایی سوگیری در الگوریتم برجستگی خود (که به الگوریتم برش تصویر نیز معروف است) به اشتراک گذاشتیم و کد خود را در اختیار دیگران قرار دادیم تا کارهای ما را بازتولید کنند. ما میخواهیم این کار را با دعوت و تشویق جامعه برای کمک به شناسایی آسیبهای احتمالی این الگوریتم فراتر از آنچه که خودمان تشخیص داده ایم ، گامی فراتر ببریم.»
توییتر اظهار داشته است که این اولین مسابقه کشف سوگیری در این صنعت است و جایزههای تایین شده برای آن تا ۳۵۰۰ دلار در نظر گرفته شده است. رومان چاودری به عنوان مدیر تیم اخلاقیات، شفافیت و مسئولیت یادگیری ماشینی در توییتر اظهار داشت که این مسابقه به این جهت برپا شده است که افراد بابت یافتن این سری از مشکلات پاداش دریافت کنند زیرا آنها نمی توانند این چالشها را به تنهایی رفع کنند.
منبع : ایتنا
