کمیته رکن چهارم – نقص هوش مصنوعی اجازه می دهد به راحتی سیستم رتبه بندی اعتبار بانک ها فریب بخورند.
محققان دانشگاه بن گوریون موفق به کشف یک تکنیک برای استخراج و بهره برداری از سیستم های هوش مصنوعی بانک ها و دیگر شرکت های مالی شده اند که به درخواست کننده اجازه می دهد تا رتبه بندی اعتبار خود را کنترل کند و شرایطی را که خود برای اعطای وام و تسهیلات ترجیح می دهد ، لحاظ کند. این تکنیک از نقص عمده در رتبه بندی اعتبار سیستم های محبوب در بازار بهره می برد، که بر الگوریتم های مشابه تکیه دارند و در نهایت، نتایج اشتباه را در سیستم ها فعال می کند و همان نتایج ارائه می شود.
بنابراین، محققان به این نکته پی بردند که اطلاعات شخصی باید هنگام درخواست وام تغییر کند، تا شرایط به نفع متقاضی باشد؛ مثلا، تغییر محل اقامت یا افزایش مانده حساب جاری با تنها ۵۰۰شکل می تواند تصمیم سیستم را تغییر دهد و باعث شود که نرخ سود به طور ویژه پایین باشد.
هم اکنون از طریق بخشی از AWS آمازون و Google Cloud ، الگوریتم های هوش مصنوعی می توانند به راحتی قابل دستیابی باشند. آدن لوی ،محقق این آزمون به خبرگزاری Calcalist گفت:
شما مجبور نیستید به طور تخصصی به یادگیری در مورد این ماشین بپردازید.
او توضیح داد:
در اکثر سناریوهای مورد استفاده، الگوریتم های یادگیری ماشین در ۹۰ درصد موارد مشابه یکدیگر هستند به عنوان مثال، الگوریتم هایی مانند اعتبار رتبه بندی در بانک ها همچنین در سیستم های تشخیص چهره فرودگاه ها استفاده می شود. ما چنین الگوریتمی را گرفته ایم و آن را به عنوان بخشی از تأثیر بر روی اعتباری که قرار است لحاظ گردد ، به کار برده ایم.
به گفته لوی، این شباهت ممکن است حمله به بانک های مختلف را آسان کند .
این مطالعه که یافته های آن امروز در کنفرانس پروژه های مهندسی دانشگاه ارائه شده است، یک نقص مشکوک را نشان می دهد. بسیاری از بانک ها در داخل و خارج از اسرائیل از چنین سیستم هایی برای ارزیابی خطرات اعطای وام استفاده می کنند. این سیستم ها را می توان در وب سایت ها یا برنامه های کاربردی که عمدتا به عنوان بخشی از اعطای وام با مبالغ کم که به طور مستقیم به مشتری آنلاین اعطا می شوند، یافت بنابراین تقریبا به طور خودکار کار می کنند. شعبه های بانکی اغلب هنگامی که یک مشتری می آید و مجددا وام پیشین خود را درخواست می کند ، از این فرایند استفاده می کنند .
منبع : سایبربان
