کمیته رکن چهارم – به‌تازگی یکی از دانشجویان دانشگاه برکلی موفق شد تا با استفاده از یک سری تصاویر ساده هوش مصنوعی را به طرز فضاحت باری فریب بدهد.
به‌تازگی یکی از دانشجویان دانشگاه برکلی موفق شد تا با استفاده از یک سری تصاویر ساده هوش مصنوعی را به طرز فضاحت باری فریب بدهد.
تجربه نشان داده است که هوش مصنوعی تا تبدیل‌شدن به یک انسان نیمه‌هوشمند راه درازی درپیش دارد. این سیستم شاید بتواند در برخی مواقع به‌خوبی عمل کند، اما همان سیستم با چند سوال جدید فریب می‌خورد.
دن هاندریکس به‌عنوان دانشجوی دکتری دانشگاه برکلی، با چند تصویر ساده نشان داده است که هوش مصنوعی امروزی تا چه حد سطحی است.
مجموعه‌ای از تصاویرعرضه شده توسط این فرد توانسته است در ۹۸ درصد مواقع هوش مصنوعی را فریب بدهد و سنجاب‌ها با شیرهای دریایی و یک سنجاقک با دریچه فاضلاب اشتباه گرفته می‌شوند.
این تصاویر در واقع زیرمجموعه‌ای از ImageNet است که دربرگیرنده بیش از ۱۴ تصویر نام‌گذاری شده دستی است که برای تربیت هوش مصنوعی طراحی‌شده است.
برای مثال اگر بخواهید هوش مصنوعی‌تان گربه‌ای را در چشم‌اندازی تشخیص بدهد، تنها به دسته‌بندی گربه‌ها اشاره می‌کنید و باقی کار را به آن هوش مصنوعی می‌سپارید.
.jpg)
این زیرمجموعه که با نام ImageNet-A شناخته می‌شود، از تصاویری تشکیل شده است که دائما هوش مصنوعی را فریب می‌دهد و می‌تواند پیامدهای بسیار جدی‌ای در دنیای واقعی داشته باشد.
برای مثال اشتباه گرفتن یک گربه با یک سگ توسط هوش مصنوعی ممکن است قابل‌چشم‌پوشی باشد اما پیامدهای اشتباه گرفتن یک عابر پیاده با چراغ راهنمایی اصلا قابل‌قبول نیست.
اگر بخواهید می‌توانید هوش مصنوعی‌تان را مجبور کنید که با استفاده از ImageNet-A آموزش ببیند، اما در واقع مسئله‌ای که به‌جای مشکلات اساسی در محتوای رمزگشایی شده به تصاویر خاص ربط داده می‌شود را حل نکرده‌اید.
به بیان دیگر، حتی ساده‌لوح‌ترین انسان می‌داند که یک دریچه فاضلاب روی شاخه درختان نمی‌نشیند، اما یک هوش مصنوعی به‌راحتی فریب می‌خورد.
پس چگونه می‌توان این مشکل بزرگ در هوش مصنوعی را حل کرد؟
راه‌حل متخصصان تبدیل هوش مصنوعی از “قطعی بودن” به “دقیق بودن” است. به این ترتیب یک هوش مصنوعی در برخورد با مشکلات این‌چنینی به‌جای انتخاب میان ماهیت گربه بودن یا نبودن، مجبور به استدلال آوری در رابطه با علت ندانستن این ماهیت می‌شود.
با این وجود روش یاد شده نیازمند کار و تلاش بسیار فراوان و تغییر نگرش فناوری‌های تشخیص تصاویر است.
منبع : رایورز
