کمیته رکن چهارم – بدافزار مبتنیبر هوش مصنوعی و مجهز به یادگیری ماشینی می‌تواند تهدید بسیار بزرگی برای آینده‌ی امنیت در دنیای فناوری باشد که برای مبارزه با آن‌ها نیازمند راهکارهای متفاوتی هستیم.
هوش مصنوعی مفهوم جامعی است که امروزه در بسیاری از سیستم‌های استفاده‌شده‌ی انسان‌ها و جنبه‌های گوناگون زندگی آنان دیده می‌شود. هوش مصنوعی می‌تواند برخی از تصمیم‌گیری‌های ما را برعهده بگیرد و کاربردهای مفیدی مانند مدیریت شهرهای هوشمند داشته باشد؛ اما ممکن است برای اهداف نامطلوب نیز به‌کار برده شود؛ مثلا توسعه‌ی بدافزارها و حتی انتشار آن‌ها است. به‌همین‌دلیل، بهتر است نگاهی به آینده‌ی بدافزارهای در دست‌های هوش مصنوعی بیندازیم.
بدافزار مبتنیبر هوش مصنوعی چیست؟
هنگامی‌که از عبارت بدافزار مبتنیبر هوش مصنوعی استفاده می‌کنیم، تقریبا مفهومی مانند فیلم ترمیناتور در ذهن تداعی می‌شود که به هوش مصنوعی سرکش و مشکل‌ساز اشاره می‌کند؛ اما در واقعیت از ربات‌های قاتل خبری نخواهد بود؛ بلکه این سیستم می‌تواند بسیار زیرکانه‌تر عمل کند. چنین بدافزاری درواقع نسخه‌ی تغییریافته‌ی یکی از بدافزارهای قدیمی خواهد بود که هوش مصنوعی آن را دگرگون کرده است. این نوع بدافزارها می‌توانند سرعت گسترش بیشتری درمقایسه‌با نسل‌های قبل‌تر از خود داشته باشند یا بهینه‌تر حمله کنند. به‌جای اجرای کدهای پیش‌فرض، بدافزارهای توسعه‌یافته‌ی هوش مصنوعی می‌توانند تا حدودی قدرت مانور بیشتری داشته باشند و در شرایط خاص، مؤثرترین روش را انتخاب کنند.
هوش مصنوعی چگونه می‌تواند بدافزارها را بهبود بخشد؟
چندین راه مختلف وجود دارد که هوش مصنوعی می‌تواند ازطریق آن‌ها، بدافزارهای موجود را بهبود بخشد. البته برخی از این روش‌ها از جنبه‌ی نظری اجرایی هستند؛ اما نمی‌توان کاربرد چندانی در دنیای واقعی برای آن‌ها تصور کرد؛ درحالی‌که برخی دیگر کاملا در شرایط فعلی ملموس هستند و ظرفیت لازم برای استفاده به‌وسیله‌ی هوش مصنوعی را دارند.
یکی از ترسناک‌ترین مثال‌های بحث مدنظر به بدافزار مبتنیبر هوش مصنوعی دیپ‌لاکر (Deeplocker) مرتبط می‌شود که به‌صورت تحقیقاتیتیمی از مؤسسه‌ی IBM آن را توسعه داده است. هدف از ساخت این بدافزار نمایش ظرفیت‌های هوش مصنوعی در زمینه‌های مخرب بوده است که توانسته مثال واقعی از مفهوم بسیار مهمی در دنیای واقعی را شبیه‌سازی کند.
مفهوم اصلی دیپ‌لاکر به نحوه‌ی انتقال بدافزارها به دستگاه‌های هدف ازطریق هوش مصنوعی مرتبط می‌شود. توسعه‌دهندگان بدافزارها می‌توانند به‌کمک باج‌افزارها به هر شرکت به‌طور گسترده حمله کنند که به «حمله‌های شاتگانی» معروف است؛ زیرا همانند تیرهای شاتگان، به‌صورت گسترده و پراکنده می‌تواند قسمت‌های مختلف هر نهاد را تحت‌تأثیر قرار دهد. بااین‌حال، حمله‌های گفته‌شده چندان بهینه نیستند؛ زیرا احتمال کمی وجود دارد که بتوانند بخش‌های اصلی و حیاتی هر مؤسسه را آلوده کنند. در چنین وضعیتی، ممکن است حمله به سیستم‌های فرعی موجب به صدا درآمدن زنگ‌خطر شود و دستگاه‌های اصلی‌تر از موج حمله در امان بمانند.
بدافزار مذکور درواقع برنامه‌ای مخصوص تلکنفرانس بوده که با نسخه‌ای خاص از واناکرای (WannaCry) ترکیب شده است. این برنامه هنگام آلوده‌کردن سیستم‌ها، بلافاصله کدهای مخرب خود را فعال نمی‌کرد؛ بلکه به‌عنوان نرم‌افزار تلکنفرانس به انجام نسبی وظایفش ادامه می‌داد. هنگامی‌که این برنامه کار خود را انجام می‌دهد، صورت کاربرانش را اسکن می‌کند. هدف از این کار، شناسایی کاربر خاص و سیستم او بوده است. وقتی صورت کاربر مدنظر شناسایی شد، بدافزار فعال می‌شود و رایانه‌ی مذکور را واناکرای از کار می‌اندازد.
کرم‌های سازش‌پذیر
بدافزارهای را تصور کنید که حافظه دارند و پس از هربار شناسایی به‌وسیله‌ی ضدویروس، می‌توانند روش استفاده‌شده برای شناسایی خود را ثبت کنند. هوش مصنوعی می‌تواند راه‌های موردنیاز برای کشف بدافزار را بررسی کند و در حمله‌های بعدی، گزینه‌های جایگزینی برای شناسایی‌نشدن به‌وسیله‌ی میزبان استفاده کند. چنین پدیده‌ای می‌تواند بسیار خطرناک باشد؛ زیرا امکان دارد تنها در مدت زمان بسیار کوتاهی، تمامی روش‌های استفاده‌شده‌ی ضدویروس‌های گوناگون شناسایی شوند و رایانه‌ها دیگر راهکار دفاعی برای شناسایی و حذف برنامه‌های مخرب نداشته باشند. در چنین حالتی، بدافزار فقط نیاز دارد تا راه جدیدی برای نفوذ و عملکرد بدون به صدا درآوردن زنگ‌خطر پیدا کند و سپس خواهد توانست کدهای مخرب خود را بدون دردسر اجرا کند.
مستقل از توسعه‌دهنده
واژه‌ی احمق یا خنگ تعبیر مناسبی برای بدافزارهای امروزی است؛ زیرا خود نمی‌توانند تصمیم بگیرند یا موقعیت‌های گوناگون را بسنجند. چنین بدافزارهایی فقط می‌توانند تعدادی وظایف از پیش تعیین‌شده را انجام دهند که توسعه‌دهنده قبل از آلوده‌کردن هدف تعریف کرده است. اگر توسعه‌دهنده بخواهد برنامه‌ی زیرنظر او وظیفه‌ی جدیدی انجام دهد، باید نسخه‌ی جدیدی از فهرست دستورها را برای بدافزار خود منتشر کند.
مرکز اصلی ارتباط میان بدافزار و توسعه‌دهنده سرورهای کنترل و فرمان (Command & Control) است که باید بسیار مخفی باشند. اگر این سرور پیدا شود، ممکن است به افشای هویت هکر و در موارد بسیاری به دستگیری آن‌ها ختم شود. اگر بدافزار بتواند خودش وضعیت را بسنجد، دیگر به چنین سرورهایی نیازی نخواهد بود. همچنین، توسعه‌دهندگان هنگام انتشار دستورهای جدید درمعرض خطر افشای هویت قرار نمی‌گیرند و پس از انتشار بدافزار دیگر مسئولیت خاصی برعهده نخواهند داشت.
نظارت بر صدای کاربران برای اطلاعات حساس
اگر بدافزار مبتنیبر هوش مصنوعی بتواند کنترل میکروفون دستگاه هدف را به‌دست بگیرد، می‌تواند صدای افراد در محیط نزدیک را بشنود و ضبط کند. سپس، هوش مصنوعی می‌تواند داده‌های شنیداری را درکنار یکدیگر قرار دهد و آن‌ها را به متن تبدیل کند و برای توسعه‌دهنده ارسال کند. این روش می‌تواند بهره‌وری بسیار بیشتری برای هکرها داشته باشد تا دیگر به گوش‌دادن به تمامی اصوات ضبط‌شده نیازی نداشته باشند.
رایانه چگونه می‌تواند یاد بگیرد؟
بدافزارها نیز مانند بسیاری دیگر از برنامه‌ها می‌توانند ازطریق یادگیری ماشینی، وظایف و کارهای خود را بسنجند و به‌مرور زمان از تجربه‌های حاصل به یادگیری دست پیدا کنند. یادگیری ماشینی می‌تواند در زمینه‌های بسیاری به کمک توسعه‌دهندگان بیاید تا دیگر به نوشتن کد برای تمامی حالت‌های ممکن نیازی نباشد. کافی است توسعه‌دهنده به هوش مصنوعی نشان دهد چه نتیجه‌ای مطلوب است و چه نتیجه‌ای نامطلوب. سپس، بدافزار می‌تواند ازطریق آزمون و خطا، روش‌های صحیح برای دستیابی به نتیجه‌ی دلخواه را یاد بگیرد.
وقتی هوش مصنوعی مجهز به یادگیری ماشینی به مانعی برخورد می‌کند، روش‌های متعددی را برای حل آن امتحان خواهد کرد. در تلاش‌های ابتدایی، عملکرد بسیار ضعیفی برای حل مشکل از آن سر خواهد زد؛ اما رایانه می‌تواند اشکال کار را بررسی کند و به‌خاطر بسپارد تا بهبودهای لازم را در آینده فراهم کند. حین فرایند طولانی آزمون و خطا، بالاخره رایانه متوجه می‌شود راه‌حل صحیح برای رسیدن به پاسخ دلخواه چیست و از‌آن‌پس گزینه‌ی مذکور را برای مسئله‌ی مدنظر انتخاب می‌کند. درواقع، می‌توان گفت هوش مصنوعی می‌تواند از اشتباه‌های گذشته‌ی خود درس بگیرد و از انجام آن‌ها در آینده اجتناب کند. توسعه‌دهندگان بدافزارها می‌توانند از این قابلیت یادگیری ماشینی به‌منظور یافتن خودکار راه‌های صحیح و بهینه برای حمله به اهداف استفاده کنند.
راهکار دفاعی درمقابل بدافزارهای مبتنیبر هوش مصنوعی چیست؟
مشکل اصلی بدافزارهای مبتنیبر هوش مصنوعی و یادگیری ماشینی این است که بسیار سریع می‌توانند سدهای امنیتی استفاده‌شده‌ی ضدویروس‌ها را دور بزنند. ضدویروس‌ها عملکرد نسبتا پیش‌بینی‌شدنی و مشخصی دارند؛ به‌همین‌دلیل، فریب‌دادن آن‌ها برای هوش مصنوعی بسیار آسان خواهد بود. چنین برنامه‌هایی برای شناسایی بدافزارها عملکرد سایر برنامه‌ها را بررسی می‌کنند و درصورت مشاهده‌ی موردی مشکوک، فعالیت‌های مخرب را مسدود می‌کنند. شایان ذکر است بدافزارهای نوین می‌توانند عملکرد یکسان و پیش‌بینی‌شدنی نداشته باشند. آن‌ها مدام به سدهای دفاعی هجوم می‌برند و درنهایت موفق می‌شوند راهی برای نفوذ به سیستم قربانی پیدا کنند. پس از ورود به رایانه‌ی هدف نیز می‌توانند در خفا و برخلاف شیوه‌های رایج، فعالیت‌های مخرب خود را ادامه دهند تا ضدویروس‌ها آن‌ها را شناسایی کنند. ضدویروس‌ها نیز تا دریافت به‌روزرسانی مناسب نمی‌توانند بدافزار را تشخیص دهند.
بهترین راه‌حل برای مبارزه با چنین بدافزارهایی چیست؟ اکنون به‌نظر می‌رسد ضدویروس‌های مبتنیبر هوش مصنوعی، گزینه‌ی مناسبی برای پاسخ دفاعی درمقابل بدافزارهای نوین باشند. چنین برنامه‌هایی از داده‌های آماری رایج برای تشخیص فعالیت‌های مخرب استفاده نمی‌کنند و می‌توانند با بررسی اجزای گوناگون هر برنامه و فعالیت‌های متعدد آن، به مخرب‌بودن آن پی ببرند.
درنهایت، باید گفت قوانین ساده و فعلی نمی‌توانند گزینه‌ی مناسبی برای مبارزه با بدافزارهای مبتنیبر هوش مصنوعی باشند. یادگیری ماشینی به چنین برنامه‌هایی کمک خواهد کرد در آینده، سازش بیشتری پیدا کنند و از دید کاربران و ضدویروس‌ها پنهان بمانند. البته اکنون با تهدیدی همانند آنچه در فیلم‌های هالیوودی می‌بینیم، مواجه نیستیم؛ اما خطر چنین بدافزارهایی در دنیای واقعی کاملا وجود دارد.
منبع : زومیت
