کمیته رکن چهارم – تاکنون مطالب بسیاری درباره مزایا، معایب و تهدیداتی که به واسطه هوش مصنوعی ممکن است آینده ما را در معرض خطر قرار دهد نوشته شده است. اما موضوعی که کمتر به آن پرداخته شده این است که آیا هوش مصنوعی روزگاری در قامت یک هکر این توانایی را به دست خواهد آورد تا به سامانه‌های کامپیوتری حمله کند؟
به گزارش کمیته رکن چهارم،به طوری که هکرها تنها در نقش یک راهنما در پشت صحنه به فعالیت بپردازند؟ بدون شک در کمتر از ده سال دیگر شاهد حضور الگوریتم‌های هوشمند مخربی خواهیم بود که جایگزین هکرها خواهند شد. در حالی که هوش مصنوعی با شعار راحت‌تر کردن زندگی در حوزه‌های مختلف به ویژه دنیای امنیت پا به میدان گذاشته است، اما این احتمال وجود دارد که در آینده به عنوان یک ابزار نفوذ مورد استفاده قرار گیرد.
ابرکامپیوترهای خطایاب
در ماه آگوست، کنفرانسی تحت عنوان چالش بزرگ سایبری با حمایت سازمان‌های دولتی و نظامی ایالات متحده برگزار شد. در این رویداد نقش و قابلیت‌های هوش مصنوعی در زمینه دفاع سایبری مورد بررسی قرار گرفت. در این رویداد که در نوع خود جالب توجه بود، هفت ابرکامپیوتر در چالشی قرار گرفتند تا هر یک رخنه‌هایی که در نرم‌افزارها وجود دارد را شناسایی کنند و آن‌ها را ترمیم کنند. به لحاظ برنامه‌نویسی این مدل به کارگیری فناوری می‌تواند به یاری شرکت‌های توسعه‌دهنده نرم‌افزارها آماده و نرم‌افزارها را از وجود هرگونه رخنه‌ای که از دید برنامه‌نویسان پنهان مانده است، نجات دهد. این قابلیت فوق‌العاده ابرکامپیوترها دستمایه به وجود آمدن این فرضیه شد که اگر هوش مصنوعی روزگاری در جهت منفی مورد استفاده قرار گیرد این پتانسیل را خواهد داشت تا به عنوان یک ابزار ویران‌گر مورد استفاده هکرها قرار گیرد؟ جواب این پرسش مثبت است.
هوش مصنوعی خوبی و بدی را به یک اندازه مورد حمایت قرار می‌دهد
هکرها این توانایی را دارند تا از این فناوری در زمینه اسکن نرم‌افزارها و شناسایی آسیب‌پذیری‌های ناشناخته استفاده کرده و بهترین شکل از این رخنه‌ها سوء استفاده کنند. جالب‌تر آن‌که هوش مصنوعی این پتانسیل را دارد تا این‌کار را چند مرتبه سریع‌تر و دقیق‌تر از عامل انسانی انجام دهد.
در آینده نزدیک هوش مصنوعی به هکرها اجازه خواهد داد یک استراتژی کامل حمله که شامل برآورد اولیه، تجیهزات موردنیاز و شدت خسارات است را محاسبه کرده و در ادامه یک استراتژی مخرب کامل را در اختیار متقاضیان قرار دهند.
در نتیجه نفوذهای طاقت‌فرسا به زیرساخت‌هایی که به شدت محافظت می‌شوند و بهره‌برداری از این رخنه‌ها که در حال حاضر برای هکرها شبیه به یک کابوس شبانه است، در آینده به متاعی ساده، ارزان و سرشار از سود تبدیل خواهد شد. در حالی که دنیای فناوری به شدت روی طراحی و ساخت ماشین‌های خودران و روبات‌های هوشمند متمرکز شده است، اما در مقابل تمامی کارشناسان امنیتی به خوبی از خطراتی که به واسطه هوش مصنوعی بشریت را تهدید می‌کنند، اطلاع دارند.
دیوید ملسکی، معاون مدیر بخش تحقیق و پژوهش شرکت GrammaTech در این ارتباط گفته است: «فناوری همواره ترسناک است.» شرکت ملسکی یکی از شرکت‌های حاضر در این رویداد بود که ابرکامپیوتر این شرکت موفق شد رخنه‌های بزرگی را در نرم‌افزارها شناسایی کند. این شرکت سعی می‌کند فناوری‌هایی را طراحی کند که به شرکت‌های تولید کننده تجهیزات اینترنت اشیا و همچنین تولیدکنندگان مرورگرهای اینترنتی کمک کند، محصولات ایمن‌تری را تولید کنند. ملسکی در این ارتباط گفته است: «شناسایی رخنه‌ها و آسیب‌پذیری‌ها همانند یک شمشیر دو لبه است. ما در نظر داریم این فرآیند شناسایی را خودکارسازی کنیم.»
هکرها همانند سازمان‌های بزرگ قادر به تولید الگوریتم‌های هوشمند مخرب هستند
کارشناسان امنیتی هشدار داده‌‌اند که نیمه تاریک فناوری همواره در کنار ما قرار دارد. هر کاربری این قابلیت را در اختیار دارد تا هوش مصنوعی را به عنوان یک ابزار تهاجمی مورد استفاده قرار داده و آن‌را کنترل کند. ملسکی در این ارتباط گفته است: «به بدافزارهایی توجه کنید که تجهیزات صنعتی را مورد نفوذ قرار می‌دهند. برای یک لحظه تصور کنید بدافزاری همچون استاکس‌نت به صورت خودکار زیرساخت‌ها را مورد تهاجم قرار دهد. دامنه خسارات وارد شده غیر قابل تصور خواهد بود. این یک هشدار جدی است.»
تومر واینگارتن، مدیرعامل شرکت امنیتی SentinelOne گفته است: «دوست ندارم یک ایده اولیه در اختیار کسی قرار دهم. اما فناوری‌هایی که امروزه به صورت غیر محسوس در اینترنت برای شناسایی آسیب‌پذیری‌ها مورد استفاده قرار می‌گیرند، ممکن است در آینده به عنوان یک ابزار تهاجمی به ما حمله کنند.»
آینده تاریک به آرامی در حال شکل‌گیری است
نشانه‌های عملیاتی شدن این چنین تهدیداتی به آرامی در حال شکل‌گیری است. هکرهایی که در بازارهای زیرزمینی سرویس‌های مخرب را اجاره می‌دهند، سایت‌هایی که از رابط‌های کاربری جذاب فریبنده استفاده می‌کنند و تنها با چند دستور ساده قادر هستند سامانه‌های کامپیوتری را به یک باج‌افزار خطرناک آلوده کنند، تنها چند نشانه کوچک از شکل‌گیری این تهدیدات خودکار است. واینگارتن در این ارتباط گفته است: «این احتمال وجود دارد که در آینده این سرویس‌ها و ابزارهای مخرب با فناوری هوش‌مصنوعی ترکیب شوند و از پایه قادر به پیاده‌سازی یک استراتژی حمله، اجرا و برآورد خسارات جانبی شوند. در این مرحله است که مجرمان سایبری همانند همتایان خود در جبهه مخالف طعم خوش به کارگیری هوش مصنوعی در بعد مخرب را تجربه خواهند کرد.»
هکرها هر زمان تشخیص دهند هوش مصنوعی را به خدمت می‌گیرند
شرکت امنیتی Cylance از جمله شرکت‌هایی است که از الگوریتم یادگیری ماشینی برای متوقف کردن فعالیت بدافزارها استفاده می‌کند. این شرکت نمونه‌های اولیه بدافزارها را دریافت می‌کند و یک مدل ریاضی را بر مبنای آن‌ها ایجاد می‌کند. در ادامه این مدل می‌تواند رفتار عادی و غیرعادی یک سامانه را تشخیص داده و یک تهدید را دفع کند. جان میلر کارشناس ارشد این شرکت در این ارتباط گفته است: «ما همواره یک احتمال را در اختیار مشتریان خود قرار می‌دهیم که نشان می‌دهد یک فایل رفتار مسالمت‌آمیزی دارد یا مخرب است. یادگیری ماشینی در ۹۹ درصد موارد به خوبی قادر به شناسایی تهدیدات بوده است. ما همواره در حال جمع‌آوری نمونه‌های اولیه هستیم، به دلیل این‌که هرچه مدل با داده‌های بیشتری آموزش ببیند، با دقت بیشتری تهدیدات را شناسایی می‌کند.»
پیاده‌سازی مدل‌های دفاعی مبتنی بر یادگیری ماشینی هزینه‌بر هستند
میلر در این ارتباط گفته است: «ما برای آن‌که بتوانیم این مدل‌های یادگیری ماشینی را پیاده‌سازی کنیم هر ماه نزدیک به نیم میلیون دلار هزینه می‌کنیم. این هزینه‌ای است که بابت سرویس‌های رایانشی ابری آمازون باید پرداخت شود. در حالی که پرداخت این هزینه در مقطع فعلی برای بسیاری از هکرها امکان‌پذیر نیست، اما در آینده هزینه‌های مربوط به محاسبات ابری به شکل چشم‌گیری کاهش پیدا خواهد کرد.»
هکرها هر زمان تشخیص دهند از هوش مصنوعی استفاده می‌کنند
میلر می‌گوید: «شاید تعجب کنید که چرا هکرها هنوز از هوش مصنوعی استفاده نکرده‌اند. جواب مشخص هست. هنوز نیازی به این کار نیست. ارسال ایمیل‌های فیشینگ، گذرواژه‌های ضعیف، سامانه‌های آسیب‌پذیر، نرم‌افزارهای آلوده به درب‌های پشتی همگی به سادگی در اختیار هکرها قرار دارند. امروزه اگر بخواهید به یک سامانه نفوذ کنید این‌کار به سادگی هرچه تمام‌تر انجام می‌شود. اما زمانی که شرکت‌ها به طور کامل از هوش مصنوعی در زمینه طراحی نرم‌افزارها استفاده کنند و همچنین محاسبات کوانتومی به میدان وارد شوند، آن‌گاه هکرها نیز به سراغ هوش مصنوعی خواهند رفت.»
