کمیته رکن چهارم – کارشناسان امنیت سایبری هشدار میدهند که عاملهای هوش مصنوعی بهسرعت در حال تبدیل شدن به هویتهایی مستقل در سازمانها هستند؛ هویتهایی که اغلب بدون نظارت کافی به سامانهها، دادهها و منابع حساس دسترسی دارند.
به گزارش کمیته رکن چهارم، استفاده از عاملهای هوش مصنوعی در محیطهای سازمانی از ابزارهای ساده بهرهوری فراتر رفته و اکنون این سامانهها به سرویسهایی مانند GitHub، پایگاههای داده، سامانههای مالی، محیطهای ابری و ابزارهای توسعه متصل شدهاند. این عاملها قادرند دادهها را پردازش کنند، گردشکارها را اجرا کنند و در برخی موارد بهصورت مستقل تصمیمگیری و اقدام کنند.
بر اساس نتایج یک نظرسنجی در سال ۱۴۰۵، بیش از ۸۰ درصد سازمانها دستکم یک عامل هوش مصنوعی را شناسایی کردهاند که بدون اطلاع واحدهای فناوری اطلاعات یا امنیت ایجاد شده است. همچنین بخش قابل توجهی از سازمانها وقوع رخدادهای امنیتی مرتبط با این عاملها را گزارش کردهاند که برخی از آنها به افشای اطلاعات حساس منجر شده است.
کارشناسان معتقدند مهمترین چالش فعلی، نبود دید کافی بر سطح دسترسی و فعالیت عاملهای هوش مصنوعی است. به گفته آنها، سازمانها باید این عاملها را مانند هویتهای مستقل با مالک مشخص، مجوزهای محدود و نظارت مستمر مدیریت کنند تا از تبدیل شدن آنها به مسیرهای جدید نفوذ و نشت اطلاعات جلوگیری شود.
منبع: BleepingComputer
