کمیته رکن چهارم – مدیران امنیتی شرکتهای Datadog، Jamf و ASOS نسبت به افزایش استفاده از ابزارهای هوش مصنوعی برای تولید نرمافزار، اسکریپت و خودکارسازیهای بدون نظارت هشدار دادهاند؛ موضوعی که میتواند دید و کنترل امنیتی سازمانها را با چالش جدی مواجه کند.
به گزارش کمیته رکن چهارم، با گسترش ابزارهای تولید کد مبتنی بر هوش مصنوعی، کارکنان میتوانند بدون نیاز به دانش تخصصی، برنامهها و عاملهای نرمافزاری ایجاد کرده و آنها را به سامانههای سازمانی متصل کنند. بررسیهای شرکت Red Access نشان داده است که بیش از ۳۸۰ هزار دارایی عمومی در پلتفرمهای موسوم به Vibe Coding ایجاد شده که بخشی از آنها حاوی اطلاعات حساس سازمانی بودهاند.
کارشناسان امنیتی معتقدند ممنوع کردن ابزارهای هوش مصنوعی راهکار مؤثری نیست، زیرا کارکنان برای افزایش بهرهوری همچنان از این ابزارها استفاده خواهند کرد. به همین دلیل بسیاری از سازمانها به سمت ارائه ابزارهای تأییدشده، ثبت و مدیریت عاملهای هوش مصنوعی و تقویت کنترلهای فنی حرکت کردهاند.
به گفته این مدیران، مهمترین چالش آینده نه جلوگیری از ایجاد این ابزارها، بلکه شناسایی، مدیریت و نظارت مستمر بر نرمافزارها و خودکارسازیهایی است که با کمک هوش مصنوعی در محیطهای سازمانی ایجاد میشوند.
منبع: BleepingComputer
