کمیته رکن چهارم– تنها دو روز پس از رونمایی از مرورگر هوش مصنوعی جدید OpenAI با نام «ChatGPT اطلس»، کارشناسان امنیت سایبری نسبت به وجود آسیبپذیری جدی در این مرورگر هشدار دادهاند. به گفته آنها، این مرورگر در برابر حملات موسوم به «تزریق پرامپت غیرمستقیم» آسیبپذیر است؛ روشی که به مهاجمان امکان میدهد با ارسال دستورهای پنهان در محتوای وب، کنترل عامل هوش مصنوعی را در دست گرفته و به دادههای حساس کاربران دسترسی یابند.
به گزارش کمیته رکن چهارم، حالت «عاملمحور» یا Agent Mode در مرورگر جدید OpenAI که وظایف آنلاین را بهصورت خودکار انجام میدهد، محور اصلی نگرانیهاست. در این نوع حملات، هکرها میتوانند با گنجاندن پیامهای مخفی در صفحات وب، عامل هوش مصنوعی را فریب داده و آن را به اجرای دستورهای ناخواسته یا مخرب وادار کنند. این تهدید بهویژه زمانی خطرناک است که مرورگر به حسابهای کاربری حساس مانند سرویسهای مالی یا ایمیل متصل باشد.
کارشناسان هشدار دادهاند که چنین حملاتی میتواند حتی از طریق صفحاتی ساده مانند پستهای شبکههای اجتماعی یا اسناد آنلاین انجام شود. این آسیبپذیری در حالی مطرح میشود که OpenAI اعلام کرده، حالت عامل ChatGPT برای اجرای کد یا دسترسی مستقیم به فایلها طراحی نشده است. با این حال، این شرکت اذعان کرده است که هیچ تدبیر امنیتی نمیتواند خطر را بهطور کامل حذف کند و کاربران باید هنگام استفاده از این قابلیت دقت بیشتری داشته باشند.
در بیانیههای داخلی OpenAI آمده است که تیم امنیتی این شرکت با اجرای آزمایشهای فنی گسترده و افزودن لایههای حفاظتی جدید در تلاش است تا مانع فریب مدلهای هوش مصنوعی توسط دستورهای مخفی شود. با این حال، کارشناسان مستقل تأکید دارند که چالش تزریق پرامپت هنوز حلنشده است و مرورگرهای هوش مصنوعی همچنان به مراقبت و ارزیابی مداوم نیاز دارند.
