کمیته رکن چهارم – حملهای جدید به نام GPUHammer در کارتهای گرافیک شرکت NVIDIA شناسایی شده که میتواند دقت مدلهای هوش مصنوعی را بهشدت کاهش دهد. این حمله با دستکاری حافظه کارت گرافیک، مدلهای آموزشی را از درون خراب میکند—بدون اینکه کاربر متوجه شود.
به گزارش کمیته رکن چهارم، در یک آزمایش، تنها با یک خطای بسیار کوچک در حافظه، دقت مدل هوش مصنوعی از ۸۰٪ به ۰.۱٪ کاهش یافت. این یعنی خروجی مدل تقریباً بیفایده میشود. حمله GPUHammer برخلاف روشهای قبلی، از داده ورودی استفاده نمیکند، بلکه از داخل حافظه مدل را مختل میکند.
شرکت NVIDIA به کاربران توصیه کرده قابلیت محافظتی ECC را در کارتهای گرافیک فعال کنند. این ویژگی با وجود اینکه کمی سرعت را کاهش میدهد، اما میتواند جلوی آسیب این حمله را بگیرد. برای فعالسازی ECC فقط کافیست یک دستور ساده در سیستم اجرا شود.
به دلیل اینکه هوش مصنوعی امروزه در ماشینهای خودران، سیستمهای پزشکی و سرویسهای مالی استفاده میشود، خراب شدن مدلها به روش پنهانی میتواند بسیار خطرناک باشد.
همزمان، پژوهشگران هشدار دادهاند حملات مشابه دیگری هم در حال شکلگیری هستند که حتی میتوانند کلیدهای رمزنگاری را از سیستمها سرقت کنند. این مسائل باعث شده بسیاری از کارشناسان خواستار بررسی جدیتر امنیت حافظه در کارتهای گرافیک شوند.
