کمیته رکن چهارم – یک مقام مسئول در زمینه امنیت سایبری کانادا اعلام کرد که هوش مصنوعی برای هک و انتشار اطلاعات اشتباه در فضای مجازی استفاده می‌شود.
یک مقام ارشد امنیت سایبری کانادا در مصاحبه‌ای به رویترز گفت: هکرها و مبلغان از هوش مصنوعی (AI) برای ایجاد نرم‌افزارهای مخرب، پیش‌نویس ایمیل‌های فیشینگ قانع‌کننده و انتشار اطلاعات نادرست آنلاین سوءاستفاده می‌کنند.
سامی خوری، رئیس مرکز امنیت سایبری کانادا در مصاحبه‌ای در این هفته گفت که آژانس او دیده است که هوش مصنوعی در ایمیل‌های فیشینگ یا ساخت ایمیل‌ها به شیوه‌ای متمرکزتر، در کدهای مخرب و در اطلاعات نادرست استفاده می‌شود.
هرچند خوری هیچ جزئیات یا شواهدی را ارائه نکرد، اما ادعای او مبنی بر اینکه مجرمان سایبری هم‌اکنون درحال استفاده از هوش مصنوعی هستند، نکته‌ای است که به نگرانی‌های مربوط به استفاده از فناوری درحال‌ظهور هوش مصنوعی اضافه می‌کند.
در چند وقت گذشته، چند مقام ناظر سایبری گزارش‌هایی را منتشر کرده‌اند که در مورد خطرات احتمالی هوش مصنوعی و به‌ویژه مدل‌های زبان بزرگ (LLM) که از حجم عظیمی از متن برای ایجاد گفت‌وگوها، اسناد و موارد دیگر استفاده می‌کنند، هشدار می‌دهند.
در ماه مارس، یوروپل (Europol) یا آژانس اتحادیه اروپا برای همکاری در اجرای قانون، گزارشی را منتشر کرد که نشان می‌داد مدل‌هایی مانند ChatGPT امکان جعل هویت یک سازمان یا فرد را به شیوه‌ای بسیار واقعی فراهم کرده‌اند. در همان ماه، مرکز ملی امنیت سایبری بریتانیا در یک پست وبلاگی اعلام کرد که LLMها باعث می‌شوند مجرمان بتوانند فراتر از توانایی‌های فعلی خود حملات سایبری را انجام دهند.
خوری درنهایت اشاره کرد که هرچند استفاده از هوش مصنوعی برای ساخت کدهای مخرب هنوز در مراحل اولیه خود قرار دارد و همچنین نوشتن یک آسیب‌پذیری خوب به زمان زیادی نیاز دارد، نگرانی اصلی او این است که کنترل پتانسیل‌های مخرب مدل‌های هوش مصنوعی درحال‌تکامل پیش از انتشار برای اپراتورها دشوار شود.
منبع: افتانا
