کمیته رکن چهارم – چتبات هوش مصنوعی آمازون موسوم به Q، اطلاعات محرمانه، برنامههای تخفیف داخلی و برخی دادههای حساس دیگر را فاش کرد.
چتبات هوش مصنوعی آمازون Q بهدلیل مسائل مربوط بهدقت و نشت دادهها با انتقاد کارمندان این شرکت مواجه شده و اسنادی که دراختیار Platformer قرار گرفته، نشان میدهد Q اطلاعات محرمانه مثل موقعیت مکانی مراکز داده AWS و برنامههای تخفیفی داخلی آمازون را فاش میکند و علاوهبر این متوهم شده است.
سند داخلی فاششده از آمازون به توهمات Q و پاسخهای اشتباهی اشاره میکند که در این چتبات هوش مصنوعی دیده شده و میتواند منجر به ایجاد پاسخهای مضر یا نامناسب شود. بهعنوان مثال، آمازون Q میتواند اطلاعات امنیتی را فاش کند که حسابهای مشتریان را درمعرض خطر قرار خواهد داد.
آمازون بحثهای کارکنانش درمورد چتبات Q را کماهمیت میداند و ادعا میکند هیچ مشکل امنیتیای در این هوش مصنوعی شناسایی نشده است. بههرحال اسناد فاششده نگرانیهایی را درمورد دقت و امنیت Q ایجاد میکند؛ چتباتی که هنوز در مرحلهی پیشنمایش قرار دارد و بهطور دردسترس عموم نیست.
آمازون Q بهعنوان رقیب ChatGPT برای مشتریان سازمانی شناخته میشود و با امنیت بسیار بالا طراحی شده است. بههر حال اسناد فاششده، به خطراتی مثل ارائه اطلاعات نادرست یا مضر از طرف Q اشاره دارند.
منبع : افتانا
