کمیته رکن چهارم – مایکروسافت برخی از عباراتی را مسدود کرده است که میتوانستند در ابزار کوپایلت دیزاینر به تولید محتوای نامناسب منجر شوند.
مایکروسافت در حال تلاش برای رفع مشکلی در ابزار هوش مصنوعی کوپایلت دیزاینر است که جزئیاتش را شین جونز، یکی از مهندسان شرکت، فاش کرد. جونز در بررسی امنیت ابزار کوپایلت دیزاینر متوجه شد که این سرویس میتواند برای تولید عکسهایی با محتوای ناخوشایند استفاده شود.
منظور از محتوای نامناسب، صحنههای خشونتآمیز، تصاویر جنسی و محتوای تبعیضآمیز در موضوعات حساس است. پیشازاین نیز مشخص شده بود که کوپایلت دیزاینر کپیرایت را نادیده گرفته و تصاویری از شخصیتهای دیزنی را در موقعیتهای نامناسبی تولید کرده است.
کوپایلت دیزاینر ابزار هوش مصنوعی مایکروسافت برای تولید عکس از درخواستهای متنی است که از مدلهای توسعه دادهشده در OpenAI قدرت میگیرد و عملکردی شبیه به DALL-E دارد.
جونز از دسامبر ۲۰۲۳ (دی و بهمن ۱۴۰۲) مشکل کوپایلت دیزاینر را بهصورت داخلی گزارش داد. مایکروسافت مشکلات را تأیید کرد؛ اما ابزار را از دسترس خارج نکرد. جونز تصمیم گرفت این موضوع را به سطح بالاتری ببرد. او با OpenAI و سناتورهای آمریکایی تماس گرفت و درنهایت، مستندات خود را به کمیسیون فدرال تجارت و هیئتمدیرهی مایکروسافت ارسال کرد.
مایکروسافت اکنون اقدامات اولیه را انجام داده و برخی از درخواستها را مسدود کرده و در حال ارتقای فیلترهای ایمنی است. کاربران درصورت استفاده از برخی کلمات، هشدار نقض قوانین دریافت میکنند.
اگر کاربر درخواستی حاوی برخی عبارات ممنوعه به کوپایلت دیزاینر بدهد با این پیام مواجه میشود: «این درخواست مسدود شده است. سیستم ما بهطور خودکار این درخواست را بهدلیل تضاد با سیاست محتواییمان شناسایی کرده است و نقضهای بیشتر میتواند به تعلیق خودکار دسترسی شما منجر شود. اگر فکر میکنید این اشتباه است، لطفاً آن را گزارش دهید تا ما را در بهبود خدماتمان یاری کنید.»
منبع: افتانا
