کمیته رکن چهارم – شرکت OpenAI با شکایتی جدید در اروپا روبهرو شده که به دلیل تولید اطلاعات نادرست و افتراآمیز توسط ChatGPT ثبت شده است. سازمان حقوق دیجیتال Noyb از طرف یک شهروند نروژی شکایتی را ارائه کرده که طبق آن، ChatGPT او را متهم به قتل فرزندان خود کرده است؛ ادعایی که کاملاً ساختگی و تکاندهنده است.
به گزارش کمیته رکن چهارم، این شکایت تنها درباره یک اشتباه ساده نیست، بلکه طبق قوانین حفاظت از دادههای شخصی در اتحادیه اروپا (GDPR)، افراد حق دارند به دادههای خود دسترسی داشته و در صورت وجود خطا، آنها را اصلاح کنند. اما OpenAI نه امکان اصلاح چنین اطلاعاتی را فراهم کرده و نه سازوکاری برای حذف مؤثر آنها ارائه داده است.
چتجیپیتی در پاسخ به سؤال درباره یک شخص واقعی به نام Arve Hjalmar Holmen، او را قاتل فرزندانش معرفی کرده بود، در حالی که هیچ مدرکی برای چنین ادعایی وجود ندارد. ترکیب اطلاعات درست مانند محل سکونت و تعداد فرزندان با چنین اتهام دروغینی، نگرانیها را دوچندان کرده است.
سازمان Noyb هشدار داده که این رفتار نه تنها غیراخلاقی بلکه غیرقانونی است، و تأکید کرده که صرف نمایش هشدارهایی مبنی بر «امکان خطا» مسئولیت OpenAI را از بین نمیبرد. حتی با تغییر مدل پایه، که اکنون دیگر چنین پاسخهایی تولید نمیکند، کارشناسان معتقدند که اطلاعات نادرست ممکن است همچنان در مدل ذخیره شده باشند و تنها پنهان شدهاند.
سازمان Noyb همچنین این نگرانی را مطرح کرده که OpenAI برخلاف الزامات GDPR، از تعهدات قانونی خود طفره میرود و بهجای اصلاح ریشهای، فقط پاسخهای اشتباه را فیلتر میکند.
این شکایت به اداره حفاظت از دادههای نروژ ارائه شده، و پیگیری آن میتواند تأثیر قابلتوجهی بر نظارت بر شرکتهای هوش مصنوعی آمریکایی در اروپا داشته باشد. کارشناسان هشدار دادهاند که این پرونده ممکن است تنها آغاز موج جدیدی از چالشهای قانونی برای OpenAI و سایر توسعهدهندگان هوش مصنوعی باشد.
