کمیته رکن چهارم – علاوه بر خطاهای که در پاسخهای ChatGPT وجود دارد، این چتبات اطلاعات نادرست و درست را با یکدیگر ترکیب میکند که نگرانکننده است.
دانشمندان در مطالعه جدیدی از ChatGPT خواستند تا برای درمان سرطان برنامههایی را طراحی کند، اما چتبات هوش مصنوعی OpenAI اطلاعات نادرستی را به آنها ارائه کرده است.
محققان بیمارستان «بریگهام و زنان» از دانشکده پزشکی هاروارد با انجام یک تحقیق مشخص کردهاند که برنامههای درمان سرطان ایجاد شده توسط چتبات انقلابی ChatGPT پر از اشتباه است. به گفته محققان، تقریباً یک سوم از پاسخهای ارائه شده توسط مدل OpenAI در زمینه طراحی برنامههای درمانی برای انواع مختلف سرطانها، حاوی اطلاعات نادرستی بوده است.
مشکل دیگر ChatGPT: ترکیب اطلاعات صحیح و غلط
علاوه بر این، اشاره شده که ChatGPT در پاسخهای خود از اطلاعات صحیح و نادرست بهطور ترکیبشده استفاده میکند که این امر تشخیص دقت آنها را دشوار میکند.
به گفته دانشمندان، از مجموع ۱۰۴ پرسش، حدود ۹۸ درصد از پاسخهای ارائه شده توسط ChatGPT شامل حداقل یک توصیه درمانی بوده که با دستورالعملهای شبکه جامع سرطان ملی مطابقت داشته است. «دانیل بیترمن»، یکی از نویسندگان این مطالعه میگوید:
«چتبات اغلب به روشی کاملاً مطمئن صحبت میکند که منطقی بهنظر میرسد و این موضوع که میتواند اطلاعات نادرست و صحیح را با یکدیگر ترکیب کند، پتانسیل خطرناک بودن را دارد.»
ChatGPT نوامبر سال ۲۰۲۲ راهاندازی شد و از همان زمان مورد توجه و استقبال بسیار خوبی قرار گرفته و قابلیتهای آن همه را شگفتزده و البته نگران کرده است. موفقیت این چتبات باعث شد تا بسیاری از شرکتهای فناوری از جمله گوگل، مایکروسافت، متا و حتی اپل برنامههای خود را تا حدودی روی هوش مصنوعی متمرکز کنند و تاکنون مدلهای کاربری بسیار زیادی راهاندازی شدهاند.
اخیراً نیز کره جنوبی از رقیب خود برای ChatGPT رونمایی کرد که CLOVA X نام دارد. شیائومی دیگر شرکت بزرگی است که اخیراً شایعه شده بود قصد دارد به لیست رقبای ChatGPT و Bard گوگل اضافه شود. هرچند این فناوری باعث شگفتزدگی بیل گیتس شده است، اما برخی مشکلات آن مانند ارائه اطلاعات نادرست یا حتی هزینه هنگفت توسعه آن، نگرانیهایی را به همراه داشته است.
منبع : دیجیاتو
