کمیته رکن چهارم – کاربران ChatGPT اخیراً متوجه شدند که بخشی از پرسش‌هایشان در گوگل قابل مشاهده بوده است؛ موضوعی که واکنش گسترده‌ای به‌دنبال داشت و بار دیگر نگرانی‌ها درباره ذخیره و استفاده از داده‌های شخصی در چت‌بات‌ها را برجسته کرد.
به گزارش کمیته رکن چهارم، OpenAI گزینه‌ای داشت با عنوان «Make this chat discoverable» که در صورت فعال‌سازی، گفت‌وگوها می‌توانستند در جست‌وجوهای وب نمایان شوند. هرچند این ویژگی به‌تازگی حذف شد، اما تمام پرسش‌ها همچنان در پایگاه داده OpenAI ذخیره می‌شوند و حتی قابلیت «چت موقت» نیز دیگر واقعاً موقت نیست، چراکه طبق حکم دادگاه فدرال، شرکت موظف به حفظ تمام گفت‌وگوهاست.
این وضعیت محدود به OpenAI نیست. گوگل در به‌روزرسانی Gemini AI قابلیتی افزوده که جزئیات مکالمات گذشته را به‌طور خودکار ذخیره می‌کند تا پاسخ‌های شخصی‌سازی‌شده ارائه دهد؛ قابلیتی که اگرچه در ظاهر مفید به‌نظر می‌رسد، اما می‌تواند برای کاربران از منظر حریم خصوصی چالش‌برانگیز باشد. در OpenAI و Anthropic نیز قابلیت مشابهی با نام «Memory» وجود دارد.
کارشناسان امنیتی هشدار داده‌اند که مدل‌های زبانی بزرگ می‌توانند همچون یک کارمند داخلی در سازمان‌ها برای سرقت داده‌ها به‌کار گرفته شوند. به همین دلیل، هرچه کاربران اطلاعات بیشتری در اختیار چت‌بات‌ها قرار دهند، خطر سوءاستفاده از آن افزایش می‌یابد.
این گزارش تأکید می‌کند که همه چت‌بات‌های اصلی هوش مصنوعی مکالمات کاربران را برای بهبود خدمات و تحلیل محصول ذخیره می‌کنند و این داده‌ها می‌توانند در صورت بروز رخنه امنیتی افشا شوند. از همین‌رو توصیه شده کاربران از طرح پرسش‌های حساس، مالی، یا شخصی در چت‌بات‌ها خودداری کنند تا در آینده با مشکلات حقوقی یا امنیتی مواجه نشوند.
