کمیته رکن چهارم – OpenAI، به رهبری مدیرعامل سم آلتمن، اعلام کرده است که تمرکز خود را از هوش عمومی مصنوعی (AGI) به سمت توسعه Superintelligence (ابرهوش مصنوعی) تغییر داده است. این تصمیم میتواند تحولی بزرگ در فناوری و تأثیری عمیق بر نوآوری، رفاه جهانی و پیشرفت علمی داشته باشد، اما چالشها و نگرانیهای امنیتی نیز به همراه دارد.
به گزارش کمیته رکن چهارم، ابرهوش مصنوعی به سیستمهایی اشاره دارد که تواناییهایی فراتر از انسان در کشف علمی و نوآوری دارند. سم آلتمن، معتقد است که این فناوری طی چند سال آینده به واقعیت خواهد پیوست و تأثیری “عمیقتر از تصور عمومی” بر پیشرفت علمی و اقتصادی خواهد داشت. با این حال، وی اذعان کرده که انتقال به دنیای ابرهوش مصنوعی بدون خطر نیست. از جمله چالشهای این مسیر، تضمین رفتار ایمن و اخلاقی این سیستمها است، چرا که تواناییهای فراتر از انسان میتوانند منجر به رفتارهای غیرقابل پیشبینی یا سوءاستفادههای جدی شوند. رویکردهای فعلی در زمینه ایمنی و تطبیق (alignment) برای مدیریت کامل این فناوری کافی نیستند و نیاز به توسعه روشهای جدید و پیشرفته دارند.
تغییر رویکرد OpenAI با حواشی مختلفی همراه بوده است. برخی تیمهای مرتبط با ایمنی هوش مصنوعی در این شرکت منحل شدهاند و تعدادی از محققان نیز به دلیل نگرانی از اولویت دادن به اهداف تجاری به جای مسائل ایمنی، از آن جدا شدهاند.طبق توافق میان OpenAI و مایکروسافت، اگر OpenAI بتواند سیستمی توسعه دهد که سودی معادل ۱۰۰ میلیارد دلار ایجاد کند، همکاری مایکروسافت با این شرکت به پایان میرسد و دسترسی مایکروسافت به فناوریهای جدید OpenAI محدود خواهد شد.
منتقدان بر این باورند که OpenAI باید شفافیت بیشتری در برنامههای خود ایجاد کرده و همکاری بینالمللی را برای کاهش خطرات مرتبط با ابرهوش مصنوعی گسترش دهد. این فناوری، اگرچه میتواند انقلابی در اقتصاد و زندگی بشر ایجاد کند، اما نیازمند توجه جدی به ایمنی و اخلاق در مراحل توسعه خود است.
