کمیته رکن چهارم – استارتآپ «Patronus AI» که در سال ۲۰۲۳ توسط پژوهشگران سابق «Meta AI» تأسیس شده است، در زمینه نظارت و ارزیابی عملکرد مدلهای هوش مصنوعی فعالیت میکند. این شرکت ابزارهایی طراحی کرده که به اطمینان از ایمنی و دقت سیستمهای هوش مصنوعی کمک میکند. یکی از محصولات اصلی آن، مدل «Glider» است که با وجود اندازه کوچک خود، توانایی ارزیابی دقیق عملکرد مدلهای هوش مصنوعی را دارد و میتواند دلیل تصمیمگیریهای خود را به وضوح توضیح دهد.
به گزارش کمیته رکن چهارم، مدل Glider با وجود اندازه کوچک خود، عملکردی در حد مدلهای بسیار بزرگتر ارائه میدهد و میتواند خروجیهای هوش مصنوعی را در کمتر از یک ثانیه ارزیابی کند. صحبت در مورد ابعاد Glider به اندازه و پیچیدگی مدل هوش مصنوعی اشاره دارد، نه به ابعاد فیزیکی یک سختافزار. این مدل دارای ۳٫۸ میلیارد پارامتر است که در مقایسه با مدلهای بسیار بزرگتر مانند GPT-4 با صدها میلیارد پارامتر، کوچکتر و سبکتر محسوب میشود.
Glider به دلیل قابلیت اجرا روی سختافزارهای محلی از امنیت و حریم خصوصی بالایی برخوردار است. سختافزارهای محلی به دستگاههایی مانند کامپیوترهای شخصی یا سرورهای داخلی گفته میشود که دادهها مستقیماً روی آنها پردازش میشود، بدون نیاز به ارسال اطلاعات به سرورهای خارجی.
از دیگر مزایای این مدل میتوان به توانایی ارائه توضیحات شفاف درباره تصمیمات خود، قابلیت تنظیم بر اساس نیازهای خاص و ارزیابی دقیق معیارهایی مانند دقت و انسجام اشاره کرد. همچنین، متنباز بودن Glider به شرکتها اجازه میدهد تا آن را برای کاربردهای خاص خود سفارشیسازی کنند. این ویژگیها افقهای جدیدی را برای استفاده مؤثر و ایمن از هوش مصنوعی فراهم میکند.
