کمیته رکن چهارم – شرکت «متا» از ابزار جدیدی به نام «Meta Video Seal» رونمایی کرده است که هدف آن مقابله با انتشار ویدئوهای جعلی تولیدشده با هوش مصنوعی، بهویژه دیپفیکها است.
به گزارش کمیته رکن چهارم، این ابزار قابلیت افزودن واترمارکهای نامحسوس به ویدئوهای تولیدشده با هوش مصنوعی را دارد. واترمارکها در برابر تغییراتی مانند فشردهسازی، محو کردن و برش مقاوم هستند. همچنین، این فناوری امکان افزودن پیامهای پنهان به ویدئو را فراهم میکند که در آینده برای تشخیص منبع آن مفید خواهد بود.
طبق گزارش پلتفرم «Sumsub»، تعداد دیپفیکها در سالهای اخیر بهشدت افزایش یافته و اکنون ۷ درصد از کلاهبرداریهای دیجیتال را شامل میشوند. دیپفیکها در جعل هویت و حملات مهندسی اجتماعی کاربرد دارند و خطرات جدی ایجاد کردهاند. پلتفرم Sumsub که در حوزه احراز هویت و پیشگیری از کلاهبرداری فعالیت میکند، با استفاده از فناوریهای پیشرفته به شناسایی و مقابله با این تهدیدها کمک میکند.
ابزار Meta Video Seal در مقایسه با فناوریهای مشابه، مانند «SynthID» از شرکت «DeepMind» و ابزار واترمارکینگ ویدئوی مایکروسافت، عملکرد بهتری دارد. این ابزار نهتنها در برابر ویرایش و فشردهسازی مقاومتر است، بلکه بهصورت متنباز عرضه شده و قابلیت استفاده گستردهتری دارد.
با این حال، متا اذعان دارد که این ابزار محدودیتهایی نیز دارد؛ از جمله آسیبپذیری در برابر فشردهسازی شدید یا ویرایشهای سنگین. یکی دیگر از چالشها، عدم تمایل برخی توسعهدهندگان و شرکتها به پذیرش این فناوری است. برای رفع این مشکل، متا یک جدول ردهبندی عمومی راهاندازی کرده تا عملکرد روشهای مختلف واترمارکینگ را مقایسه کند.
متا امیدوار است با گسترش استفاده از این ابزار، گامی موثر در مقابله با محتوای جعلی برداشته شود. همچنین، برگزاری کارگاه آموزشی در کنفرانس «ICLR 2025» برای توسعه فناوری واترمارکینگ از دیگر برنامههای این شرکت است.
