ابزار SynthID Detector گوگل محتوای تولیدشده با هوش مصنوعی را آشکار می نماید - مجله جگوار

مکانیزم این سامانه بر پایه ردیابی واترمارک های دیجیتالی نامرئی SynthID پایدار است؛ شناسه های پنهانی که هنگام فراوری اثر، مستقیماً درون بافت داده ها جاسازی می شوند. این الگوها برای چشم یا گوش انسان قابل مشاهده و شنیدن نیستند، اما سیستم قادر است ساختار آن ها را بخواند. کاربران برای بهره مندی از این وب سایت باید ابتدا وارد حساب کاربری خود شوند و سپس انواع فایل های تصویری، محتوای ویدیویی یا قطعات صوتی را بارگذاری نمایند تا سیستم با آنالیز داده ها معین کند آیا نشان اختصاصی SynthID روی اثر وجود دارد و محتوا ساخت دست ماشین است یا خیر.

دامنه پشتیبانی این فناوری به ابزارهای اختصاصی محدود نمی گردد. این سامانه افزون بر سرویس های هوش مصنوعی گوگل، توانایی ارزیابی خروجی های حاصل از پلتفرم های OpenAI، انویدیا و Kakao را نیز داراست و شرکت اپل نیز در نظر دارد در ادامه امسال میلادی فناوری SynthID را در محصولات خود به کار بگیرد. علاوه بر این وب سایت، فرایند اعتبارسنجی واترمارک ها پیش تر درون موتور جستجو، مرورگر کروم و هوش مصنوعی جمینای پیاده سازی شده بود تا کاربران بتوانند بدون احتیاج به مراجعه به این پلتفرم مستقل، از ابزارهای جایگزین استفاده نمایند.

با وجود قابلیت های ارائه شده، گوگل تاکید دارد که این سامانه ابزاری همه منظوره برای آشکارسازی تمام مدل های متفرقه نیست و تنها فایل هایی را تایید می نماید که رسماً به این فناوری واترمارک مجهز شده باشند. علاوه بر این، سیستم مذکور فعلاً توانایی تفکیک میان محتوای کاملاً ساختگی و تصاویری که تنها بخش هایی از آن ها به یاری هوش مصنوعی ویرایش شده است را ندارد.