<pبا گسترش ابزارهای هوش مصنوعی تولیدکننده تصاویر، ویدیوها و حتی صداها، تشخیص واقعی بودن محتوای دیجیتال در اینترنت به چالشی بزرگ تبدیل شده است. گوگل، یکی از پیشگامان این فناوری‌ها، با معرفی ابزار SynthID Detector راهکاری ساده برای شناسایی محتوای ساخته یا دستکاری شده توسط هوش مصنوعی ارائه کرده است.

گوگل در سال ۲۰۲۳ فناوری SynthID را معرفی کرد که به صورت نامحسوس یک برچسب یا واترمارک دیجیتال به محتوای تولید شده توسط مدل هوش مصنوعی Gemini اضافه می‌کند. اما تا پیش از این، کاربران عادی امکان بررسی وجود این برچسب را نداشتند. در سال ۲۰۲۵ نسخه محدودی از SynthID Detector برای برخی پژوهشگران و خبرنگاران عرضه شد و اکنون این ابزار برای همه در دسترس قرار گرفته است.

تصویر خبر

نحوه عملکرد SynthID Detector

این ابزار با اسکن فایل‌های تصویری، ویدیویی یا صوتی به دنبال واترمارک SynthID می‌گردد و پاسخ ساده «بله» یا «خیر» را درباره تولید هوش مصنوعی بودن محتوا ارائه می‌دهد. برای استفاده کافی است به سایت SynthID.com مراجعه کرده و فایل مورد نظر را آپلود کنید تا پس از چند ثانیه نتیجه دریافت شود.

این روش نسبت به قبل که کاربران مجبور بودند از خود مدل Gemini بپرسند، بسیار قابل اعتمادتر است، زیرا دیگر نیازی به اعتماد به هوش مصنوعی برای تشخیص محتوای خودش نیست. علاوه بر این، SynthID Detector اکنون قادر است واترمارک‌های محتوای تولید شده توسط شرکای گوگل مانند OpenAI، NVIDIA و Kakao را نیز شناسایی کند. اپل نیز در این پروژه مشارکت دارد اما پشتیبانی از تشخیص آثار آن هنوز در دست توسعه است.

محدودیت‌ها و دقت ابزار

از آنجا که SynthID Detector تنها به دنبال واترمارک دیجیتال است و تحلیل الگوهای هوش مصنوعی را انجام نمی‌دهد، احتمال تشخیص اشتباه بسیار پایین است. اما این سادگی باعث می‌شود نتواند محتوای تولید شده توسط مدل‌های هوش مصنوعی که از SynthID استفاده نمی‌کنند، مانند ابزارهای متا، را شناسایی کند.

این ابزار فقط وجود یا عدم وجود برچسب را گزارش می‌دهد و نمی‌تواند مشخص کند کدام بخش از محتوا توسط هوش مصنوعی ساخته شده است. گوگل اعلام کرده که این برچسب‌ها حتی پس از ویرایش محتوا نیز باقی می‌مانند، اما محدودیت ۱۰ بار بررسی در روز برای هر کاربر و الزام ورود با حساب گوگل، اپل یا اوپن‌ای‌آی، برای جلوگیری از سوءاستفاده و حذف برچسب‌ها اعمال شده است.

مقایسه با سایر ابزارهای تشخیص هوش مصنوعی

SynthID Detector یکی از قابل اعتمادترین ابزارهای تشخیص محتوای هوش مصنوعی است، هرچند محدود به شناسایی واترمارک‌های خاص است. شرکت OpenAI ابزار تشخیص خود را دارد که علاوه بر واترمارک، متادیتای تایید هوش مصنوعی را نیز بررسی می‌کند. متا نیز واترمارک مخصوص به نام Content Seal را در آثار خود قرار می‌دهد و ابزار تشخیص تحت وب ارائه کرده است، اما گزارش‌ها نشان داده‌اند که دقت آن همیشه بالا نیست.

شرکت‌هایی مانند Anthropic و مایکروسافت نیز به واترمارک‌گذاری محتوا پرداخته‌اند اما هنوز ابزارهای عمومی برای تشخیص آن ارائه نکرده‌اند. در مجموع، هیچ ابزار جامعی که بتواند همه محتوای تولید شده توسط هوش مصنوعی را به طور کامل تشخیص دهد وجود ندارد و بسیاری از ابزارهای عمومی ممکن است اشتباهاً محتوای انسانی را به عنوان هوش مصنوعی تشخیص دهند.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون