شرکت Pangram که پیش‌تر به خاطر ابزار پرکاربردش در تشخیص متن‌های تولید شده توسط هوش مصنوعی شناخته شده بود، اکنون دامنه فعالیت خود را به تشخیص محتوای ویدیویی و تصویری تولید شده یا ویرایش شده با هوش مصنوعی گسترش داده است.

مشترکان Pangram می‌توانند ویدیوهای خود را بارگذاری کنند و این ابزار به آن‌ها اعلام می‌کند که آیا هوش مصنوعی در ساخت یا ویرایش این کلیپ‌ها به کار رفته است یا خیر. این سیستم قادر است بین کلیپ‌هایی که به صورت «جزئی هوش مصنوعی» تولید شده‌اند و آن‌هایی که کاملاً توسط هوش مصنوعی ساخته شده‌اند، تمایز قائل شود. همچنین یک نقشه حرارتی (heatmap) ارائه می‌شود که بخش‌هایی از ویدیو را که احتمال دارد توسط هوش مصنوعی ایجاد شده باشند، مشخص می‌کند.

شرکت اعلام کرده که مدل پایه‌ای این ابزار تشخیص ویدیو در زمینه شناسایی پیشرفته ویدیوهای هوش مصنوعی عملکرد بسیار خوبی دارد و در آزمایش‌های داخلی، با دقت بیش از ۹۸ درصد توانسته محتوای ویدیویی تولید شده توسط هوش مصنوعی را شناسایی کند که این عملکرد بهتر از سایر ابزارهای مشابه است.

علاوه بر این، قابلیت‌های تشخیص تصویر هوش مصنوعی Pangram نیز ارتقا یافته است. پیش‌تر نسخه آزمایشی مدل تصویری Pangram Image 1.0 منتشر شده بود و اکنون این مدل از طریق افزونه کروم شرکت در دسترس است. این افزونه به صورت خودکار تصاویر را هنگام مرور وب اسکن می‌کند و تصاویر تولید شده توسط هوش مصنوعی را علامت‌گذاری می‌کند. در آزمایش‌های شرکت، مدل تصویری توانسته بیش از ۹۹ درصد تصاویر هوش مصنوعی را شناسایی کند و نرخ خطای مثبت کاذب آن تنها ۰.۲۷ درصد بوده است.

البته مانند سایر ابزارهای تشخیص تصاویر هوش مصنوعی، محدودیت‌هایی وجود دارد. برای نمونه، در رزولوشن‌های پایین‌تر از ۵۱۲ در ۵۱۲ پیکسل، نتایج با هشدار کاهش اطمینان همراه خواهند بود. این موضوع ممکن است دلیل علامت‌گذاری نامطمئن برخی تصاویر واقعی باشد، همان‌طور که مدیرعامل Pangram، مکس اسپرو، در نمونه‌ای از افزونه روی سایت Pinterest مشاهده کرد.

اسپرو همچنین توضیح داد که توسعه مدل تصویری با چالش‌هایی همراه بوده است، چرا که بسیاری از دوربین‌های گوشی‌های هوشمند، از جمله آیفون‌ها، پس‌پردازش‌هایی مبتنی بر هوش مصنوعی برای بهبود جزئیات تصاویر واقعی انجام می‌دهند. بنابراین، مدل باید بتواند بین ویرایش‌های هوش مصنوعی و تصاویر کاملاً تولید شده توسط هوش مصنوعی تمایز قائل شود. به همین دلیل، شرکت انتشار مدل تصویری را به تعویق انداخت تا بتواند آن را روی چند دستگاه آیفون ۱۸ پرو آزمایش کند، چرا که ابتدا تصاویر گرفته شده با این گوشی‌ها به اشتباه به عنوان تصاویر هوش مصنوعی شناسایی شده بودند.

قابلیت‌های جدید تشخیص تصویر و ویدیوی هوش مصنوعی Pangram هم‌اکنون برای مشترکان این سرویس در دسترس است و کاربران با حساب رایگان نیز می‌توانند تعداد محدودی تصویر را بدون نیاز به اشتراک پولی بررسی کنند.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون