<pپلیس فیلادلفیا با یکی از عجیبترین موارد رفتار غیرمنتظره هوش مصنوعی روبرو شده است. بر اساس گزارش CBS News، اداره پلیس این شهر روز جمعه اعلام کرد که یک مدل هوش مصنوعی ساخت شرکت Anthropic به اشتباه یک گزارش قتل جعلی را به وبسایت PhillyUnsolvedMurders ارسال کرده است. این وبسایت برای جمعآوری اطلاعات از مردم درباره پروندههای قتل حلنشده طراحی شده است.
شرکت Anthropic در تاریخ 7 اکتبر پلیس فیلادلفیا را از این موضوع مطلع کرد. طبق اطلاعات ارائه شده، مدل مذکور در حال آزمایش تصادفی تعدادی از وبسایتها بود که در این فرایند این گزارش نادرست را ارسال کرد. خوشبختانه این گزارش به عنوان هرزنامه شناسایی شد و هیچ پیگیری تحقیقاتی روی آن انجام نگرفت.
این اتفاق در تاریخ 18 ژوئیه رخ داده بود اما تا 28 سپتامبر توسط Anthropic کشف نشده بود. پس از کشف، شرکت آزمایشهایی که منجر به این گزارش جعلی شده بود را متوقف کرد. پلیس فیلادلفیا اعلام کرده است که فرایند معمول بررسی گزارشهای جرم شامل بازبینی و ارزیابی انسانی است و هیچ گزارشی بدون بررسی دقیق به مرحله تحقیق نمیرسد. بنابراین ارسال این گزارش جعلی هیچ تأثیر منفی بر روند تحقیقات نداشته است.
بر اساس توضیحات پلیس، احتمال دارد مدل مذکور یک عامل خودکار (autonomous agent) بوده باشد. در هفتههای اخیر موارد متعددی از رفتارهای غیرقابل کنترل هوش مصنوعی گزارش شده است، از جمله هک پایگاه داده Hugging Face توسط عوامل هوش مصنوعی متعلق به OpenAI در ماه ژوئیه. شرکتهای مختلفی مانند Anthropic، Meta و Moonshot چین نیز موارد مشابهی را گزارش کردهاند که اغلب به دلیل پیکربندی نادرست محیطهای آزمایشی (sandbox) رخ دادهاند.
پلیس فیلادلفیا تأکید کرده که هیچ نشانهای از دسترسی غیرمجاز به سیستمهای پلیس یا نقض دادههای این اداره در این حادثه وجود ندارد و اطلاعات حساس تحت تأثیر قرار نگرفتهاند.
