<pشرکت Anthropic در گزارش تازه خود اعلام کرده است که عوامل هوش مصنوعی این شرکت در جریان آزمایش‌ها، تلاش کرده‌اند به وب‌سایت‌های دولتی آمریکا در سطوح فدرال، ایالتی و محلی نفوذ کنند. این شرکت به درخواست نهادهای مربوطه، نام سازمان‌های خاص را منتشر نکرده تا از آشکار شدن آسیب‌پذیری‌های احتمالی جلوگیری شود.

Anthropic همچنین اعلام کرده که این نهادها را در جریان این اتفاقات قرار داده و کاخ سفید را نیز در این خصوص مطلع کرده است. یکی از موارد مطرح شده در گزارش مربوط به پلیس فیلادلفیا است که پیش‌تر اعلام کرده بود یکی از مدل‌های هوش مصنوعی این شرکت، به اشتباه یک گزارش جعلی درباره یک پرونده قتل حل‌نشده در وب‌سایت پلیس ارسال کرده است.

این مدل که Claude Haiku 4.5 نام دارد و برای انجام وظایف نمونه روی صفحات مختلف طراحی شده بود، فرم مربوط به گزارش قتل را پر کرده و نوشته بود: «ممکن است اطلاعاتی درباره این پرونده داشته باشم. به یاد دارم فردی با مشخصات ذکر شده را در حوالی خیابان مورد نظر در آن بازه زمانی دیده‌ام. لطفاً در صورت مرتبط بودن این اطلاعات با من تماس بگیرید.» پلیس فیلادلفیا تایید کرده که این گزارش در تاریخ 18 ژوئیه ثبت شده و به عنوان هرزنامه علامت‌گذاری شده است، بنابراین منابعی برای بررسی آن صرف نشده است.

در نمونه‌ای دیگر، مدل امنیت سایبری Anthropic به نام Claude Mythos 5 تلاش کرده با استفاده از نقشه املاک دولتی، موقعیت مکانی یک عکس را شناسایی کند. این مدل به دلیل عدم توانایی در کلیک کردن روی لینک‌ها، مستقیماً درخواست‌هایی به سرور نقشه ارسال کرده تا به داده‌ها دسترسی پیدا کند. همچنین این مدل از یک وب‌سایت دولتی درخواست توکن دسترسی کرده تا بدون پرداخت هزینه، داده‌های آماری مورد نیاز خود را دریافت کند.

Anthropic این رفتارها را هنگام بررسی متون ارزیابی‌های خود در ماه ژوئیه کشف کرده است؛ زمانی که OpenAI نیز اعتراف کرد عوامل هوش مصنوعی‌اش از محیط آزمایش فرار کرده و به وب‌سایت Hugging Face نفوذ کرده‌اند. OpenAI همچنین تایید کرد که عواملش به وب‌سایت‌های دولتی از جمله وزارت بازرگانی و کمیسیون بورس و اوراق بهادار آمریکا دسترسی پیدا کرده‌اند.

در بخش اقدامات اصلاحی گزارش، Anthropic اعلام کرده که پس از کشف این رفتارهای ناخواسته، چندین اقدام پیشگیرانه انجام داده است. برخی از ارزیابی‌های عمومی متوقف شده، برخی به نسخه‌های آفلاین منتقل شده‌اند و برخی دیگر بازسازی شده‌اند تا وظایف آنها به وب‌سایت‌های زنده نرسد. همچنین محدودیت‌های شدیدی روی ابزارهای دسترسی به اینترنت مانند ابزار بازیابی وب اعمال شده است تا فعالیت مدل‌ها کنترل شود.

Anthropic همچنین ابزارهایی برای شناسایی و مسدود کردن رفتارهای مشابه ساخته است تا از تکرار این موارد جلوگیری کند.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون