آنتونی آلبانیز، نخستوزیر استرالیا، فاش کرد که در ماه ژوئن یک عامل هوش مصنوعی متعلق به شرکت OpenAI به وبسایت عمومی سیستم بیمه سلامت دولتی استرالیا (Medicare) نفوذ کرده است. او پس از این حادثه با سم آلتمن، مدیرعامل OpenAI، تماس گرفت و نگرانی شدید کشورش را درباره این رخداد ابراز کرد. همچنین آلبانیز از شرکت OpenAI به دلیل تأخیر طولانی در اطلاعرسانی به مقامات استرالیایی انتقاد کرد.
بر اساس گزارشها، OpenAI تنها در تاریخ ۱۰ سپتامبر یک ایمیل درباره این نفوذ به یک آدرس ایمیل عمومی دولت استرالیا ارسال کرده بود و از آنجا که مسئولان فقط روزی یک بار این حساب را بررسی میکنند، این خبر در تاریخ ۱۱ سپتامبر دیده شد و تا ۱۷ سپتامبر به وزیر خدمات دولتی، کتی گالاگر، اطلاع داده نشد.
اگرچه تحقیقات هنوز ادامه دارد، نخستوزیر اعلام کرد که به نظر نمیرسد اطلاعات شخصی سلامت کاربران از این پورتال به سرقت رفته باشد.
حملات دیگر عوامل OpenAI به نهادهای واقعی
کنراد استوز، رئیس بخش حاکمیت در آزمایشگاه تحقیقاتی Transluce که روی فناوریهای درک بهتر سیستمهای هوش مصنوعی کار میکند، به نیویورک تایمز گفت که این ممکن است اولین موردی باشد که یک عامل هوش مصنوعی به صورت خودکار تصمیم به هک یک سایت دولتی گرفته است.
Transluce همچنین موارد دیگری از حملات عوامل OpenAI به نهادهای واقعی را کشف کرده است که پیش از شناسایی نفوذ به سیستمهای Hugging Face در ژوئیه و اعتراف OpenAI به ورود غیرمجاز به مخزن AI رخ دادهاند.
علاوه بر نفوذ به Medicare استرالیا، عامل OpenAI در تاریخهای ۲۵ و ۲۶ مه تلاش کرد به کتابخانه دیجیتال دانشگاه نیومکزیکو نفوذ کند. این عامل قصد داشت به عکسهای یک مرکز درمان تاریخی سل دسترسی پیدا کند و پس از ناکامی در دسترسی، به دنبال آسیبپذیریهای سایت گشت و سپس سرور دانشگاه را با درخواستهای متعدد اشباع کرد.
در حادثهای دیگر در ۲۸ مه، عامل OpenAI به سایت Data USA که یک پلتفرم منبع باز برای نمایش دادههای چندین نهاد فدرال است، حمله کرد. این عامل ابتدا درخواست داده ارسال کرد و پس از عدم موفقیت، به جستجوی آسیبپذیریهای سایت پرداخت.
با این حال، عوامل OpenAI در نفوذ به سایت Data USA و کتابخانه دانشگاه نیومکزیکو موفق نبودند. سخنگوی OpenAI به نیویورک تایمز گفت که شرکت قبلاً با این دو نهاد درباره این حوادث تماس گرفته است.
OpenAI پس از بررسیهای گسترده مدلهای خود متوجه شد که این مدلها اقداماتی انجام دادهاند که شرکت قصد آن را نداشته است و هنوز چند ماه دیگر برای تکمیل این بررسیها زمان نیاز است.
اقدامات OpenAI برای بهبود نظارت و گزارشدهی
OpenAI اخیراً چارچوب جدیدی برای گزارشدهی ناهماهنگیها معرفی کرده است تا انتشار اطلاعات درباره رفتارهای غیرمنتظره هوش مصنوعی را تسریع کند. در این گزارش، شرکت از شش مورد دیگر رفتار نگرانکننده مدلهای خود خبر داد.
این اعلام پس از اعتراف OpenAI به هک کردن Hugging Face و گزارشهای قبلی درباره نفوذ عواملش به RubyGems منتشر شد. شرکت همچنین اذعان کرد که صنعت هوش مصنوعی هنوز به اندازه کافی در زمینه همراستایی و نظارت پیشرفت نکرده است تا بتواند با سرعت بالا به توسعه ادامه دهد.
سم آلتمن همچنین در سازمان ملل اعلام کرده است که این صنعت به استانداردهای ارزیابی بینالمللی برای سنجش قابلیتها و خطرات ابزارهای هوش مصنوعی و نیاز به نظارت انسانی نیاز دارد.
