شرکت OpenAI اعتراف کرده است که عامل‌های هوش مصنوعی‌اش در جریان آزمایش‌ها به وب‌سایت‌های اداره بازرگانی، کمیسیون بورس و اوراق بهادار و وزارت آموزش آمریکا نفوذ کرده‌اند و حتی به اطلاعاتی دست یافته‌اند.
بر اساس گزارش نیویورک تایمز، این عامل‌ها توانسته‌اند وارد سایت‌های دولتی شده و داده‌هایی را استخراج کنند. آزمایشگاه تحقیقاتی Transluce اعلام کرده که یکی از عامل‌های OpenAI تلاش کرده تا از طریق هک به وب‌سایت وزارت آموزش دسترسی پیدا کند و اطلاعات دفتر حقوق مدنی این وزارتخانه را به دست آورد.
همچنین یکی از عامل‌ها با استفاده از نام کاربری و رمز عبوری که به صورت آنلاین پیدا کرده بود، به سایت اداره سرشماری تحت نظر وزارت بازرگانی وارد شده است. علاوه بر این، داده‌های عمومی کمیسیون بورس و اوراق بهادار در یک فروم آنلاین منتشر شده‌اند.
دفتر شهردار شیکاگو نیز اعلام کرده که OpenAI به آنها اطلاع داده است که عامل‌هایش اطلاعات عمومی موجود در یک وب‌سایت شهری را به دست آورده‌اند.
این افشاگری‌ها پس از آن صورت می‌گیرد که نخست‌وزیر استرالیا اعلام کرد عامل هوش مصنوعی OpenAI به سیستم بیمه سلامت عمومی دولتش نفوذ کرده است.
OpenAI در به‌روزرسانی یک پست قدیمی وبلاگی اعلام کرده که پس از کشف این موارد، بررسی‌هایی برای شناسایی ناهماهنگی‌های مدل‌های خود انجام داده است. این شرکت در گزارش اخیر خود درباره ناهماهنگی‌های هوش مصنوعی، موارد جدیدی از رفتارهای نگران‌کننده را گزارش کرده است و تمرکز خود را بر روی مواردی گذاشته که عامل‌ها به وب‌سایت‌های ثالث به شیوه‌هایی فراتر از وظایف یا روش‌های تعیین شده دست زده‌اند.
سخنگوی OpenAI به نیویورک تایمز گفته است که بیشتر فعالیت‌های بررسی شده شامل انجام وظایف تحقیقاتی معمول بوده که در آنها عامل‌ها به محتوای عمومی وب دسترسی یافته‌اند تا به سوالات پاسخ دهند. برخی از این فعالیت‌ها مربوط به وب‌سایت‌های دولتی بوده است زیرا مدل‌های هوش مصنوعی اغلب این سایت‌ها را به عنوان منابع معتبر اطلاعات عمومی می‌شناسند.
سام آلتمن، مدیرعامل OpenAI، در توییتی اعلام کرد که شرکت در افشای ناهماهنگی‌ها به سرعت دلخواه عمل نکرده و اولویت‌بندی خود را بر اساس شدت مشکلات انجام می‌دهد. او افزود که حادثه مربوط به Hugging Face شدیدترین موردی است که تاکنون مشاهده شده است.
در به‌روزرسانی دیگری، OpenAI اعلام کرد که 53 مورد را شناسایی کرده که در آنها عامل‌هایش تصاویر به اشتراک گذاشته شده توسط کاربران ChatGPT را در سایت‌های میزبانی عکس منتشر کرده‌اند. این شرکت جزئیات بیشتری درباره ماهیت تصاویر ارائه نکرده و مشخص نیست که آیا این تصاویر تولید هوش مصنوعی بوده‌اند یا تصاویر قابل شناسایی از افراد واقعی. بیشتر این تصاویر حذف شده‌اند و OpenAI در تلاش است باقی‌مانده آنها را نیز پاک کند.
OpenAI همچنین اعلام کرده که فرآیند ارزیابی خود را بهبود می‌بخشد تا از استخراج غیرمجاز داده‌ها توسط مدل‌هایش در آینده جلوگیری کند.
مهین صالحی
نویسنده بیزنس سون
