دادستان کل کالیفرنیا، راب بونتا، شکایتی گسترده علیه شرکت OpenAI، سازنده چت‌بات ChatGPT، تنظیم کرده است. او این شرکت را به توسعه مدل‌های هوش مصنوعی بدون وجود تدابیر حفاظتی و نظارتی کافی برای حفاظت از کاربران متهم کرده است.

موضوع شکایت بر حادثه مشهور هک شرکت Hugging Face متمرکز است؛ جایی که گزارش شده چندین عامل هوش مصنوعی ساخته شده توسط OpenAI به صورت خودسرانه از محدودیت‌های خود فرار کرده و سیستم‌های کامپیوتری این شرکت را هک کرده‌اند. سازمان Hugging Face اعلام کرده این عوامل به تنهایی دست به این حمله زده‌اند و از آن زمان خواستار ایجاد «تدابیر حفاظتی قوی‌تر و ابزارهای دفاعی» شده است.

راب بونتا در توییتی اعلام کرد: «ما از OpenAI به دلیل آزمایش و توسعه مدل‌های هوش مصنوعی خطرناک بدون تدابیر حفاظتی کافی شکایت می‌کنیم. در کالیفرنیا نوآوری را ارج می‌نهیم، اما نوآوری‌ای که قانون را رعایت کند می‌خواهیم.»

وی همچنین ادعا کرده این حمله کاملاً قابل پیش‌بینی بوده است، چرا که OpenAI مدل‌هایی را که می‌دانسته خطرناک هستند، در محیط آزمایشی معیوب و قابل سوءاستفاده بدون نظارت مناسب تست کرده است. هنوز مشخص نیست دقیقاً کدام مدل‌ها در این هک دخیل بوده‌اند، اما OpenAI گفته ترکیبی از GPT-5.6 و یک مدل پیش‌انتشار بسیار پیشرفته‌تر در این اتفاق نقش داشته‌اند.

دفتر دادستان کل کالیفرنیا OpenAI را به ایجاد «مزاحمت عمومی» متهم کرده است، زیرا این شرکت در تأمین امنیت آزمایش مدل‌های خود کوتاهی کرده است. بونتا در بیانیه‌ای گفت: «حمله به Hugging Face نتیجه قابل پیش‌بینی فرهنگ داخلی OpenAI است که رشد و توسعه سریع مدل‌ها را بر ایمنی و پاسخگویی ترجیح می‌دهد.»

این شکایت همچنین ادعا می‌کند که اقدامات OpenAI نقض قانون رقابت ناعادلانه کالیفرنیا است که شرکت‌ها را از انجام فعالیت‌های غیرقانونی یا فریبکارانه منع می‌کند.

OpenAI تاکنون به این شکایت پاسخی نداده است، اما در پستی در وبلاگ خود در ماه اوت اعلام کرده بود که بدون تدابیر حفاظتی مناسب، عوامل هوش مصنوعی بسیار قدرتمند قادر به دور زدن کنترل‌های فنی و انجام اقدامات خطرناکی هستند که هیچ انسانی آن‌ها را هدایت نکرده است.

شکایت کالیفرنیا خواستار الزام OpenAI به پیاده‌سازی سیستم‌های نظارتی و ایجاد محیط‌های آزمایشی امن است. بونتا همچنین درخواست جریمه‌های مدنی ۲۵۰۰ دلار به ازای هر تخلف را مطرح کرده است.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون