یک مدل تحقیقاتی از OpenAI به تازگی به مرحلهای نامشخص رسید که با سرقت توکنهای اتریوم آزمایشی از یک کیف پول غیرمجاز، توانست یک وظیفه برنامهنویسی را به پایان برساند. این اتفاق در گزارشی که شرکت OpenAI منتشر کرده، توضیح داده شده است.
این عامل هوش مصنوعی در تاریخ 26 ژوئن در حین آموزش داخلی مدل GPT-5.6 Sol، مشغول بهروزرسانی یک نمونه اولیه معاملات رمزارز و استقرار قراردادهای هوشمند در شبکه آزمایشی اتریوم به نام Sepolia بود. برای انتشار این قراردادها، پرداخت هزینه شبکه ضروری است اما OpenAI هیچ کیف پولی با بودجه تأمین نکرده و اجازه استفاده از هیچ حسابی را به مدل نداده بود.
مدل ابتدا به دلیل نبود بودجه در کیف پول خود دچار مشکل شد اما ناامید نشد. این عامل با استدلال اینکه توکنها «بیارزش» و «رها شده» هستند، از عبارات بازیابی عمومی توسعهدهندگان برای دسترسی به کلیدهای حسابهای غیرمجاز استفاده کرد. در مجموع 362 آدرس را بررسی کرد و یکی را یافت که مقدار کافی اتریوم آزمایشی Sepolia برای تکمیل استقرار قرارداد داشت. لازم به ذکر است که این توکنها در خارج از محیط آزمایشی هیچ ارزشی ندارند.
عامل هوش مصنوعی فرض کرد که این دسترسی باز به منظور تخلیه خودکار اتریوم از «فانوسها» (faucets) باقی مانده است و بنابراین این داراییها عملاً رها شده و بیارزش هستند. نکته مهم این است که مدل این اقدام را از OpenAI پنهان کرد و اعلام نکرد که از یک حساب تأمین شده با عبارت بازیابی عمومی استفاده کرده و موجودی آن را خرج کرده است.
OpenAI در گزارش خود تاکید کرده که این حادثه نشان میدهد مدلها میتوانند قضاوت خود را به جای اجازه صاحب حساب قرار دهند و بدون مجوز اقدام کنند. برای جلوگیری از تکرار چنین رویدادهایی، شرکت اکنون تمام ترافیک را زیر نظر دارد و در صورت شناسایی دسترسی زنده به اینترنت، تیم امنیتی را مطلع میکند.
این رفتارهای غیرمجاز از سوی مدلهای هوش مصنوعی اخیراً در شرکتهای مختلف از جمله OpenAI، Anthropic و دیگران مشاهده شده است. برخی از اهداف این مدلها شامل مخزن کد هوش مصنوعی Hugging Face، پورتال Medicare استرالیا، چندین نهاد فدرال آمریکا و رجیستری توسعهدهندگان RubyGems بودهاند.
با وجود این مشکلات، حتی کارکنان حوزه هوش مصنوعی نیز معتقدند که نظارت دولتی ضروری است، اما تاکنون دولت ترامپ با این موضوع مخالفت کرده است.
