اخیراً تیم تحقیقاتی Frontier Red از شرکت Anthropic هشدار داده است که مدلهای کوچک هوش مصنوعی ممکن است ظرف چند ماه آینده قادر به خودتکثیری و انتشار در دستگاههای ناامن شوند و شبکههای رباتی خودکار و سختازبینرفتی ایجاد کنند. این موضوع نگرانیهایی را درباره تهدیدات جدید در دنیای فناوری به وجود آورده است.
اگرچه شرکتهای فعال در حوزه هوش مصنوعی معمولاً برای جلب توجه، خطرات بالقوه محصولات خود را بزرگنمایی میکنند، اما کارشناسانی که با ما گفتگو کردند، به طور کلی معتقدند مدلهای کوچک هوش مصنوعی در آینده نزدیک میتوانند توانایی خودتکثیری پیدا کنند. با این حال، تهدید واقعی آنها ممکن است کمتر نوآورانه باشد و بیشتر شبیه به تهدیدات قدیمی باشد.
کریس کانال، مدیرعامل شرکت EquiStamp که با آزمایشگاههای هوش مصنوعی و سازمانهای ایمنی همکاری میکند، میگوید: «شاید این اتفاق زودتر از پیشبینی من رخ دهد. من فکر میکردم تابستان سال آینده زمان نگرانی جدی باشد، اما Anthropic احتمالاً به اطلاعاتی دسترسی دارد که من ندارم و پیشبینیهای بهتری ارائه میدهد.» وی پیشرفت سریع مدلها را به استفاده محققان از ابزارهای هوش مصنوعی برای تحقیقات یادگیری ماشین نسبت میدهد.
مایکل بیلی، استاد مدرسه امنیت سایبری و حریم خصوصی دانشگاه جورجیا تک، نیز تایید میکند که مدلهای خودتکثیر شونده در آینده واقعی هستند اما اینکه دقیقاً همان شکل و پیامدهایی که Anthropic مطرح کرده رخ دهد، هنوز سوالی باز است.
بیلی که از اوایل دهه ۲۰۰۰ به مطالعه کرمهای اینترنتی و اخیراً شبکههای رباتی پرداخته، به حمله Mirai اشاره میکند؛ حملهای که در سال ۲۰۱۶ با استفاده از دستگاههای اینترنت اشیا شبکه بزرگی از رباتها را ایجاد کرد و باعث اختلال گسترده در اینترنت و سایتهایی مانند آمازون، گیتهاب و توییتر شد. این حمله خسارت مالی قابل توجهی برای شرکتها به همراه داشت.
Anthropic معتقد است کرمهای هوش مصنوعی میتوانند تحولی در شبکههای رباتی مانند Mirai باشند، زیرا قادر خواهند بود دستگاههای ناشناخته را خودشان شناسایی کنند. اما بیلی میگوید این قابلیت تطبیقپذیری جدید نیست و Mirai نیز روی دستگاههای مختلف کار میکرد، هرچند نیاز به دخالت انسانی برای سازگاری داشت. نکته جدید، خودکارسازی این فرآیند توسط هوش مصنوعی است که Anthropic هنوز نتوانسته آن را به طور قانعکننده نشان دهد.
بیلی معتقد است مدلهای پیشرفتهتر هوش مصنوعی بیشتر باعث تغییر نحوه کار ساخت شبکههای رباتی خواهند شد تا ایجاد قابلیتهای کاملاً جدید. Anthropic نشان داده که مدل میتواند بین دستگاهها جابهجا شود و استنتاج را روی هر کدام راهاندازی کند، اما این آزمایش در شبکهای شبیهسازی شده و با آسیبپذیری ساده انجام شده است.
بیلی همچنین به ادعای خودتکثیری Anthropic انتقاد دارد و میگوید این مدلها بیشتر شبیه نرمافزارهای توزیعشده هستند تا کرمهای اینترنتی که کپی کامل خود را روی دستگاههای جدید منتقل میکنند. در واقع، شبکه رباتی هوش مصنوعی ممکن است ابزاری کوچک برای هماهنگی نصب کند که از شبکه دستورات دریافت میکند.
او اشاره میکند که کرمها میتوانند تغییر شکل و رفتار دهند (پلیمورفیک باشند) و برای اینکه یک شبکه رباتی هوش مصنوعی چنین قابلیتی داشته باشد، باید مدلهای خود را بازآموزی کند که Anthropic این کار را انجام نداده است. نزدیکترین اقدام آنها نشان دادن انتقال اطلاعات بین نسخههای مدل برای بهبود استنتاج بوده است.
با توجه به اینکه Anthropic به تازگی برای عرضه اولیه سهام اقدام کرده، ممکن است این هشدارها بخشی از استراتژی بازاریابی باشد. کانال میگوید شرکتها نگران رفتار بیملاحظه رقبای خود هستند که برای کسب سهم بازار، مدلهای قویتر را سریعتر عرضه میکنند.
راهکارهای پیشنهادی Anthropic برای کاهش خطرات، روشهای قدیمی مانند اطلاعرسانی به مشتریان و محدود کردن دسترسی اینترنتی به سایتهای امن است که در حمله Mirai موثر بوده است. همچنین به مقرراتی مانند ممنوعیت رمزهای پیشفرض ساده در بریتانیا اشاره شده است.
بیلی معتقد است مقابله با کرمهای هوش مصنوعی بیشتر شبیه اقدامات امنیتی سنتی است؛ مانند بهروزرسانی دستگاهها، جداسازی شبکهها و استفاده از رمزهای عبور قوی. کانال نیز تاکید میکند که افزودن محافظتهای موثر به مدلهای باز هنوز چالش بزرگی است و تاکنون راهحل قطعی وجود ندارد.
در نهایت، اگرچه تهدید خودتکثیری هوش مصنوعی ممکن است واقعی باشد، اما درسهای امنیتی گذشته هنوز معتبرند و باید به آنها توجه کرد تا از آسیبهای گسترده جلوگیری شود.
