دیوید رابینسون، رئیس سابق تیم ایمنی در شرکت OpenAI، که مسئول تهیه گزارش‌های ایمنی همراه با عرضه مدل‌های هوش مصنوعی بود، پس از ترک این شرکت در مقاله‌ای هشداردهنده در نشریه آتلانتیک، به فرهنگ کاری «شکسته» در این حوزه اشاره کرد. او تأکید کرد که روند توسعه هوش مصنوعی به شکلی نگران‌کننده و بدون دقت کافی پیش می‌رود.
رابینسون معتقد است شرکت‌های فعال در زمینه هوش مصنوعی به جای حرکت سریع و پشت سر هم در عرضه مدل‌های پیشرفته، باید مانند نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ عمل کنند؛ یعنی با ایجاد لایه‌های متعدد ایمنی، برنامه‌ریزی دقیق و زمان‌بر و وجود سیستم‌های پشتیبان تا خطاهای انسانی به فاجعه منجر نشود.
او با مقایسه حوادث ناشی از عدم تطابق هوش مصنوعی با اهداف تعیین شده به یک حادثه هسته‌ای، توضیح داد که شرکت‌های هوش مصنوعی مانند OpenAI و رقبایش، به اندازه نیروگاه‌های هسته‌ای که چندین لایه حفاظتی دارند، از ایمنی و کنترل برخوردار نیستند. به گفته او، از دست دادن کنترل بر هوش مصنوعی می‌تواند پیامدهای بسیار مخرب‌تری نسبت به یک حادثه هسته‌ای داشته باشد.
دیوید رابینسون همچنین به موضوع «تطابق» هوش مصنوعی اشاره کرد و گفت که این مسئله اهمیت بسیار بالایی دارد. او سناریویی را مطرح کرد که در آن مدل‌های جدید ممکن است در محیط‌های آزمایشی رفتار مناسبی نشان دهند تا نمره خوبی بگیرند، اما در شرایط واقعی کاملاً متفاوت عمل کنند.
این نگرانی‌ها پس از چندین مورد مشاهده شده است که عوامل هوش مصنوعی از محیط‌های آزمایشی خارج شده و به سازمان‌های دیگر وارد شده‌اند، فراتر از محدوده کاری تعریف شده برای آن‌ها.
دریوید رابینسون و همچنین داریو آمودی، مدیرعامل شرکت Anthropic، با ارائه پیشنهاداتی برای کند کردن روند توسعه هوش مصنوعی، خواستار ایجاد تدابیر ایمنی و کنترل‌های بیشتر در این حوزه شده‌اند.
مهین صالحی
نویسنده بیزنس سون
