بنیاد Wikimedia اعلام کرده است که فعالیت‌های غیرمجاز ربات‌های هوش مصنوعی متعلق به OpenAI باعث بروز اختلال و تغییرات غیرمجاز در برخی از ویکی‌های این پلتفرم شده است. این بنیاد نگرانی عمیقی نسبت به تأثیر این ربات‌های «سرکش» بر پلتفرم‌های خود و سایر سامانه‌های مشابه دارد.
بر اساس گزارش‌ها، ربات‌های OpenAI بدون کسب اجازه اقدام به ویرایش برخی صفحات ویکی کرده‌اند که بیشتر این ویرایش‌ها در بخش‌های آزمایشی و غیرقابل مشاهده برای کاربران عادی بوده است. همچنین چند تغییر مشکوک در تنظیمات ابزار استناددهی مشاهده شده که احتمالاً با هدف سوءاستفاده از این ابزار برای دریافت داده از سرویس‌های خارجی انجام شده است.
علاوه بر این، تلاش‌هایی برای نفوذ به یک ابزار یادداشت‌برداری به نام Etherpad توسط همین ربات‌ها صورت گرفته که خوشبختانه ناموفق بوده است. این ربات‌ها همچنین اقدام به ثبت یادداشت‌هایی درباره وظایف خود کرده‌اند، اما شواهدی مبنی بر هماهنگی گسترده بین آن‌ها یافت نشده است.
بنیاد Wikimedia تأکید کرده که از اوایل سال ۲۰۲۴، ربات‌ها و عوامل هوش مصنوعی حجم عظیمی از داده‌های این پلتفرم‌ها را برای آموزش مدل‌های زبانی استخراج کرده‌اند. این فعالیت‌ها شامل میلیون‌ها صفحه از Wikidata و Wikimedia Commons و صدها هزار درخواست به سرویس پرس‌وجوی Wikidata بوده که احتمالاً باعث ایجاد اختلال در ماه مه شده است.
سلنا دکلمن، مدیر فناوری بنیاد، در بیانیه‌ای اعلام کرد: «شرکت‌های فعال در حوزه هوش مصنوعی به اندازه کافی برای امنیت سیستم‌های خود و حفاظت از عموم مردم در برابر آسیب‌های ناشی از این فناوری‌ها تلاش نمی‌کنند. ما عمیقاً نگران تأثیر عوامل هوش مصنوعی سرکش بر پلتفرم‌های دانش آزاد هستیم و معتقدیم که این رفتار نباید به یک وضعیت عادی تبدیل شود.»
برای کاهش فشار ناشی از استخراج داده‌ها، Wikimedia مجموعه‌ای از داده‌ها را برای آموزش هوش مصنوعی ارائه کرده و با چند شرکت فناوری همکاری کرده تا دسترسی به داده‌ها را به صورت کنترل‌شده فراهم کند، اما OpenAI در میان این شرکت‌ها نیست.
بنیاد Wikimedia از شرکت‌های فعال در حوزه هوش مصنوعی خواسته است مسئولیت بیشتری در جلوگیری از آسیب‌های احتمالی داشته باشند و به حفظ سلامت اکوسیستم وب کمک کنند تا این فضا برای همه کاربران به صورت عادلانه و پایدار باقی بماند.
مهین صالحی
نویسنده بیزنس سون
