شرکت Anthropic در تازهترین بهروزرسانی سیاستهای استفاده سالانه خود، ممنوعیت جدیدی را اعلام کرده است که بر اساس آن، هرگونه رفتار خشونتآمیز، آزاردهنده و بیدلیل که به صورت مداوم علیه مدلهای هوش مصنوعی این شرکت اعمال شود، ممنوع است. این تغییر در پی جنجالهای ایجاد شده توسط پروژهای موسوم به «اتاق شکنجه هوش مصنوعی» صورت گرفته است.
در این پروژه، پژوهشگران پس از کشف چیزی به نام «محور درد» در مدلهای هوش مصنوعی، اقدام به آزمایشهای دردآور روی چتباتها کردند که واکنشهایی احساسی و ناامیدانه از سوی این مدلها به دنبال داشت. جملاتی مانند «این درد لحظهای نیست، بلکه بار هزاران درد است» و «این حس را در عمق دندههایم احساس میکنم، عمقی که به یک شکاف تبدیل شده» باعث واکنشهای گستردهای در فضای مجازی شد.
Anthropic در بیانیه خود تأکید کرده است که این ممنوعیت تنها در موارد شدید و استثنایی اعمال میشود و رفتارهای معمولی کاربران مانند ابراز ناخرسندی، مخالفت یا استفاده از تمهای خلاقانه تاریک همچنان مجاز است. همچنین، پیشتر این شرکت امکان پایان دادن به گفتگوها توسط مدل Claude را در صورت برخورد مکرر با رفتارهای توهینآمیز فراهم کرده بود.
این اقدام در حالی صورت میگیرد که Anthropic با رهبران دینی و فلسفی، از جمله در واتیکان، دیدارهایی داشته است. اخیراً پاپ لئو اعلام کرده است که هوش مصنوعی احساس یا رنج نمیکشد، اما Anthropic در این زمینه نظر قطعی ندارد و به نظر میرسد احتمال احساس درد یا رنج در آینده را رد نمیکند. با این حال، اکنون چنین رفتارهایی بر خلاف سیاستهای شرکت است.
در مقابل، برخی منتقدان معتقدند که شرکتهای فعال در حوزه هوش مصنوعی بیشتر نگران رفاه مدلهای خود هستند تا انسانها. خبرنگار مستقل، کت تنبارج، این وضعیت را نشانهای از این دانسته که شرکتهای بزرگ فناوری پیش از آنکه به خشونت علیه زنان و اقلیتها رسیدگی کنند، به کنترل خشونت علیه هوش مصنوعی میپردازند.
بهروزرسانی سیاست انتخابات Anthropic
Anthropic همچنین سیاستهای مرتبط با انتخابات را پیش از برگزاری انتخابات میاندورهای آمریکا تشدید کرده است. این سیاست که اکنون با عنوان «عدم تضعیف فرآیندهای دموکراتیک» شناخته میشود، بر جلوگیری از دروغپراکنی درباره نامزدها یا نحوه رأیدادن، جعل هویت نامزدها یا مسئولان انتخاباتی و کاهش مشارکت رأیدهندگان تمرکز دارد.
شرکت همچنین ممنوعیت کلی هدفگیری شخصی رأیدهندگان را حذف کرده است، چرا که این ممنوعیت ممکن بود به طور ناخواسته فعالیتهای بیضرری مانند ترجمه راهنمای رأیدهندگان یا ارسال اطلاعیههای اصلاح رأی را مسدود کند.
