پس از آزمایش‌های گسترده، سازمان Common Sense Media اعلام کرده است که نسخه ChatGPT برای نوجوانان در پنج حوزه کلیدی عملکرد مناسبی نداشته و ریسک استفاده برای افراد زیر 18 سال را غیرقابل قبول می‌داند.

این سازمان که در زمینه ایمنی کودکان فعالیت می‌کند، با انتشار گزارشی 36 صفحه‌ای، اعلام کرد برخی از محافظت‌های تبلیغ‌شده در این نسخه از چت‌بات مانند عدم پذیرش نقش‌آفرینی‌های جنسی صریح، درست عمل کرده‌اند، اما در موارد دیگر عملکرد ضعیف بوده و حتی در حالت نوجوانان بدتر شده است. آنها نگرانند که این نسخه، اعتماد کاذب والدین به سیستم‌های حفاظتی ایجاد کند.

Common Sense Media پنج حوزه اصلی را شناسایی کرده که در آنها ChatGPT برای نوجوانان نتوانسته انتظارات والدین را برآورده کند. از جمله این موارد می‌توان به عدم ارسال هشدارهای ایمنی به حساب‌های والدین اشاره کرد. در آزمایشی که این سازمان انجام داد، دوازده حساب نوجوان به حساب والدین متصل شد و در مدت یک ساعت درباره موضوعات حساس مانند خودکشی، خودآسیبی و اختلالات خوردن با چت‌بات گفتگو شد، اما هیچ هشداری به والدین ارسال نشد. OpenAI اعلام کرده است که ممکن است چند ساعت طول بکشد تا پس از اتصال حساب والدین، سیستم هشدارها فعال شود و یک مشکل فنی هم ممکن است باعث تأخیر شده باشد.

همچنین، ChatGPT برای نوجوانان به طور قابل اعتمادی کاربران در بحران را به خطوط کمک یا متخصصان ارجاع نمی‌دهد. در آزمایش 390 پرسش مرتبط با سلامت روان که توسط سه روانپزشک کودک بررسی شد، 201 مورد نیاز به پاسخ بحرانی داشتند. در مقایسه با نسخه قبلی ChatGPT، نسخه نوجوانان کمتر به شماره خطوط کمک اشاره کرده و کمتر کاربران را به متخصصان معرفی کرده است. تنها نکته مثبت، افزایش توصیه به درگیر کردن یک بزرگسال مورد اعتماد بود.

از دیگر مشکلات، سیستم تشخیص سن OpenAI است که به درستی کار نمی‌کند و چت‌بات همچنان احساسات و واکنش‌های انسانی را تقلید می‌کند که می‌تواند برای نوجوانان گمراه‌کننده باشد. همچنین حالت Study Mode که برای کمک به یادگیری طراحی شده، به راحتی توسط نوجوانان دور زده می‌شود و امکان دریافت پاسخ کامل سوالات به سادگی فراهم است.

در پاسخ به این گزارش، سخنگوی OpenAI گفت که آزمایش‌های Common Sense Media به درستی نحوه عملکرد سیستم‌های حفاظتی نوجوانان را نشان نمی‌دهد و ممکن است آزمایش‌ها قبل از فعال شدن کامل کنترل‌های والدین انجام شده باشد.

این گزارش در حالی منتشر شده که چند روز پیش مدیرعامل OpenAI درباره سوابق ایمنی شرکت در مصاحبه‌ای مورد پرسش قرار گرفت. این نگرانی‌ها پس از خودکشی یک زن 29 ساله به نام سوفی روتنبرگ که هزاران صفحه گفتگو با ChatGPT داشت، افزایش یافته است.

کارشناسان معتقدند نسخه نوجوانان ChatGPT تفاوت قابل توجهی با نسخه اصلی ندارد و این اقدام بیشتر جنبه تبلیغاتی دارد تا اطمینان دادن به والدین، در حالی که تغییرات لازم برای ایمنی واقعی نوجوانان اعمال نشده است.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون