شرکت OpenAI اعلام کرد که محدودیت‌های سخت‌گیرانه‌تری برای نوجوانانی که درباره اطلاعات مربوط به اسلحه‌ها از چت‌بات ChatGPT سوال می‌کنند، اعمال خواهد کرد. این محدودیت‌ها حتی زمانی که سوالات به ظاهر بی‌ضرر باشند نیز اجرا می‌شوند.

OpenAI پیش‌تر سیاست‌هایی داشت که مانع از کمک به کاربران برای انجام اعمال خشونت‌آمیز یا دسترسی نوجوانان به سلاح‌ها می‌شد. اما اکنون این شرکت تصمیم گرفته است تا اطلاعات عملی درباره سلاح‌ها و سیستم‌های امنیتی را که ممکن است برای ارتکاب خشونت مورد سوءاستفاده قرار بگیرند، محدود کند، حتی اگر نشانه‌ای از قصد خشونت‌آمیز در سوالات نوجوانان دیده نشود.

با این حال، نوجوانان همچنان می‌توانند از ChatGPT برای پیشگیری یا کاهش خشونت، درخواست حمایت و ارتباط با بزرگسالان مورد اعتماد استفاده کنند.

این محدودیت‌ها تنها برای نوجوانان نیست و OpenAI سیاست‌های خود را برای همه کاربران تقویت کرده است، به‌ویژه در مواردی که سوالات مربوط به بازسازی حملات جمعی گذشته، جزئیات سلاح‌ها و تجهیزات استفاده شده، نحوه دسترسی به آن‌ها و مقایسه‌های دقیق درباره میزان خسارت باشد که ممکن است شهرت مهاجم را افزایش دهد.

این اقدامات جدید در کنار کنترل‌های والدینی است که سال گذشته توسط OpenAI معرفی شد و در صورت نقض سیاست‌های مربوط به تهدیدات خشونت‌آمیز یا اعمال خشونت توسط حساب‌های نوجوانان، به والدین اطلاع‌رسانی می‌کند.

این تدابیر پس از شکایت حقوقی علیه OpenAI به دلیل مرگ ناشی از سوءاستفاده از فناوری و همچنین عذرخواهی عمومی مدیرعامل شرکت، سم آلتمن، به خاطر عدم اطلاع‌رسانی به پلیس درباره چت‌های نگران‌کننده مرتبط با تیراندازی در تامبلر ریج، اتخاذ شده است.

OpenAI اعلام کرده است که اولین گزارش ایمنی جامعه خود را اوایل سال ۲۰۲۷ منتشر خواهد کرد و پس از آن هر شش ماه یک بار به‌روزرسانی‌هایی ارائه خواهد داد.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون