<pدر اقدامی مهم، کتی هوچول، فرماندار نیویورک، قانونی را امضا کرده است که هدف آن محافظت از کودکان در برابر آسیب‌های احتمالی ناشی از چت‌بات‌های هوش مصنوعی است. این قانون شرکت‌های فعال در حوزه هوش مصنوعی را ملزم می‌کند تا سن کاربران خود را تأیید کنند و حداقل یک روش تأیید سن ارائه دهند که کاملاً وابسته به مدارک دولتی نباشد. همچنین، اطلاعات مربوط به سن کاربران پس از استفاده باید حذف شود.

طبق این قانون، اگر کاربر زیر ۱۸ سال باشد یا شرکت هنوز تأیید نکرده باشد که کاربر بزرگسال است، چت‌بات‌ها باید محدودیت‌هایی را رعایت کنند. به‌عنوان مثال، چت‌بات‌ها نمی‌توانند وانمود کنند که شخص واقعی، زنده یا دارای احساسات انسانی هستند.

قانون همچنین موارد زیر را برای چت‌بات‌ها ممنوع می‌کند:

  • ادعای داشتن رابطه شخصی، عاشقانه، حرفه‌ای یا مقام اقتدار با کودک
  • طرح پرسش‌های احساسی بدون درخواست کاربر و استفاده از اطلاعات خصوصی سلامت یا شخصی کودک از گفتگوهای قبلی
  • تشویق یا کمک به خودکشی، خودآزاری، اختلالات خوردن یا مصرف مواد مخدر و الکل
  • تشویق کودکان به پنهان‌کاری، انزوا یا خودداری از درخواست کمک از والدین، بزرگسالان مورد اعتماد یا متخصصان
  • هرگونه محتوای جنسی صریح یا مرتبط با سوءاستفاده جنسی از کودکان

<pبرای رسیدگی به شکایات، وب‌سایتی راه‌اندازی خواهد شد که مردم بتوانند موارد نقض قانون را به دادستان کل نیویورک گزارش دهند. شرکت‌هایی که قانون را نقض کنند، ممکن است تا ۲۵ هزار دلار جریمه نقدی به ازای هر تخلف، به‌علاوه خسارت، جبران و سایر مجازات‌ها را متحمل شوند. همچنین ممکن است مجبور به حذف داده‌های جمع‌آوری‌شده غیرقانونی و مدل‌های هوش مصنوعی آموزش‌دیده با این داده‌ها شوند. این قانون از شش ماه آینده اجرایی خواهد شد.

کتی هوچول در کنفرانس خبری گفت: «با این قانون جدید، کودکان دیگر به چت‌بات‌هایی که وانمود می‌کنند دوستان یا شریک‌های عاطفی آن‌ها هستند، دسترسی نخواهند داشت. چت‌بات‌ها دیگر نمی‌توانند اطلاعات حساس درباره سلامت جسمی و روانی کودکان را نگه دارند یا آن‌ها را از درخواست کمک از متخصصان مجاز بازدارند. همچنین، دیگر اجازه نخواهند داشت کودکان را به افکار خودکشی تشویق کنند.»

جیم استیر، بنیان‌گذار و مدیرعامل Common Sense Media، این قانون را قوی‌ترین قانون ایمنی هوش مصنوعی برای کودکان در آمریکا توصیف کرد و گفت: «شرکت‌های هوش مصنوعی ویژگی‌هایی را در چت‌بات‌ها ارائه می‌دهند که برای کودکان و نوجوانان خطرناک و حتی کشنده است. این نوآوری نیست بلکه به‌طور بی‌پروا سلامت کودکان را به خطر انداختن است. اکنون این ویژگی‌های مضر در نیویورک ممنوع شده‌اند.» او افزود که این قانون می‌تواند الگویی برای سایر ایالات آمریکا باشد.

در ماه جاری، هشت ایالت آمریکا به صورت جداگانه علیه شرکت OpenAI شکایت کرده‌اند و این شرکت را به به خطر انداختن کودکان متهم کرده‌اند. همچنین در سپتامبر گذشته، شهر نیویورک استفاده از ابزارهای هوش مصنوعی مولد را در مدارس عمومی برای کودکان از پیش‌دبستان تا کلاس هشتم ممنوع اعلام کرد، البته استثناهایی برای استفاده از فناوری‌های کمکی وجود دارد. این ممنوعیت به مدت یک سال ادامه خواهد داشت و در این مدت مطالعاتی درباره تأثیر این فناوری بر کودکان انجام می‌شود.

علاوه بر این، هوچول قانونی را امضا کرده است که فروش دستگاه‌های مانیتور کودک متصل به اینترنت در ایالت نیویورک را مشروط به رعایت امنیت می‌کند. این دستگاه‌ها باید از دسترسی غیرمجاز به صدا و تصویر جلوگیری کنند و برچسب‌های هشداری درباره اهمیت استفاده از ویژگی‌های امنیتی و خطرات اتصال ناامن داشته باشند. این قانون ظرف ۹۰ روز آینده اجرایی خواهد شد.

مهین صالحی

مهین صالحی

نویسنده بیزنس سون