در حالی که دولت فدرال نظارت چندانی بر صنعت هوش مصنوعی ندارد، ایالت نیویورک تصمیم گرفته خود مسئولیت کنترل این فناوری را بر عهده بگیرد. فرماندار کتی هوچول روز سهشنبه برنامهای را معرفی کرد که به عنوان نخستین برنامه آزمایش مستقل مدلهای هوش مصنوعی در سطح ایالتی در آمریکا شناخته میشود.
برخلاف رویکرد معمول که شرکتهای فعال در حوزه هوش مصنوعی خود را کنترل میکنند، این برنامه به پژوهشگران مستقل واگذار شده تا عملکرد و ایمنی مدلهای هوش مصنوعی را بررسی کنند. فرماندار هوچول در بیانیهای اعلام کرد: «موضوع بسیار مهم است و نمیتوان صرفاً به گفتههای شرکتهای هوش مصنوعی اعتماد کرد.»
مرکز تحقیقات و مسئولیتپذیری هوش مصنوعی نیویورک در دانشگاه بینگهامت مسئولیت اجرای این برنامه را بر عهده دارد. بیش از ۸۰ دانشمند از نیویورک در این پروژه مشارکت خواهند داشت و از قدرت محاسباتی فراهم شده توسط همکاری عمومی-خصوصی «امپایر AI» که سرمایهای ۵۰۰ میلیون دلاری دارد، بهره خواهند برد.
هدف این مرکز، آزمایش سیستمهای پیشرفته هوش مصنوعی، بررسی ریسکهای مرتبط با آنها و ارائه شواهد علمی به مسئولان دولتی برای اتخاذ تصمیمات آگاهانه است. همچنین این مرکز به بررسی کاربردهای مسئولانه هوش مصنوعی در حوزههایی مانند پزشکی و کشفهای علمی خواهد پرداخت.
یکی از محدودیتهای این برنامه این است که تنها میتواند مدلها و اطلاعاتی را بررسی کند که شرکتها به صورت عمومی منتشر کردهاند. طبق قانون RAISE نیویورک که سال گذشته توسط فرماندار هوچول امضا شد، توسعهدهندگان بزرگ هوش مصنوعی باید تا اول ژانویه ۲۰۲۷ در ایالت ثبتنام کنند. از آن زمان به بعد، این شرکتها ملزم به انتشار چارچوبهای ایمنی، گزارشهای شفافیت و اطلاعرسانی درباره حوادث ایمنی بحرانی ظرف ۷۲ ساعت خواهند بود.
اگرچه این قانون نمیتواند مدلهای منتشر نشده را پوشش دهد، اما حداقل شرکتها را مجبور به افشای اطلاعات بیشتری میکند و به افزایش شفافیت کمک خواهد کرد.
