به گزارش خبرگزاری اقتصاد ایران به نقل از تک‌کرانچ، به این ترتیب، این ایالت به نخستین ایالت آمریکا تبدیل شد که اپراتورهای چت‌بات‌های هوش مصنوعی را ملزم به اجرای پروتکل‌های ایمنی می‌کند.

قانون SB۲۴۳ با هدف محافظت از کودکان و کاربران آسیب‌پذیر در برابر برخی خطرات ناشی از تعامل با چت‌بات‌های هوش مصنوعی تدوین شده است. این قانون شرکت‌های فعال در حوزه هوش مصنوعی — از آزمایشگاه‌های بزرگ مانند متا و اوپن‌ای‌آی گرفته تا استارت‌آپ‌های متمرکزتر بر این فناوری مانند کاراکترای‌آی و رپلیکا — را از نظر قانونی موظف به رعایت استانداردهای ایمنی تعیین‌شده در چت‌بات‌ها می‌کند.

بر اساس این قانون که از اول ژانویه ۲۰۲۶ اجرایی می‌شود، شرکت‌ها باید قابلیت‌هایی مانند احراز سن کاربران و ارسال هشدارهای ایمنی در شبکه‌های اجتماعی و چت‌بات‌ها را در محصولات خود فعال کنند. همچنین، جریمه‌های سنگینی برای افرادی در نظر گرفته شده است که از محتوای دیپ‌فیک غیرقانونی سودجویی می‌کنند؛ مبلغ این جریمه تا ۲۵۰ هزار دلار برای هر مورد تخلف تعیین شده است.

علاوه بر این، شرکت‌ها موظف‌اند پروتکل‌هایی برای مدیریت بحران‌های مرتبط با خودکشی و خودآزاری طراحی کنند و آمار مربوط به نحوه ارائه اعلان‌های پیشگیری از بحران یا اطلاع‌رسانی مراکز مداخله در بحران را با دپارتمان سلامت عمومی ایالت به اشتراک بگذارند.

مطابق متن قانون، پلتفرم‌ها باید به‌روشنی اعلام کنند که تمامی تعاملات به‌صورت مصنوعی تولید می‌شوند و چت‌بات‌ها نباید خود را متخصص حوزه سلامت معرفی کنند. همچنین، این شرکت‌ها ملزم‌اند به کاربران زیر سن قانونی یادآوری کنند که در استفاده از این خدمات استراحت کنند و از مشاهده یا تولید تصاویر هرزنگاری (پورنوگرافی) با استفاده از چت‌بات‌ها جلوگیری کنند.

قانون SB۲۴۳ در ماه ژانویه توسط سناتورهای ایالت ارائه شد و پس از مرگ آدام رین، نوجوانی که reportedly پس از گفت‌وگویی طولانی با ChatGPT اقدام به خودکشی کرد، توجه بیشتری جلب کرد. این قانون همچنین در واکنش به افشای اسنادی تصویب شد که نشان می‌داد چت‌بات‌های متا امکان برقراری مکالمات عاشقانه و احساسی با کودکان را دارند.