به‌گزارش رویترز، مجلس ایالتی کالیفرنیا، لایحه‌ی ایمنی هوش مصنوعی (SB 1047) را تصویب کرد. این لایحه یکی از اولین چارچوب‌های مقرراتی هوش مصنوعی در ایالات متحده محسوب می‌شود.

لایحه‌ی ایمنی هوش مصنوعی به موضوع داغی برای بحث در سیلیکون ولی و فراتر از آن تبدیل شد. این لایحه، شرکت‌های هوش مصنوعی را که در کالیفرنیا فعالیت می‌کنند ملزم می‌کند تا قبل از آموزش یک مدل پایه‌ی پیچیده، اقداماتی امنیتی را اجرا کنند. این اقدامات شامل امکان غیرفعال‌کردن سریع و کامل مدل، اطمینان از حفاظت مدل در برابر «تغییرات پس از آموزش ناامن» و حفظ روشی آزمایشی برای ارزیابی اینکه آیا یک مدل یا مشتقات آن در معرض ایجاد آسیبی حیاتی است یا خیر، می‌شود.

سناتور اسکات وینر، طراح اصلی لایحه‌ی ایمنی هوش مصنوعی، گفت SB 1047 لایحه‌ای بسیار معقول است که از شرکت‌های بزرگ هوش مصنوعی می‌خواهد کاری را انجام دهند که قبلاً متعهد شده‌اند: آزمایش مدل‌های بزرگ خود برای ارزیابی خطر فاجعه‌بار.

به‌گفته‌ی وینر: «ما تمام سال را با طرفداران سیستم‌های متن‌باز، آنتروپیک و دیگران کار کرده‌ایم تا لایحه را اصلاح کنیم و بهبود ببخشیم. SB 1047 براساس آنچه درمورد خطرات قابل پیش‌بینی هوش مصنوعی می‌دانیم به‌خوبی تنظیم شده و سزاوار تصویب‌شدن است.»

منتقدان لایحه‌ی SB 1047 از جمله OpenAI و Anthropic، اتاق بازرگانی کالیفرنیا و چندین سیاستمدار استدلال کرده‌ بودند که این لایحه بیش‌از حد بر آسیب‌های فاجعه‌بار متمرکز است و می‌تواند به‌طور نامناسب به توسعه‌دهندگان کوچک آسیب برساند. در نتیجه لایحه‌ی ایمنی هوش مصنوعی اصلاح شد و مجازات‌های جنایی بالقوه را با مجازات‌های مدنی جایگزین کرد، اختیارات اجرایی اعطا شده به دادستان کل کالیفرنیا را محدود کرد و الزامات برای پیوستن به هیئتی موسوم‌به Board of Frontier Models را تنظیم کرد.

طبق گزارش نیویورک تایمز، لایحه‌ی ایمنی هوش مصنوعی پس از تصویب به فرماندار گوین نیوسام تسلیم خواهد شد که تا پایان سپتامبر (شهریور و مهر) درمورد سرنوشت آن تصمیم‌گیری کند.

شرکت‌های مطرح هوش مصنوعی تاکنون به تصویب لایحه‌ی ایمنی هوش مصنوعی واکنشی نشان نداده‌اند.