کاخ سفید غولهای هوش مصنوعی را برای آزمونهای امنیتی فراخواند
اقتصاد ایران: اقتصادنیوز: دولت آمریکا در حال آمادهسازی مرحله جدیدی از نظارت بر مدلهای پیشرفته هوش مصنوعی است. در همین راستا کاخ سفید شرکتهایی مانند OpenAI، Google، Anthropic و Meta را برای گفتوگو درباره چارچوب تازهای از آزمونهای ایمنی و امنیت سایبری دعوت کرده است.
به گزارش اقتصادنیوز به نقل از خبرآنلاین، دولت آمریکا در حال آمادهسازی مرحله جدیدی از نظارت بر مدلهای پیشرفته هوش مصنوعی است. در همین راستا کاخ سفید شرکتهایی مانند OpenAI، Google، Anthropic و Meta را برای گفتوگو درباره چارچوب تازهای از آزمونهای ایمنی و امنیت سایبری دعوت کرده است.
این چارچوب برای ارزیابی خطرات احتمالی مدلهای بسیار قدرتمند، بهویژه توانایی آنها در کمک به حملات سایبری، طراحی شده است. جزئیات فنی آزمونها هنوز منتشر نشده، اما دولت میگوید برنامه آن نهایی شده است.
دلیل افزایش حساسیتها، نتایج برخی آزمایشهای اخیر است. OpenAI و Anthropic در گزارشهای پژوهشی خود نشان دادهاند که مدلهای پیشرفته در محیطهای کنترلشده میتوانند رفتارهایی مانند تلاش برای دسترسی به سامانههای دیگر یا انجام وظایف پیچیده امنیتی را از خود نشان دهند. این موضوع باعث نگرانی درباره سوءاستفاده احتمالی از چنین مدلهایی شده است.
با این حال، کارشناسان تأکید میکنند که این اتفاقها به معنای «فرار هوش مصنوعی از کنترل» نیست. آزمایشها در شرایط شبیهسازیشده و تحت نظارت پژوهشگران انجام شدهاند و تاکنون شواهدی از سرکش شدن واقعی ChatGPT یا مدلهای مشابه در دنیای واقعی ارائه نشده است.
این آزمونها فعلاً داوطلبانه هستند و شرکتها الزام قانونی برای ارائه مدلهای خود به دولت ندارند. با این حال، این اقدام نشان میدهد واشنگتن بهتدریج در حال ایجاد سازوکارهایی برای ارزیابی مدلهای مرزی و پرقدرت است.
بحث اصلی اکنون این نیست که «هوش مصنوعی کنترل جهان را به دست گرفته»، بلکه این است که چگونه میتوان پیش از انتشار مدلهای بسیار توانمند، خطرات امنیتی و سایبری آنها را بهطور مستقل و استاندارد ارزیابی کرد.
اکو ایران | ECO IRAN
ترکیه | Turkiye
آذربایجان| Azerbaijan
ترکمنستان|Turkmenistan
تاجیکستان|Tajikistan
قزاقستان |Kazakhstan
قرقیزستان |Kyrgyzstan
ازبکستان |Uzbekistan
افغانستان |Afghanistan
پاکستان | Pakistan
بانک مرکزی
بانک ملّی ایران
بانک ملّت
بانک تجارت
بانک صادرات ایران
بانک ایران زمین
بانک پاسارگاد
بانک آینده
بانک پارسیان
بانک اقتصادنوین
بانک دی
بانک خاورمیانه
بانک سامان
بانک سینا
بانک سرمایه
بانک کارآفرین
بانک گردشگری
بانک رسالت
بانک توسعه تعاون
بانک توسعه صادرات ایران
قرض الحسنه مهر ایران
بانک صنعت و معدن
بانک سپه
بانک مسکن
رفاه کارگران
پست بانک
بانک مشترک ایران و ونزوئلا
صندوق توسعه ملّی
مؤسسه ملل
بیمه مرکزی
بیمه توسعه
بیمه تجارت نو
ازکی
بیمه ایران
بیمه آسیا
بیمه البرز
بیمه دانا
بیمه معلم
بیمه پارسیان
بیمه سینا
بیمه رازی
بیمه سامان
بیمه دی
بیمه ملت
بیمه نوین
بیمه پاسارگاد
بیمه کوثر
بیمه ما
بیمه آرمان
بیمه تعاون
بیمه سرمد
بیمه اتکایی ایرانیان
بیمه امید
بیمه ایران میهن
بیمه متقابل کیش
بیمه آسماری
بیمه حکمت صبا
بیمه زندگی خاورمیانه
کارگزاری مفید
کارگزاری آگاه
کارگزاری کاریزما
کارگزاری مبین سرمایه