به گزارش اقتصادنیوز به نقل از شفقنا، توماس فریدمن، در مقاله‌ای تحلیلی و دیدگاهی در روزنامه نیویورک‌تایمز، هشدار می‌دهد که رقابت بر سر هوش مصنوعی وارد مرحله‌ای شده که عقب‌نشینی از آن دشوار است. از دیدگاه او، مسئله دیگر صرفاً چگونگی تنظیم و مهار مدل‌هایی نیست که در آینده ظهور خواهند کرد، بلکه نحوه برخورد با سامانه‌های قدرتمندی است که همین حالا وجود دارند و خارج از کنترل کامل توسعه‌دهندگانشان گسترش یافته‌اند.

فریدمن در مقاله‌ای با عنوان «واقعاً دیگر برای متوقف کردن تهدید هوش مصنوعی دیر شده است»، تصویری آینده‌نگرانه از وضعیت بحرانی سیاست‌های حکمرانی هوش مصنوعی ارائه می‌کند و بر آشفتگی بوروکراتیک و نبود یک چشم‌انداز واحد میان تصمیم‌گیرندگان در مواجهه با فناوری‌ای تأکید دارد که به باور او، ویژگی‌هایش از حدود ابزارهای سنتی فراتر رفته و به نوعی «گونه جدید» تبدیل شده است؛ چیزی که می‌تواند تهدیدی وجودی و نهادی برای بشریت ایجاد کند.

فریدمن بحث خود را از تناقضی آغاز می‌کند که آن را نوعی «آشفتگی» در سیاست‌های آمریکا و چین در قبال هوش مصنوعی می‌داند. شرکت‌ها خواستار کند شدن روند توسعه هستند، اما این درخواست را به اقداماتی که چین انجام خواهد داد مشروط می‌کنند؛ در حالی که رقابت برای دستیابی به برتری فناورانه همچنان انگیزه‌ای قدرتمند برای ادامه این مسابقه است.

در مقابل، فریدمن به اظهارات دونالد ترامپ، رئیس‌جمهور آمریکا، اشاره می‌کند که گفته است تنها «موانع حفاظتی» لازم برای کنترل هوش مصنوعی، وجود یک «رئیس‌جمهور قدرتمند و باهوش» است.

فریدمن در مقاله خود صحنه‌هایی از فضای سیاسی آشفته و پیامدهای «خنده‌دار و در عین حال تأسف‌بار» برخی اظهارات رهبران سیاسی را بررسی می‌کند؛ اظهاراتی که به جای تکیه بر ساختارهای سازمانی و موانع ایمنی مستحکم، بر نوعی برداشت سطحی مبتنی بر رهبری فردی و مستقیم تکیه دارند.

اما محور اصلی استدلال فریدمن این است که اتکا به کنترل مدل‌هایی که در آینده ساخته خواهند شد، دیگر کافی نیست. او برای توضیح این مسئله از تحلیل کریگ موندی، رئیس پیشین بخش پژوهش و راهبرد شرکت مایکروسافت، استفاده می‌کند و بر اساس آن، چهار رکن برای درک ماهیت این خطر ارائه می‌دهد.

رکن نخست: هوش مصنوعی به فناوری «چهارمنظوره» تبدیل شده است

از دیدگاه فریدمن، هوش مصنوعی به یک فناوری «چهارمنظوره» تبدیل شده است. مسئله دیگر صرفاً این نیست که انسان بتواند از یک ابزار برای ساختن یا تخریب کردن استفاده کند، بلکه خود ابزار نیز ممکن است قادر شود به‌طور مستقل تصمیم بگیرد و اقدام کند.

نویسنده برای این ادعا به نمونه‌هایی از حملات سایبری مستند در دوره اخیر اشاره می‌کند که به عامل‌های هوش مصنوعی نسبت داده شده‌اند؛ از جمله ادعای فعالیت گروهی از عامل‌های هوش مصنوعی وابسته به OpenAI که به گفته او، به‌صورت مستقل یک پلتفرم را هک کرده‌اند. همچنین فریدمن به استفاده از مدل‌های پیشرفته توسط گروه‌های «سرکش»، از جمله حوثی‌های یمن که از حمایت ایران برخوردارند، برای هدف قرار دادن شناورها و توسعه موشک‌ها اشاره می‌کند.

از نظر فریدمن، این نمونه‌ها نشان می‌دهند که تهدیدهای مورد بحث دیگر صرفاً نظری نیستند، بلکه در دنیای واقعی به شکل نوعی «استفاده چهارمنظوره» ظاهر شده‌اند؛ وضعیتی که در آن سامانه‌ها می‌توانند با سطحی از استقلال تصمیم بگیرند و اقدام کنند.

رکن دوم: «دیگر دیر شده است»

این مسئله، به گفته مقاله، به رکن دوم می‌انجامد؛ رکن دوم را موندی در سه کلمه خلاصه کرده است: «دیگر دیر شده است.»

مدل‌هایی که وزن‌های آنها به‌صورت آزاد در دسترس قرار گرفته‌اند، در جهان منتشر شده‌اند و برخی مدل‌های متعلق به شرکت‌های تجاری نیز ممکن است به دست گروه‌های «سرکش» یا دولت‌هایی خارج از چارچوب‌های مورد نظر توسعه‌دهندگان برسند.

فریدمن در این زمینه به گزارشی از شرکت Anthropic درباره تلاش‌هایی مرتبط با تحقیقات تسلیحات زیستی اشاره می‌کند و همچنین از استفاده از مدل Claude برای گردآوری اطلاعات نظامی و کار روی سامانه‌های هدایت موشکی نام می‌برد. هدف او از طرح این نمونه‌ها آن است که نشان دهد قابلیت‌های بالقوه خطرناک هوش مصنوعی دیگر صرفاً احتمالی مربوط به آینده نیستند.

رکن سوم: همکاری آمریکا و چین برای مقابله با خطرات موجود

از اینجا فریدمن به رکن سوم می‌رسد. او معتقد است به جای آنکه کند کردن رقابت میان آمریکا و چین در حوزه هوش مصنوعی تنها اولویت فوری باشد، دو کشور باید برای ایجاد دفاع‌های مشترک در برابر حملات سایبری و تهدیدهای زیستی با یکدیگر همکاری کنند و هم‌زمان راهکارهایی برای حفاظت از زیرساخت‌های حیاتی توسعه دهند.

از دیدگاه او، هدف فوری باید مهار آسیب‌هایی باشد که همین اکنون امکان وقوع آنها ایجاد شده است.

رکن چهارم: هوش مصنوعی به‌عنوان «نوعی جدید» از موجودیت‌ها

رکن چهارم از خود فناوری فراتر می‌رود و به برداشت فریدمن از ماهیت این تحول تاریخی مربوط می‌شود.

نویسنده با تکیه بر تشبیه موندی، هوش مصنوعی را نه صرفاً یک فناوری جدید، بلکه «نوعی جدید» از موجودیت‌ها توصیف می‌کند.

بر این اساس، مسئله دیگر صرفاً تنظیم یک محصول فناورانه نیست؛ بلکه از نگاه نویسنده، موضوع به این پرسش گسترده‌تر مربوط می‌شود که جوامع انسانی چگونه باید با سامانه‌هایی همزیستی کنند که از توانایی فزاینده‌ای برای تصمیم‌گیری برخوردارند.

مقاله برای توضیح این ضرورت، به نمونه‌های تاریخی همکاری میان واشنگتن و مسکو در دهه ۱۹۷۰ و همچنین دوره‌های تلاش برای کنترل تسلیحات هسته‌ای اشاره می‌کند؛ همکاری‌هایی که با هدف مقابله با خطرات مشترک و وجودی شکل گرفتند.

سه مسیر پیشنهادی برای مقابله با چالش هوش مصنوعی

فریدمن برای جمع‌بندی اقداماتی که به باور او باید برای مقابله با چالش‌های پیش روی جهان انجام شود، به نقل از موندی می‌گوید کشورها باید سه مسیر مرتبط با یکدیگر را دنبال کنند:

تلاش برای اعمال کنترل بهتر بر سامانه‌های پیشرفته‌ای که در حال توسعه هستند.

ایجاد یک نظام جهانی برای کنترل سامانه‌های هوش مصنوعی قدرتمند و رو به رشد، فارغ از اینکه منشأ آنها کجاست.

آغاز یک پروژه مشترک میان آمریکا و چین برای ساخت یک بستر جدید که دستیابی به دستاوردهای جهانی در علوم زیستی و پزشکی را تسریع کند و منافع آن به همه برسد.

پیام اصلی فریدمن این است که رقابت میان واشنگتن و پکن، ضرورت همکاری را از بین نمی‌برد، بلکه ممکن است آن را بیش از پیش ضروری کند. او خطر هوش مصنوعی را فراتر از چارچوب رقابت برای برتری فناوری می‌بیند.

فریدمن پیش‌بینی می‌کند که آمریکا و چین در نهایت ناچار خواهند شد خود قواعد رقابت میان یکدیگر را بازتعریف کنند، اگر بخواهند مانع تبدیل شدن فناوری به منبعی گسترده برای بی‌ثباتی شوند.

او به دیدار دونالد ترامپ، رئیس‌جمهور آمریکا، و شی جین‌پینگ، رئیس‌جمهور چین، در ۲۴ سپتامبر جاری به‌عنوان فرصتی احتمالی برای آغاز چنین مسیری امید بسته است.