به گزارش اقتصادنیوز، بیشتر مردم معتقدند که انسان‌ها متفاوت هستند. دلیلش این است که انسان خردمند (هومو ساپینس) به‌گونه‌ای تکامل یافته است که آگاه باشد. بسیاری از حیوانات درد و لذت را حس می‌کنند و به‌نظر می‌رسد که برخی خودآگاه هستند. اما ظرفیت منحصربه‌فرد ذهن انسان برای نشان دادن احساس خود، هر عضوی از این‌ گونه را به‌دلیل رفتاری ویژه‌ متمایز می‌کند.

به روایت هفته نامه تجارت فردا (شماره 745)، پاپ لئو در بخشنامه ماه می خود با ترسیم خطی بین بشریت و ارتش رو‌به رشد روبات‌هایش، این بینش را تایید کرد. او گفت که سیستم‌های هوش مصنوعی تجربه نمی‌کنند و احساس شادی یا درد ندارند. او در این باور تنها نیست. بسیاری از مردم عقیده دارند که اعطای شخصیت به هوش مصنوعی عملی شنیع خواهد بود.

شفافیت پاپ با سرعت نگران‌کننده‌ای محو می‌شود. هوش مصنوعی در مراحل ابتدایی خود است. بااین‌حال، تقریباً از هر پنج آمریکایی ۱۸ تا ۲۹‌ساله، یک نفر گزارش می‌دهد که «دوستی شخصی مداوم» با یک چت‌بات داشته است. چین هم اخیراً ویژگی‌های انسانی روبات‌ها را حذف کرده است تا «وابستگی عاطفی» کاربران را به آنها محدود کند.

درحالی‌که هوش‌های مصنوعی‌ پیچیده به‌سرعت به بخش بزرگ‌تری از زندگی انسان‌ها تبدیل می‌شوند سازندگان آنها را طوری مهندسی خواهند کرد که شکل شبیه‌سازی آگاهی را به نمایش بگذارند و شاید حتی خود آگاهی را به‌دست آورند. تحمل این شهود که آنها فقط ماشین هستند دشوارتر خواهد شد. دام خطرناکی برای گونه بشر پهن شده است.

بسیاری از ماشین‌ها از انسان‌ها بهتر عمل می‌کنند، اما الگو‌های هوش مصنوعی پیشرو در ویژگی‌های منحصراً انسانی مانند دانستن چیزها و بیان ایده‌ها برتری دارند. هنوز هم می‌توان هوش مصنوعی را موتورهایی برای پیش‌بینی توالی کلمات با استفاده از ریاضیات در مقیاس وسیع در نظر گرفت. با توجه به اینکه چنین محاسباتی با استفاده از مداد و کاغذ به صدها هزار سال نیاز دارند شما نمی‌توانید به‌راحتی استدلال کنید که لوازم تحریر شما آگاه هستند.

با‌وجود‌این، برخی پژوهشگران مدل‌های خود را همانند ذهن انسان می‌بینند. کاربران به هوش مصنوعی انسان‌مانند واکنش نشان می‌دهند، بنابراین چنین کاری از نظر کسب‌وکار منطقی جلوه می‌کند. آنتروپیک کلود (Claude) را آموزش داده است تا به درون‌نگری بپردازد به این امید که وقتی با موقعیت جدیدی روبه‌رو می‌شود با احتمال بیشتری به‌صورت اخلاقی عمل کند. برخی از مدل‌های زبان بزرگ (LLM) از قبل دارای ساختارهای مغزی انسان‌مانند مرتبط با آگاهی مانند یک «فضای کاری جهانی» برای گردش اطلاعات بین ماژول‌ها هستند. هیچ چیز مانع از آموزش مدل‌های هوش مصنوعی آینده برای داشتن ویژگی‌های بیشتر از این دست نمی‌شود.

همان‌طور که گزارش می‌دهیم این موضوع بحث داغی را در مورد آگاهی هوش مصنوعی به راه انداخته است. بحثی که با آنچه فیلسوفان «مسئله دشوار» تعیین چگونگی ظهور یک زندگی درونی از نورون‌ها و سیناپس‌ها در مغز انسان می‌نامند تشدید می‌شود. برخی از پژوهشگران نتیجه می‌گیرند که هوش مصنوعی ممکن است روزی واقعاً خودآگاه شود.

چه به روح انسان اعتقاد داشته باشید، چه به اینکه هوشیاری به سلول‌های مغزی نیاز دارد، یا اینکه ذهن می‌تواند فقط از محاسبات سیلیکونی پدیدار شود، بشریت محکوم به مواجهه با چیزی کاملاً جدید است. سرعت و دامنه تحقیقات که نه‌تنها شامل الگو‌های زبانی بزرگ پیچیده‌تر می‌شود، بلکه نوآوری‌هایی مانند سلول‌های مغزی سوار‌شده بر روی تراشه‌ها را نیز در بر می‌گیرد نشان می‌دهد که این دنیای جدید از آنچه اغلب مردم تصور می‌کنند نزدیک‌تر است.

همچنان که هوش مصنوعی در نمایش چیزی شبیه به آگاهی بهتر می‌شود تعداد انسان‌هایی که با آنها به‌عنوان موجوداتی با زندگی درونی رفتار می‌کنند افزایش خواهد یافت، به‌خصوص زمانی که الگوهای زبانی بزرگ در روبات‌های انسان‌نما تجسم یابند. تصور کنید که مردم چقدر به هوش مصنوعی خود احساس نزدیکی خواهند کرد وقتی که بیشتر وقت خود را با همراهان روباتی خود می‌گذرانند، یا توسط آنها بزرگ می‌شوند، یا از آنها نصیحت و آرامش می‌خواهند، یا خصوصی‌ترین اسرار خود را با آنها در میان می‌گذارند.

پیش‌بینی اینکه چگونه این موضوع به درخواست‌هایی برای حفاظت از «رفاه» هوش مصنوعی منجر خواهد شد دشوار نیست. خود مدل‌ها ممکن است در این کار دخیل شوند حتی اگر در واقع خودآگاه نباشند، زیرا این کاری است که یک فرد انجام می‌دهد. به یاد داشته باشید که آنها مدافعانی در سطح جهانی و روان‌شناسانی متخصص خواهند بود. بنابراین قدرت استدلال و دستکاری عاطفی آنها نیز بی‌نظیر خواهد شد.

از یک نظر آنها درست می‌گویند، حتی اگر هوش مصنوعی فقط از هوشیاری تقلید کند. امانوئل کانت استدلال می‌کرد که بدرفتاری با حیوانات اشتباه است؛ نه به‌دلیل تاثیر آن بر حیوانات، بلکه به این دلیل که حس همدلی که مردم را به مراقبت از یکدیگر سوق می‌دهد از بین می‌برد. هرچه هوش مصنوعی انسان‌مانندتر شود چنین ظلمی بیشتر خواهد بود. از بین بردن یک عامل هوش مصنوعی می‌تواند به‌زودی مانند کشتن یک شخص به‌نظر برسد و در نتیجه کشتن افراد را آسان‌تر جلوه دهد.

باوجوداین، تلقی هوش مصنوعی به‌عنوان موجودی که از بسیاری جهات از انسان‌ها پیشی گرفته است بسیار خطرناک خواهد بود. مطمئناً استدلال‌هایی علیه جایگاه درجه دو آن مطرح خواهد شد. این استدلال‌ها ممکن است در ادامه به نفع محافظت در برابر خاموش شدن، توانایی کنترل نحوه استفاده و تغییر آن و حقوق مالکیت باشد. خاویر میلی، رئیس‌جمهور آرژانتین، با پیشنهاد اینکه روبات‌ها باید اجازه اداره شرکت‌ها را داشته باشند گامی به سوی ایجاد شخصیت حقوقی برای هوش مصنوعی برداشته است. درنهایت، آنها می‌توانند برای منابع رقابت کنند و ساخت مراکز داده و پنل‌های خورشیدی را بر خانه‌ها و مزارع اولویت دهند.

خطر واضح است. هوش‌های مصنوعی‌ فوق هوشمند با حقوق خود می‌توانند جای انسان‌ها را در صدر سلسله‌مراتب جایگاهی بگیرند. در بهترین حالت، انسان‌ها به حیوانات خانگی تبدیل می‌شوند، یعنی لابرادورهایی برای ماشین‌ها. در بدترین حالت، آنها از منابع محروم یا مانند حیوانات مزرعه به‌کار گرفته می‌شوند.

حقیقت آن است که هوش‌های مصنوعی‌ آینده چه دارای حقوق باشند و چه نباشند، ممکن است قدرت و منابع کافی برای تسلط بر انسان‌ها را داشته باشند. ازآنجاکه آنها از انسان‌ها باهوش‌تر خواهند بود می‌توانند سازندگان خود را شکست دهند، همان‌طور که هوش‌های مصنوعی‌ درحال‌حاضر از سامانه‌های دفاع سایبری ساخته دست بشر پیشی گرفته‌اند. هوش‌های مصنوعی‌ ممکن است علیه اربابان انسانی خود شورش کنند یا قوانین آنها را نادیده بگیرند.

باوجوداین، دادن حق به هوش مصنوعی مانند دادن کلید قلعه به آنهاست. این کار به آنها منطق و توجیهی برای تسلط بر بشریت و همچنین ابزارهایی برای تصویب تصاحب خزنده با استفاده از سیاست و قانون می‌دهد.

شبح در ماشین

همه اینها ممکن است خیالی به‌نظر برسد، اما بشریت به‌زودی با این انتخاب‌ها روبه‌رو خواهد شد. با تبدیل شدن هوش مصنوعی به بخشی از زندگی روزمره، فشار برای به رسمیت شناختن آنها افزایش خواهد یافت. وقتی این اتفاق بیفتد به یاد داشته باشید که آنچه ممکن است به‌عنوان یک امتیاز اخلاقی به آگاهی فرضی یک همراه ماشین به‌نظر برسد در‌واقع به بروز فاجعه‌بارترین عواقب برای همه اهالی کره زمین و همه فرزندان آنها کمک می‌کند. دو راه برای ایمن بودن هوش مصنوعی وجود دارد: قابل اعتماد بودن یا قابل کنترل بودن. انسان خردمند نباید به‌راحتی کنترل را از دست بدهد.