کارت‌های گرافیک امروزی که برای کاربردهای هوش مصنوعی و پردازش‌های سنگین استفاده می‌شوند، حافظه‌ی محدودی دارند. این موضوع می‌تواند سرعت آن‌ها را در حوزه‌ی هوش مصنوعی و سایر وظایف کاهش دهد؛ اما خبر خوب اینکه تکنولوژی جدیدی روی کار آمد است که به شرکت‌ها اجازه می‌دهد حافظه‌ی ویدیویی را افزایش دهند.

در روشی جدید، می‌توان برای افزایش حافظه‌ی ویدیویی، حافظه‌‌ی ذخیره‌سازی SSD و رم را ازطریق اسلات‌های PCIe به کارت گرافیک متصل کرد؛ بدین‌ترتیب کارت گرافیک صرفا به به حافظه‌ی ویدیویی روی بورد خود محدود نخواهد بود.

شرکت Panmnesia که حمایت مؤسسه‌ی تحقیقاتی مشهور KAIST کره‌‌‌جنوبی را دارد، فناوری کم‌تأخیر Compute Express Link یا به‌اختصار CXL را توسعه داده است که با استفاده از آن می‌توان حافظه‌ی ویدیویی را با حافظه‌های اکسترنال CXL افزایش داد.

Panmnesia

حجم داده‌هایی که برای آموزش هوش مصنوعی به آن‌ها نیاز داریم به سرعت درحال افزایش است. به همین‌دلیل شرکت‌های فعال در این حوزه یا باید کارت‌های گرافیک جدیدی بخرند یا از داده‌های کم‌تری استفاده کنند یا به بهای افت عملکرد از حافظه‌ی CPU بهره ببرند.

CXL پروتکلی است که بر بستر اتصال PCIe کار می‌کند و به کاربران اجازه می‌دهد از طریق باس PCIe حافظه‌ی بیشتری به سیستم خود اضافه کنند؛ اما مدار مجتمع مدنظر (ASIC) و زیرسیستم‌های مرتبط باید از این فناوری پشتیبانی کنند؛ بدین‌مفهوم که اضافه‌کردن کنترلر CXL مخصوصاً برای کارت‌های گرافیک، کافی نخواهد بود.

Panmnesia

Panmnesia در اضافه‌کردن CXL به کارت‌های گرافیک برای افزایش حافظه‌ی آن‌ها با مشکلاتی روبه‌رو بود؛ زیرا گرافیک‌ها به‌دلیل فقدان رابط منطقی CXL و زیرسیستم‌ها مرتبط با آن، از حافظه‌های اکسترنال DRAM و SSD پشتیبانی نمی‌کردند. از سوی دیگر، زیرسیستم‌های حافظه و کش در گرافیک هم غیر از حافظه‌ی مجازی یکپارچه (UVM) که سرعت پایینی دارد، حافظه‌ی افزوده‌ی دیگری را شناسایی نمی‌کردند.

Panmnesia برای حل مشکل، یک دستگاه مجتمع سازگار با CXL 3.1 توسعه داد که در دل خود چندین درگاه روت با پشتیبانی از اتصال حافظه‌های اکسترنال بر بستر PCIe و یک پُل میزبان با دکودر حافظه‌ی HDM دارد که به باس GPU متصل می‌شود. دکودر HDM وظیفه‌ی مدیریت محدوده‌ی آدرس‌های حافظه‌ی سیستم را برعهده دارد تا عملا حافظه‌ی گرافیک «چنین تصور کند» که با حافظه‌ی سیستم سروکار دارد؛ درحالی‌که درواقع زیرسیستم از حافظه‌های DRAM یا SSD متصل به PCIe استفاده می‌کند. به‌بیان دیگر می‌توان رم‌های DDR5 و SSD را برای افزایش حافظه‌ی ویدویی به‌کار برد.

فناوری جدید افزایش حافظه‌ی ویدیویی که CXL-Opt نام دارد، به‌طور کامل آزمایش شده و نتایج نشان می‌دهند تأخیر رفت و برگشتی آن دو رقمی (با واحد نانوثانیه) است؛ درحالی‌که نمونه‌های آزمایشی سامسونگ و متا ۲۵۰ نانوثانیه تأخیر دارند. این تأخیر شامل زمان تبدیل عملیات حافظه‌ی معمولی به فرمت CXL نیز می‌شود. فناوری جدید با موفقیت در حافظه‌های اکسترنال و نمونه‌های اولیه‌ی سی‌پی‌یو و گرافیک آزمایش شد و نشان داد که با سخت‌افزار مختلف سازگاری دارد.

آزمایش‌های پنمنسیا نشان می‌دهند UVM به‌دلیل دخالت‌های اضافی که در زمان خطاهای صفحه و انتقال اطلاعات در سطح صفحه انجام می‌دهد، کندترین روش برای افزایش حافظه‌ی کارت‌های گرافیک است. ازطرفی CXL با استفاده از دستورالعمل‌های بارگذاری و ذخیره‌سازی به‌طور مستقیم به حافظه‌های اکسترنال دسترسی می‌یابد و این مشکلات را حل می‌کند.

سرعت اجرای CXL-Proto تا ۱٫۹۴ برابر سریعتر از UVM است و فناوری CXL-Opt پنمنسیا مدت‌زمان اجرایی را ۱٫۶۶ برابر دیگر کاهش می‌دهد و با استفاده از کنترلر بهینه‌شده، مقدار تأخیر را به عددی دو رقمی (با واحد نانوثانیه) کاهش می‌دهد و تأخیر در خواندن و نوشتن اطلاعات را به حداقل می‌رساند. در مجموع فناوری CXL-Opt بالغ‌بر ۳٫۲۲برابر سریع‌تر از فناوری مرسوم UVM عمل می‌کند.

حال باید دید که آیا شرکت‌هایی مثل انویدیا و AMD پشتیبانی از CXL را به گرافیک‌های خود اضافه می‌کنند یا خیر و از همه مهم‌تر اینکه آیا غول‌های صنعت، محدودیت‌های اعمال‌شده برای شرکت‌هایی نظیر Panmnesia را لغو می‌کنند یا سراغ توسعه‌ی فناوری اختصاصی خودشان می‌روند.