معامله بزرگ AMD؛ سیستم‌هایی برای توسعه هوش مصنوعی‌هایی پیچیده به بازار عرضه می‌شوند

به گزارش تجارت نیوز،

اوراکل (Oracle Corporation) یک شرکت فناوری اطلاعات چندملیتی است که در سال 1977 تاسیس شد و مقر آن در ایالت کالیفرنیا، ایالات متحده قرار دارد. این شرکت یکی از بزرگ‌ترین و پیشروترین ارائه‌دهندگان نرم‌افزارهای سازمانی و سخت‌افزارهای محاسباتی است. اوراکل به‌طور خاص برای سیستم‌های مدیریت پایگاه داده (Database Management Systems) و نرم‌افزارهای کاربردی سازمانی معروف است، ولی در زمینه‌های دیگری مانند زیرساخت‌های ابری، محاسبات ابری و هوش مصنوعی نیز فعالیت‌های گسترده‌ای دارد.

این شرکت در معامله‌ای خبرساز از توافق خود با AMD خبر داد. بدین‌ترتیب این کمپانی از پردازنده پیشرفته Instinct MI300X استفاده خواهد کرد. AMD همچنان در بازار شتاب‌دهنده‌های هوش مصنوعی به پیش می‌رود و زیرساخت ابری اوراکل (OCI) آخرین بازیگری است که از پردازنده‌های گرافیکی پیشرفته Instinct MI300X این شرکت استفاده می‌کند. این توسعه، تقویت قابل توجهی برای هر دو شرکت به شمار می‌آید و نشان‌دهنده افزایش تقاضا برای شتاب‌دهنده‌های قدرتمند هوش مصنوعی است که قادر به مدیریت مدل‌های یادگیری ماشین در مقیاس بزرگ و وظایف پیچیده یادگیری عمیق هستند.

سوپرکلاستر جدید هوش مصنوعی اوراکل: مجهز به پردازنده‌های گرافیکی MI300X

اوراکل اعلام کرد که از سخت‌افزار Instinct MI300X AMD برای نمونه جدید سوپرکلاستر محاسباتی خود با نام BM.GPU.MI300X.8 استفاده می‌کند. این سوپرکلاستر برای پشتیبانی از مدل‌های عظیم هوش مصنوعی طراحی شده است که شامل میلیاردها پارامتر هستند. با ظرفیت ادغام تا 16,384 پردازنده گرافیکی در یک کلاستر، این سیستم برای آموزش و استنتاج هوش مصنوعی در مقیاس بزرگ بهینه شده است، که برای کاربردهایی مانند مدل‌های زبانی بزرگ (LLMها) و سایر عملیات‌های یادگیری عمیق ضروری هستند.

MI300X که دارای 8 شتاب‌دهنده Instinct MI300X AMD در هر نمونه است، 1.5 ترابایت حافظه HBM3 GPU با پهنای باند خیره‌کننده 5.3 ترابایت در ثانیه ارائه می‌دهد. این حافظه با 2 ترابایت حافظه سیستم و 8 درایو NVMe با ظرفیت 3.84 ترابایت جفت شده است و عملکرد بالای داده‌ها و توانایی‌های ذخیره‌سازی را تضمین می‌کند. اوراکل این راه‌حل بی‌متال (bare-metal) را با قیمت رقابتی 6 دلار در ساعت برای هر GPU ارائه خواهد داد که گزینه‌ای جذاب برای شرکت‌هایی است که به دنبال راه‌حل‌های مقیاس‌پذیر هوش مصنوعی هستند بدون محدودیت‌های زیرساخت مجازی‌شده.

طراحی شده برای مدل‌های عظیم هوش مصنوعی

معماری سوپرکلاستر هوش مصنوعی اوراکل به طور ویژه‌ای برای مدیریت پیچیدگی‌های رو به رشد مدل‌های هوش مصنوعی مناسب است. با بزرگ‌تر و پیچیده‌تر شدن مدل‌های هوش مصنوعی مانند مدل‌هایی که شامل میلیاردها پارامتر هستند، زیرساخت‌های سنتی نمی‌توانند به خوبی با این نیازها هماهنگ شوند. استفاده اوراکل از پردازنده‌های گرافیکی MI300X به این سوپرکلاستر امکان می‌دهد تا با این حجم عظیم کاری به آسانی مقابله کند. قابلیت مقیاس‌پذیری تا بیش از 16,000 پردازنده گرافیکی در یک کلاستر، نشان‌دهنده انعطاف‌پذیری و قدرت این زیرساخت جدید است.

ظرفیت حافظه و پهنای باند این کلاستر برای وظایف هوش مصنوعی که نیاز به پردازش همزمان حجم‌های عظیمی از داده‌ها دارند، حیاتی است. برای برنامه‌هایی مانند مدل‌های زبانی بزرگ و سایر مدل‌های یادگیری عمیق که نیاز دارند حجم‌های عظیمی از داده‌ها به صورت بلادرنگ به سیستم وارد شوند، این نوع زیرساخت منابع لازم برای آموزش و استنتاج سریع را فراهم می‌کند. طراحی این سیستم برای شرکت‌هایی که در حال توسعه راه‌حل‌های پیشرفته هوش مصنوعی هستند، ایده‌آل است زیرا علاوه بر محاسبات با کارایی بالا، انعطاف‌پذیری لازم را برای تنظیم پیکربندی‌های سیستم بر اساس نیازهای متغیر ارائه می‌دهد.

نتایج تست‌ها درخشان توصیف شده‌اند

در آزمایش‌های پیش‌تولیدی اوراکل، عملکرد پردازنده گرافیکی MI300X از طریق سناریوهای واقعی تأیید شد. یکی از آزمایش‌های کلیدی روی مدل Llama 2 70B متمرکز بود، یک مدل زبانی بزرگ با 70 میلیارد پارامتر. این پردازنده گرافیکی توانست تاخیر 65 میلی‌ثانیه‌ای برای تولید اولین توکن را به دست آورد و در عین حال توانست به طور کارآمد تا 3,643 توکن را در 256 درخواست همزمان کاربر پشتیبانی کند. در آزمایش دیگری که شامل 2,048 توکن ورودی و 128 توکن خروجی بود، سیستم توانست تاخیر انتها به انتها 1.6 ثانیه‌ای را ارائه دهد که به طور دقیق با معیارهای داخلی AMD همخوانی داشت.

این نتایج توانایی MI300X را در مدیریت عملیات‌های حساس به تاخیر در برنامه‌های هوش مصنوعی نشان می‌دهد. برای شرکت‌هایی که به استقرارهای بزرگ هوش مصنوعی وابسته هستند، عملکرد سوپرکلاستر جدید هوش مصنوعی اوراکل بهبود قابل توجهی در هر دو زمینه سرعت و کارایی ارائه می‌دهد.

تاثیر رو به رشد AMD در بازار هوش مصنوعی

این معامله اخیر با اوراکل ادامه‌ای بر موفقیت‌های AMD در بازار هوش مصنوعی است. پیش‌تر، ولتر اعلام کرده بود که هزاران واحد MI300X را برای پشتیبانی از زیرساخت هوش مصنوعی خود سفارش داده است. افزایش اعتماد ارائه‌دهندگان ابری به راه‌حل‌های AMD برای تأمین بارهای کاری حیاتی هوش مصنوعی، به موفقیت شتاب‌دهنده‌های Instinct MI300X و اکوسیستم نرم‌افزاری متن‌باز ROCm همراه آن اشاره دارد.

اندرو دیکمن، معاون ارشد AMD و مدیر کل کسب‌وکار پردازنده‌های گرافیکی مراکز داده، خاطرنشان کرد: با گسترش این راه‌حل‌ها به بازارهای در حال رشد هوش مصنوعی، این ترکیب به نفع مشتریان OCI خواهد بود و عملکرد بالا، کارایی و انعطاف‌پذیری بیشتر در طراحی سیستم را فراهم می‌کند

همان‌طور که هوش مصنوعی همچنان آینده فناوری را شکل می‌دهد، همکاری بین AMD و اوراکل نشان‌دهنده اهمیت راه‌حل‌های مقیاس‌پذیر و با کارایی بالا برای پاسخگویی به نیازهای مدل‌های پیشرفته هوش مصنوعی است. با پردازنده‌های گرافیکی Instinct MI300X که اکنون یکی از پیشرفته‌ترین کلاسترهای هوش مصنوعی اوراکل را قدرت می‌بخشد، هر دو شرکت به خوبی برای مقابله با چالش‌های نوآوری مبتنی بر هوش مصنوعی آماده هستند.

اخبار حوزه استارتاپ و فناوری اطلاعات را در صفحه استارتاپ تجارت‌نیوز بخوانید.

به اشتراک گذاری