همکاری اپل و انویدیا برای بهبود پردازش مدل‌های زبانی بزرگ

«تجارت نیوز» گزارش می‌دهد:

اپل و انویدیا با ReDrafter سرعت پردازش مدل‌های زبانی بزرگ را ۲.۷ برابر افزایش دادند. این فناوری در TensorRT-LLM ادغام شده و عملکرد LLM را بهبود می‌بخشد.

به گزارش تجارت نیوز،

اپل از همکاری خود با شرکت انویدیا برای بهبود کارایی پردازش مدل‌های زبانی بزرگ (LLM) با استفاده از فناوری متن‌باز خود به نام Recurrent Drafter (ReDrafter) خبر داد. این همکاری با هدف مقابله با چالش‌های محاسباتی مرتبط با تولید خودرگرسیونی توکن‌ها صورت گرفته است. فناوری ReDrafter که در نوامبر ۲۰۲۴ از سوی اپل معرفی شد، از یک روش رمزگشایی حدسی استفاده و بر اساس معیارهای اپل، ۲.۷ برابر توکن‌های بیشتری در ثانیه نسبت به روش‌های سنتی خودرگرسیونی تولید می‌کند.

ادغام ReDrafter در TensorRT-LLM و بیانیه انویدیا

ادغام ReDrafter در چارچوب TensorRT-LLM انویدیا گامی مهم در گسترش تاثیر این فناوری است. این ادغام، پردازش سریع‌تر مدل‌های زبانی بزرگ روی پردازنده‌های گرافیکی انویدیا را ممکن می‌سازد. انویدیا در بیانیه‌ای اعلام کرد: «این همکاری TensorRT-LLM را قدرتمندتر و انعطاف‌پذیرتر کرده است، و به جامعه مدل‌های زبانی بزرگ امکان می‌دهد مدل‌های پیچیده‌تری را توسعه دهند.»

اهمیت بهینه‌سازی و امکان گسترش ReDrafter

همکاری اپل و انویدیا اهمیت روزافزون بهینه‌سازی پردازش مدل‌های زبانی بزرگ برای برنامه‌های کاربردی بلادرنگ را برجسته می‌کند. ReDrafter با حل چالش‌های تولید خودرگرسیونی توکن‌ها، راه‌حلی امیدوارکننده ارائه می‌دهد. اگرچه تمرکز فعلی روی پردازنده‌های گرافیکی انویدیاست، اما امکان گسترش ReDrafter به فراتر از اکوسیستم انویدیا نیز وجود دارد. ماهیت متن‌باز این فناوری امکان پذیرش و تطبیق گسترده‌تر را فراهم می‌کند.

نقطه عطفی در توسعه فناوری‌های مدل‌های زبانی بزرگ  

همکاری اپل و انویدیا نشان‌دهنده یک نقطه عطف مهم در توسعه فناوری‌های مدل‌های زبانی بزرگ است. با ترکیب فناوری نوآورانه ReDrafter اپل و پردازنده‌های گرافیکی قدرتمند انویدیا، این همکاری زمینه پیشرفت‌های انقلابی در یادگیری ماشین را فراهم می‌کند.

منبع خبر