الذكاء الاصطناعيآخر تحديث منذ ٢ س

هاوي يشغّل «كيمي K3» على معالج وذاكرة «أوبتان».

مستخدم ريديت «إنديفيجوال سيرفايفل» نشر التجربة: تشغيل «كيمي K3» على معالج «إنتل زيون سكيلبل» من الجيل الثالث بـ40 نواة، ومن دون تسريع ببطاقة رسومية. السعة جاية من ذاكرة «أوبتان» المستمرة من الجيل الثاني، المتوقفة عن الإنتاج، وهذا اللي خلّى خادم يعتمد على المعالج فقط يستوعب نموذج بهالحجم. «كيمي K3» فيه 2.8 تريليون معامل إجمالًا، لكنه يفعّل قرابة 104 مليارات لكل توكن. يعني مو كل معاملات النموذج تشتغل مع كل توكن؛ وهنا يبان دور الذاكرة عالية السعة في تشغيله بلا GPU.

ناشرانتقريران

بدأت التغطية ٨ نوفمبر