المنشور

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

إخلاء المسؤولية: يُقدَّم محتوى OKX Orbit لأغراض إرشادية فقط. اعرف المزيد

الردود

لا تعليقات حتى الآن. كُن أول من يرد!

Related Flash News

الصورة الرمزية للمصدر币界网منذ 22 ساعة

المؤسسات: مؤشر S&P 500 يستعد لتحقيق أقوى نمو في الأرباح منذ عام 2021

الصورة الرمزية للمصدرBlockbeatsمنذ 23 ساعة

تحليل: قد يوسع طرح سبيس إكس الاكتتاب العام تعرض بيتكوين في ناسداك، لكنه قد يكون عاملا سلبيا قصير الأجل لأسهم التكنولوجيا وسحب أموال البيتكوين

الصورة الرمزية للمصدرChainCatcherمنذ 1 يوم

أكملت شركة هارك الناشئة في مجال الذكاء الاصطناعي جولة من سلسلة A بقيمة 700 مليون دولار بقيمة 6 مليارات دولار، بقيادة باركواي فينتشر كابيتال

الصورة الرمزية للمصدرOdailyمنذ 1 يوم

أجل البيت الأبيض مراسم توقيع الأمر التنفيذي للذكاء الاصطناعي

الصورة الرمزية للمصدرOdailyمنذ 1 يوم

انخفض سعر سهم نفيديا بنسبة 2٪، وتوسع انخفاض إنتل إلى 4.3٪.

الصورة الرمزية للمصدرChainCatcherمنذ 1 يوم

قد تتراجع الأسهم الأمريكية عن مكاسب مع تعافي أسعار النفط الخام وعوائد سندات الخزانة الأمريكية

الصورة الرمزية للمصدر币界网منذ 1 يوم

زادت مكاتب العائلة الغنية جدا من مخزون الرقائق في الربع الأول

الصورة الرمزية للمصدرBlockbeatsمنذ 1 يوم

بعد تقرير أرباح نفيديا، رفعت عدد من البنوك الاستثمارية أسعارها المستهدفة

الصورة الرمزية للمصدر币界网منذ 2 يومَين

يشعر السوق بالقلق من أن مستقبل Nvidia سيستمر في تجاوز التوقعات، وهو أمر لا يزال بحاجة إلى التحقق

الصورة الرمزية للمصدرOdailyمنذ 2 يومَين

ارتفعت معظم قطاعات العملات الرقمية قبل افتتاح سوق الأسهم الأمريكية، مع ارتفاع سيركل (CRCL) بأكثر من 1٪