Post

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

Haftungsausschluss: OKX Orbit-Inhalt dient nur zu Informationszwecken. Mehr erfahren

Antworten

Noch keine Kommentare. Schreib die erste Antwort!

Related Flash News

QuellenavatarOdailyVor 1Stunden

Polymarket-Executive: Die Rotation der privaten Schlüssel wurde abgeschlossen, und alle privaten Schlüssel sollen künftig an KMS übertragen werden

QuellenavatarOdailyVor 1Stunden

Die Überprüfung des U.S. CLARITY ACT könnte bis Juli verschoben werden, wobei die Wahrscheinlichkeit einer endgültigen Verabschiedung im August betroffen ist

QuellenavatarOdailyVor 1Stunden

Wang Chun, Mitbegründer von F2Pool: Die Teilnahme am Mars-Vorbeiflug erinnert SpaceX daran, nicht von seiner Vision abzuweichen und den Landeplan nicht der nächsten Generation zu überlassen

QuellenavatarOdailyVor 2Stunden

Maji Big Brothers Long-Positionen in Ethereum stehen vor teilweise erzwungenen Liquidationen, aktuelle Investitionsrendite -124,94 %

QuellenavatarBlockbeatsVor 4Stunden

Analyse: Der Ausfluss eines Bitcoin-ETFs in Höhe von 1,26 Milliarden US-Dollar könnte zu einem "Reverse Buying Signal" werden.

QuellenavatarChainCatcherVor 4Stunden

Etwa 1.400 Stromdiebstahl-Bitcoin-Mining-Maschinen wurden im Bundesstaat São Paulo, Brasilien, beschlagnahmt

QuellenavatarChainCatcherVor 5Stunden

Daten: Morgan Stanley erhöhte seine Bestände um weitere 14 Bitcoins, womit die Gesamtbestände auf 3.486 stiegen

QuellenavatarBlockbeatsVor 6Stunden

Die US-FDIC hat vorgeschlagen, den Bank Secrecy Act umzusetzen und sanktioniert Compliance-Anforderungen für Stablecoin-Emittenten

QuellenavatarBlockbeatsVor 6Stunden

Garrett Jin ging über 57.000 ZEC zu dreifachen Laufzeiten leer, wobei eine 5-fache BTC-Long-Position einen schwebenden Verlust von 920.000 $ zeigte

QuellenavatarBlockbeatsVor 6Stunden

Michael Saylor: Die Strategie schließt den Verkauf von Bitcoin im Jahr 2026 nicht aus