Publicar

Zyphra发布首个MI355X推理评测：长文本直逼B200

币界网
币界网
币界网消息，Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测，测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1，并对标NVIDIA B200。实测显示，AMD的288GB显存远超B200的180GB，使其在处理超长文本时能更高效地利用缓存，降低硬件成本。然而，AMD在芯片间互联上处于劣势，B200通过NVLink交换机实现900GB/s带宽，而MI355X采用点对点直连，通信效率较低。为弥补这一短板，Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示，尽管在单请求速度上NVIDIA B200仍领先，但在长文本场景下，Zyphra推理栈的吞吐量逐渐逼近B200，证明AMD在长文本生产环境中具备竞争力。
18:44 · 19/05/26·7,05 mil visualizaciones·
Visitar origen
0
0

Descargo de responsabilidad: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información

Respuestas

Aún no hay comentarios. ¡Sé el primero en responder!

Related Flash News

Avatar de fuenteBlockbeats•hace 49 min

Estados Unidos e Irán están cerca de llegar a un acuerdo para prorrogar el alto el fuego por 60 días

Avatar de fuenteOdaily•hace 58 min

Analista: El HYPE y los tokens de IA podrían liderar el próximo rally de las altcoins, y el apetito por riesgo del mercado está regresando

Avatar de fuenteBlockbeats•hace 2 h

Irán propuso abrir Hormuz a cambio de una compensación estadounidense y pidió discusiones sobre sanciones y congelación de fondos

Avatar de fuenteOdaily•hace 2 h

La Ley de Claridad de EE. UU. podría impulsar una nueva vía de "ingresos como servicio", promoviendo el desarrollo de infraestructuras de ingresos de cumplimiento impulsadas por IA

Avatar de fuenteBlockbeats•hace 2 h

Medios estadounidenses: Trump dispuesto a dar 'más tiempo' a las negociaciones entre Estados Unidos e Irán.

Avatar de fuenteBlockbeats•hace 3 h

Análisis: En los dos mercados bajistas anteriores, la pérdida en el fondo de BTC fue de 10,6 millones de monedas, lo que corresponde a un precio de 60.000 dólares en esta ronda

Avatar de fuenteBlockbeats•hace 4 h

Una dirección OG de Ethereum compró hoy 3.942 ETH en caídas, a un precio medio de 2.049 dólares

Avatar de fuenteOdaily•hace 4 h

Ethereum OG, que en su día recibió un retorno de 376x, ha vuelto a pescar fondo, habiendo comprado ya más de 8 millones de dólares en ETH

Avatar de fuenteBlockbeats•hace 4 h

Las entradas de ETF en EE. UU. alcanzaron un máximo histórico del año, con una entrada neta diaria de 8.500 millones de dólares

Avatar de fuenteOdaily•hace 4 h

Análisis: El continuo aumento de los rendimientos del Tesoro estadounidense ha debilitado la disposición del mercado a asignar a Bitcoin