Публикация

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

Дисклеймер: контент OKX Orbit предоставляется исключительно в информационных целях. Подробнее

Ответы

Комментариев еще нет. Будьте первым!

Related Flash News

Аватар по умолчаниюBlockbeats8 мин. назад

Иран предложил открыть Ормуз в обмен на компенсацию США и призвал к обсуждению санкций и замораживания финансирования

Аватар по умолчаниюOdaily18 мин. назад

Закон США о прозрачности может стимулировать новый курс «доход как услуга», способствующий развитию инфраструктуры доходов от комплаенса, основанного на ИИ

Аватар по умолчаниюBlockbeats22 мин. назад

Американские СМИ: Трамп готов дать переговорам между США и Ираном «больше времени»

Аватар по умолчаниюBlockbeats1 ч. назад

Анализ: В двух предыдущих медвежьих рынках убыток BTC на дне составил 10,6 миллиона монет, что соответствует цене $60,000 в этом раунде

Аватар по умолчаниюBlockbeats2 ч. назад

Адрес Ethereum OG сегодня купил 3 942 ETH при падениях по средней цене $2 049

Аватар по умолчаниюOdaily2 ч. назад

Ethereum OG, который когда-то получал доходность в 376 раз, снова оказался на дне, уже купив ETH на сумму более 8 миллионов долларов

Аватар по умолчаниюBlockbeats2 ч. назад

Приток ETF в США достиг рекордного уровня за год — суточный чистый приток в 8,5 миллиарда долларов

Аватар по умолчаниюOdaily2 ч. назад

Анализ: Продолжающийся рост доходности казначейских облигаций США ослабил готовность рынка переводить деньги на Биткоин

Аватар по умолчаниюChainCatcher3 ч. назад

Прогноз кэтчера: «LoL: Команда WE против LNG Esports (BO5) — плей-ин LPL» «Общее количество убийств превышало/меньше 27.5 в первой игре?» Процент выигрышей взлетает до 49,45%

Аватар по умолчаниюOdaily4 ч. назад

Исполнительный директор Polymarket: ротация приватных ключей завершена, и все приватные ключи планируется передать KMS в будущем