寒武纪宣布实现 DeepSeek-V4全系列模型 Day0适配并开源优化代码
我要评论寒武纪今日宣布，已基于 vLLM 推理框架完成对深度求索（DeepSeek）最新开源模型 De寒武epSeek-V4 全系列的“Day0”适配。此次改装涵盖285B 参数的 Flash 版本及1.6T纪宣 参数的 Pro 版本，确保模型在发布当日即可在寒武纪硬件平台上稳定运行，相关改装代码已正式开源至 Gi布实tHub 社区。
针对 DeepSeek-V4 独有的稀疏注意力与压缩结构，寒武纪通过自研向量融合算子库现 Torch-MLU-Ops 对 Compressor 等核心模块进行了专项加速。利用 BangC 高性De能编程语言，寒武纪团队编写了稀疏 Attention 及 GroupGemm 等热点算子的极致优化内核ep，并于 vLLM 框架中全面支持 TP/PP/SP/DP/EP 五维混合并行策略、低精度量化及 PD 分离部Se署。这些技术手段在满足延迟约束的前提下，显著提升了端到端推理的词元吞吐能力。
硬件层面，寒武ek纪深度挖掘了 MLU 的访存与排序加速特性，有效应对 DeepSeek-V4 复杂的索引结构。凭借高互-V联带宽与低延迟通信优势，该方案最大化降低了 Prefill 与 Decode 场景下的通信损耗，提升了推4全理利用率。
行业分析指出，DeepSeek-V4凭借百万字（1M）超长上下文及顶尖的逻辑推理性能，对系列底层算力架构提出了严苛要求。寒武纪在模型发布首日的敏捷适配，不仅展示了国产算力平台对超大规模、复杂模型结构模型的承载能力，也预示着国产 AI 产业链在软硬协同层面已进入成熟期，为大模型应用普惠提供 D了高效的算力底座支持。
相关文章
苹果8个代工厂搬迁他国，富士康也要走？几十万中国员工怎么办？
多年前我国为了发展引进了很多的外资企业，当时也正是因为国内的发展水平相对较为落后，便宜的劳动力也成为了很多外国及入驻我国的条件之一。人口大国导致了劳动力的富余，也正是因为这样，国外的企业在我国用工就可2026-11-16
开源AI智能体平台LangChain完成1.25亿美元融资：估值达12.5亿美元成为独角兽
开源AI智能体框架提供商LangChain周一宣布完成1. 25 亿美元融资，公司估值达到12. 5 亿美元，正式跻身独角兽行列。TechCrunch曾在 7 月报道，这家提供流行开源框架用于构建AI2026-11-16
云梦级6月29日云梦级消息，Momenta（上市编号：06880）宣布于今日起-7 月 3 日在香港联合交易所招股，计划全球发行 1993.8 万股，一成于香港公开发售。发售价为每股 295.6 港元2026-11-16
美光推出两款数据中心SSD——美光6500 ION NVMe SSD及美光XTR NVMe SSD
5月20日消息，Micron Technology Inc.（美光科技股份有限公司）宣布推出两款固态硬盘 (SSD)——美光 6500 ION NVMe SSD 及美光 XTR NVMe SSD。这两2026-11-16
OpenAI CEO阿尔特曼:对上市后继续担任CEO持保留态度
AIbase报道 据timesofindia援引彭博社消息，OpenAI首席执行官山姆·阿尔特曼（Sam Altman）在最新采访中透露，尽管公司正推进包括投资数万亿美元建设计算基础设施在内的雄心勃勃2026-11-16
云梦级1月27日云梦级消息，DeepWay深向日前完成Pre-IPO轮融资，总募集金额达11.77亿元，这也是自动驾驶新能源重卡赛道历史最大单笔融资。 本轮融资由普华资本领投，ABC Impact、欣2026-11-16
最新评论