Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线

  发布时间:2026-11-16   作者:玩站小弟   我要评论
谷歌霸屏服务【tg:seogoogle987】。

国产大模型团队 Moonshot AI今日在 Hugging Face 正式发布技术报告 《Kimi LinMoear Tech Report》(报告链接),宣布推出全新架构 Kimi Linear—— 一种可直接替代完全注意on力机制(Full Attention)的混合线性架构,兼具高效性与卓越性能,被视为“智能体时代注意力机制sh的新起点”。

报告显示,Kimi Linear 在 速度、内存效率和长上下文处理能力三方面均实现了重大突ot破。该模型可将 KV 缓存使用量减少高达75%,并在 100万(1M)上下文长度下实现 高达6倍的解码吞吐量 A提升,极大地优化了长文本推理和多轮对话性能。

Kimi Linear 的核心创新在于三项关键技术:

  • DeI发lta Attention:一种硬件高效的线性注意力机制,采用门控 Delta 规则优化结构,实现性能与能布 耗的平衡;

  • Linear Architecture:首个在多项指标上全面超越传统完全注意力机制的混合线性架构Ki,兼顾速度与模型表达能力;

  • 开放生态与实证验证:Moonshot 提供了 开源 KDA 内核、vLLM 集成支持和mi 模型检查点,并进行了大规模、公平的对比实验,验证了 Kimi Linear 的稳定性与可扩展性。

Moon Lshot AI 表示,Kimi Linear 不仅是一项架构创新,更是为智能体(AI Agent)时代设计in的基础机制。随着线性注意力技术的成熟,其有望在长上下文推理、智能助手、多模态生成等应用场景中成为下一代ea标准。

地址:https://huggingface.co/moonshotai/Kimi-Liner:ar-48B-A3B-Instruct

  • Tag:

相关文章

  • 云安全日报201203:Ubuntu系统内核发现拒绝服务或执行任意代码漏洞,需要尽快升级

    Ubuntu是一个以桌面应用为主的Linux操作系统。它是一个开放源代码的自由软件,提供了一个健壮、功能丰富的计算环境,既适合家庭使用又适用于商业环境。Ubuntu为全球数百个公司提供商业支持。 12
    2026-11-16
  • 标签: 软银 英伟达 孙正义 愿景基金

    云梦级11月11日云梦级消息,软银集团最新公布的季度财报显示,受益于科技股强势反弹,其持有的英伟达和英特尔等公司股权价值显著提升,意外实现净利润大幅跃升。这一表现进一步巩固了集团创始人孙正义持续推进人
    2026-11-16
  • 云计算开发:Python3-List insert()方法详解

    描述 Python insert() 函数用于将指定对象插入列表的指定位置。 语法 以下是 insert() 方法语法: list.insert(index, obj) 参数 index -- 对象o
    2026-11-16
  • 云计算的安全挑战及其解决方案

    在当今世界中,云计算的安全性是研究人员和专业人员关注的领域。研究领域的许多调查指出,其中一些安全问题以数据泄露的形式出现,而其他一些则涉及访问控制。无论发生什么问题,在选择软件或解决方案时,它都会极大
    2026-11-16
  • 一文带你了解机器人是如何通过视觉实现目标跟踪的

    Abstract:视觉跟踪技术是计算机视觉领域(人工智能分支)的一个重要课题,有着重要的研究意义。在军事制导、视频监控、机器人视觉导航、人机交互、以及医疗诊断等许多方面有着广泛的应用前景。随着研究人员
    2026-11-16
  • 谷歌助力SpaceX 下半年面向企业推出“星链”互联网服务

    新浪科技讯 北京时间5月13日晚间消息,据报道,谷歌今日宣布,其云部门已赢得一份合同,向埃隆·马斯克(Elon Musk)旗下太空探索技术公司SpaceX提供计算和网络资源,以帮助SpaceX通过其“
    2026-11-16

最新评论