标签: 英伟达 Rubin Groq3LPU 多智能体系统 GTC2026
我要评论云梦级3月17日云梦级消息，在 3 月 17 日美国圣何塞举行的GTC主题演讲中，黄仁勋透露了英伟达如何利用 2025 年从 Gr标签oq 收购的知识产权来扩展 Rubin 的功能。
Rubin 平台现在包含一款新的芯片——英伟达 Groq 3 LPU，这是一款推理加速: 器，能够增强这些系统以低延迟、大批量的方式交付令牌的能力，从而在人工智能模型的前沿实现高交互性。
与大多数依赖 HBM 作为工作内英伟存层的 AI 加速器不同，每个 Groq 3 LPU 都集成了 500 MB 的 SRAM，这种内存也用于 CPU 和 GPU 的超高速缓存。
虽然达 与每个 Rubin GPU 上容量高达 288GB 的 HBM4 相比，这显得微不足道，但这块 SRAM 可提供 150 TB/s 的带宽，远高于 HRuBM 的 22 TB/s。对于带宽敏感型 AI 解码操作而言，Groq 3 芯片带宽的大幅提升为推理应用带来了诱人的优势。
反过来，bi英伟达将构建包含 256 个 Groq 3 LPU 的 Groq 3 LPX 机架。该机架提供 128GB 的 SRAM 和 40 PB/s 的推理加速带宽，n 并通过每个机架 640 TB/s 的专用扩展接口将这些芯片连接起来。
英伟达将 Groq LPX 设想为 Rubin 的协处理器，据英Gr伟达超大规模副总裁 Ian Buck 称，它将提升“每个令牌上 AI 模型每一层”的解码性能，并使 Rubin 能够服务于人工智能oq的下一个前沿领域：多智能体系统，这些系统需要在推理数万亿个参数的模型的同时，在数百万个token的上下文窗口中提供交3L互式性能。
随着多智能体系统中的人工智能代理越来越多地与其他人工智能进行交互，而非与查看聊天机器人窗口的人类进行交流，对PU响应速度的要求也随之改变。
对人类而言看似合理的每秒token生成速率，对人工智能代理来说却如同蜗牛爬行。在巴克所描述的未 多来多智能体系统中，Rubin GPU 和 Groq LPU 的组合将人工智能代理间通信的吞吐量从每秒 100 个token提升到每秒 150智能0 个token甚至更高。
相关文章
云梦级4月18日云梦级消息，抖音 4 月 17 日公告称，近期，平台监测发现，有黑产团伙通过展示豪华酒店设施、发布隐晦暗语等方式，规避平台监管，将目标用户导流至站外实施涉赌行为。对此，平台第一时间对违2026-11-16
Truffle是一个开发环境(提供用于编译，部署，测试和构建的命令行工具)，框架(提供各种程序包以使其易于编写测试，部署代码，构建客户端等)和资产管道(发布软件包并使用其他人发布的软件包来构建基于以太2026-11-16
人们仍然存在的一个误解是，只有大企业才能负担得起采用大数据驱动的解决方案的成本，它只适用于海量数据，而且成本高昂。近年来的几次革命性发展将会改变这种想法。 大数据技术的成熟度 第一次革命性发展与大数据2026-11-16
大数据明星Palantir获FDA4400万美元合同：股价大涨17%
据报道，美国大数据明星公司Palantir获得了美国食品药品监督管理局（FDA）的一份三年期合同，推动其股价大涨逾17%。 该交易价值4440万美元，重点是帮助FDA改进药品审查和检查流程。 Pala2026-11-16
合作三年成果斐然 MongoDB联手阿里云布局自动驾驶、金融、物流等行业
1月4日消息，2019年11月，进入中国市场的MongoDB正式与阿里云缔结成为战略合作伙伴。近日，MongoDB与阿里云迎来合作三年的“里程碑”，双方总结过往的成功，并对未来合作重点进行了展望。 M2026-11-16
描述 Python center() 返回一个原字符串居中,并使用空格填充至长度 width 的新字符串。默认填充字符为空格。 语法 以下是 center() 方法语法： str.center(wid2026-11-16
最新评论