← 返回资讯热点
AI热点雷峰网发布时间:2026-07-03 06:35热度 150

AI基础设施的下一个千亿市场,为何藏在网络里?

过去六年,国产GPU公司一路站上AI风口,估值不断刷新,DPU却被忽略了。 这并不符合产业现实。 2020年英伟达完成收购Mellanox后,就已经明确了“GPU+CPU+DPU”的三芯战略。过去几年,英伟达也持续强化网络能力,黄仁勋在2026年CES展示“六芯组合”时,其中四款都与网络相关。 一个越来越清晰的趋势开始浮出水面: AI基础设施的瓶颈,正在从算力本身转向网络与调度。 尤其Agent时代到来后,AI系统开始从训练转向高频推理与持续运行,GPU利用率越来越依赖网络效率。DPU也从过去的数据中心可选项,逐渐变成AI基础设施里的关键角色。 但一个耐人寻味的问题是,既然英伟达早已押注 DPU , 为什么过去六年,整个行业依然低估了 DPU ? 直到云豹智能冲刺国产 DPU 第一股被深交所受理,招股书呈现在所有人眼前,市场才开始意识到, 一款可以支持低时延、高带宽和高性能数据调度的全功能 DPU 可能是 AI 基础设施里被低估最久的一块拼图。 一个被低估六年的大芯片赛道 过去几年,AI行业竞争的焦点始终是GPU。更大的模型参数、更强的单卡性能、更昂贵的HBM,几乎吸引了整个行业的注意力。 但随着模型规模不断扩大,AI集群开始从千卡迈向万卡,越来越多公司发现,GPU已经不是AI系统里最稀缺的资源,真正昂贵的开始变成低时延、高带宽与数据流动效率。 不少算法工程师对此感受明显。在当前AI基础设施体系下,单节点算力相对容易获取,存储容量次之,最难、也最昂贵的其实是带宽和低时延。尤其在大规模训练与推理场景中,GPU利用率往往并不理想,即便经过深度优化,系统瓶颈也经常出现在网络与数据调度环节。 这也是过去几年英伟达不断强化网络能力的关键原因。释放出的信号也非常明确: AI 基础设施的竞争,正在从单芯片性能竞争转向系统效率竞争。 在这一过程中,DPU的角色也发生了变化。 在过去以CPU通算为主的云计算时代,DPU更多承担网络、存储、安全等基础设施任务卸载,被视为数据中心里的辅助芯片。在Agent时代,随着AI基础设施开始从训练转向高频推理、资源编排与持续调度, DPU正在成为连接计算、网络与存储的系统级核心节点。 尤其在Scale Up场景下,DPU能够优化单节点内CPU与GPU之间的内存共享与数据流动,降低数据搬运时延,提升异构算力协同效率。在Scale Out场景中,DPU则承担大规模集群间的数据调度与网络卸载任务,直接影响GPU利用率。 推理需求的大爆发,也进一步放大了 DPU 的重要性。 随着大模型上下文窗口持续增长,GPU显存容量成为推理成本的重要瓶颈,DPU可以在不增加GPU硬件数量的情况下,扩展AI系统的有效可用内存容量。 2026年GTC上,黄仁勋就展示了新一代DPU在KV-Cache分层存储上的能力演进。在最新的Vera Rubin系统中,BlueFi

来源:雷峰网
说明:本站展示中文整理摘要,便于快速判断价值;完整内容和版权归原站所有。