中兴打造开放智算基座,帮助小厂解决算力难题

简介: 中兴打造开放智算基座,帮助小厂解决算力难题

  最近在杭州某AI创业公司当牛马的朋友找我哭诉,他们刚融的500万还没捂热,转头就砸给某云厂商买了200张A100的算力卡。结果你猜怎么着?训练完百亿参数大模型后,发现推理成本比训练还烧钱,现在连电费都快付不起了。在这样的背景下,中兴打造的智算基座,很可能是个不错的解决方案。

  还记得今年初Deepseek的全球火爆吗?它的出现解决了一个核心问题。就是让智能算力的不足问题从高性能的训练算力延展到普惠型的推理算力。但同时,也带来了两个挑战,第一个挑战是,推理算力将爆发式增长,需要加快算力普及;第二个挑战是,训练算力仍需进一步强化,以支撑更大规模的模型训练,以及多模态大模型的新突破。

  现在业内疯抢高端GPU,却没人注意算力链条上的隐形损耗:GPU之间等数据、机房之间等传输、模型推理等调度...导致许多算力白白浪费。而中兴这套开放基座确实有点东西。这一基座不仅支持跨机房互联,在进行多模态模型训练时,还能够大幅度降低算力损耗,同时它还支持混搭不同品牌GPU,比如把某国产芯片和A800混用,大幅度提升调度效率。

  别人都在堆显卡,中兴在修“算力高速公路”。中兴通过芯片之间、GPU 卡之间、服务器之间以及数据中心之间的连接创新,包括大容量交换芯片、800G光互联等技术创新,构建的跨3个机房互联的智算集群,与单一机房部署相比,算力损失控制在5%以内。

  在AI 2.0时代,会造显卡不算本事,能让每焦耳电力都转化成有效智能,才是真·护城河。这样的背景下,中兴的未来发展潜力无限,未来可期。
 0001.jpg

相关文章
|
监控 网络协议 Perl
[原创]结合案例深入解析orphan socket产生与消亡(一)
本文看点:结合服务器运行案例和TCP代码分析orphan socket产生与消亡以及对系统的影响。精彩的部分在(二)细节分析章节。 ##问题背景 tengine服务器发生过多次orphan socket数量很多的情况,例如有一次使用ss -s命令查看: ``` $ss -s T
9977 0
|
C++ 索引
vscode clangd c++开发常见问题和解决方案
vscode clangd c++开发常见问题和解决方案
4447 0
|
3月前
|
人工智能 IDE 调度
Claude Code还是Codex?老金告你怎么选!
本文用“露营报名页”实例,揭示AI编程的核心不是选工具(Claude Code重现场协作,Codex重委托交付),而是厘清自身角色:许愿型需转任务描述,现场型宜边看边调,派单型要明边界验收,调度型则按任务脏/清/险动态组合。关键在学会“安排AI干活”,而非只会提需求。(239字)
|
5月前
|
算法 语音技术 数据安全/隐私保护
语音更改技术:变调与变速的原理及实现
语音更改技术:变调与变速的原理及实现
674 1
|
6月前
|
人工智能 Linux API
【最新】OpenClaw(Clawdbot)新手1分钟阿里云/本地部署+接入免费大模型+集成Skills及使用指南
2026年,开源AI智能体框架OpenClaw(昵称“小龙虾”)凭借灵活的交互方式与强大的功能扩展能力持续走红。它最独特的优势在于无需专用客户端,可通过iMessage、Telegram、Discord等日常通讯工具直接交互,其中Telegram因支持线程化对话与分块显示,成为用户首选的交互渠道。
767 6
|
7月前
|
人工智能 自然语言处理 机器人
智能体来了:从 0 到 1 开发一个能自动执行任务的智能体
能够自动执行任务的智能体,正在成为大模型应用落地的重要方向。相比只会对话的 AI,任务型智能体更强调目标理解、任务拆解与工具执行能力。本文从工程实践角度出发,系统介绍任务型智能体的核心逻辑、关键模块与开发步骤,帮助读者从 0 到 1 构建具备实际执行能力的智能体系统。
531 1
|
8月前
|
人工智能 自然语言处理 数据挖掘
Qwen3-VL-Embedding & Qwen3-VL-Reranker:统一多模态表征与排序
通义千问Qwen团队于2025年1月8日推出多模态模型新成员:Qwen3-VL-Embedding与Qwen3-VL-Reranker,基于Qwen3-VL构建,支持文本、图像、视频等多模态统一表示与跨模态检索,在图文匹配、视觉问答等任务中表现卓越,具备高精度、多语言、易集成等优势,助力全球开发者构建高效多模态应用。
4187 4
|
Web App开发 负载均衡 安全
浏览器如何验证SSL证书及如何查看网站的证书
浏览器如何验证SSL证书及如何查看网站的证书
浏览器如何验证SSL证书及如何查看网站的证书
|
Oracle 关系型数据库 数据库
【赵渝强老师】Oracle数据库的闪回查询
本文介绍了Oracle数据库的闪回查询(Flashback Query)功能及其实际应用。闪回查询通过`AS OF`子句,结合时间戳或SCN号,可查询历史数据状态,帮助分析数据差异。文中通过具体示例演示了如何使用闪回查询:创建测试表、记录当前SCN号、更新数据并提交事务,最后通过闪回查询获取历史数据。附带的视频和代码块详细展示了操作步骤与结果。
1109 4
|
机器学习/深度学习 算法 Java
通过 Java Vector API 利用 SIMD 的强大功能
通过 Java Vector API 利用 SIMD 的强大功能
973 10