手机浏览器扫描二维码访问
2. AI推理:需要光模块“不卡顿”
AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。
比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。
而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。
3. AI集群:需要光模块“连得密”
本小章还未完,请点击下一页继续阅读后面精彩内容!
AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。
以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。
中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。
五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?
光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。
1. 传统可插拔光模块:灵活但有瓶颈
我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。
这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:
- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。
- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。
- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。
2. CPO技术:把光模块“焊”在芯片上,突破瓶颈
为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。
尤利亚兹传记情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的玄幻魔法小说,尤利亚兹传记-雷之-小说旗免费提供尤利亚兹传记最新清爽干净的文字章节在线阅读和TXT下载。...
「无系统(至少男主没有),女主数量随机,轻松搞笑,甜密日常(大概),不重生(同上),活着日常,架空世界,多时间线,多世界线」一场突如其来的袭击近乎覆灭了东方一族,东方凌云的命运发生了翻天覆地的变化。当他踏上了一条寻找家人寻找自我的道路,越来越多的缘分也就此结下......这里讲述的是齐聚于竹枝馆众人的故事......
这是一场两个帝王之间的对决。从反对到心动,从不爱到动情,从一国君民和睦,到两族的对决。方临:“陛下!夫人带兵来灭人族了!”白玄:“无妨,他最近犯浑,我去把他带回来!”...
高二分班,傅铂乐发现自己换了个新同桌。新同桌好社牛,但他不喜欢,因为他主打的就是一个低调,因为不想再被人惦记。可他的新同桌好有分寸,更重要的是,对方好像是个直男。就是这个直男有点过于照顾他了,比...
少年洪宇为了给父亲筹集手术费,孤身入深山采摘野山参,却偶得仙医传承,从此开启一段仙医之路。治病救人,画符看相,武道神通,琴棋书画,无所不能。且看,乡野小子洪无极如何笑傲都市,制霸全球。...
作为一个家世好长得好还备受家长溺爱的富二代,盛衍平生就三大爱好,逃课,上网,见义勇为。 而作为住在盛衍隔壁的另一个家世好长得好的富二代,秦子规平生也只有三大爱好,抓盛衍逃课,抓盛衍上网,抓盛衍见义勇为。 当盛衍第数不清多少次被秦子规从打架现场拎回家的时候,他终于怒了:“秦子规,你一天到晚能不能别管我闲事!是作业不好做还是考试第一不好玩!” 一向冷淡寡言的秦子规也第一次生了气,一把扯开盛衍的衬衣,指着里面大大小小惹人心疼的伤:“老子要不是喜欢你,谁稀罕管你!” 盛·热血校霸·钢铁直男·衍:??? · 盛衍某天早上宿醉醒来发现自己手机里多了个许愿app,只要被系统认可的愿望,就一定会实现。 希望一觉起来罚抄作业就全部完成。系统√ 希望下次考试每科及格。系统√ 希望班花不要再给秦子规送奶茶。系统√ 几次之后,盛衍觉得自己可能就是天选之子,即将走上人生巅峰。 直到他第N次许愿:希望秦子规不要再多管他闲事,被系统驳回,再许,再驳回,再许,再驳回。 最后被系统回复:建议宿主修改愿望为“希望秦子规成为我的男朋友”,即可当场实现。 盛衍才缓缓打出一个问号:难道他和秦子规真的是命中注定? 后来,当他愿望成真并悲愤地从秦子规床上醒来,然后看见了床头秦子规的手机弹出一条消息【收到宝贝愿望:希望秦子规能做个人】时,才恍然大悟——去XX的命中注定,秦子规就是个大XX! 表面热血校霸实际小学鸡受X表面高冷学神实际老狗比攻 ·竹马竹马,系统是攻做的,无任何幻想元素· ·各种意义上真傻(强调)白甜文,建议不要深究·...