爱看中文网

手机浏览器扫描二维码访问

一文看懂光模块:从“数据快递员”到ai时代的“基建核心”(第4页)

2. AI推理:需要光模块“不卡顿”

AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。

比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。

而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。

3. AI集群:需要光模块“连得密”

本小章还未完,请点击下一页继续阅读后面精彩内容!

AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。

以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。

中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。

五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?

光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。

1. 传统可插拔光模块:灵活但有瓶颈

我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。

这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:

- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。

- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。

- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。

2. CPO技术:把光模块“焊”在芯片上,突破瓶颈

为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。

热门小说推荐
就差说我是神仙了

就差说我是神仙了

阴差阳错,祈天河进入无限副本时,被误认为成是王者归来,只为消灭游戏里的邪恶阵营。 真菜鸟·新手村玩家·祈天河:……就很绝望。 ------ 作为新玩家,祈天河一进游戏,瞬间收获无数追随者,他们视他为光明的曙光,海上的灯塔,希望路上的指引者。 玩家A:大佬,今天是要去消灭邪恶阵营的哪个疯子? 玩家B:小哥哥,接下来是过S级难度的副本,还是SSS级呢? 玩家C:您看,是不是已经到了推翻游戏统治,掌握命运主动权的时候了? 祈天河:…… ------ 无限副本,玩家如蝼蚁,祈天河幸运得到《七日经》:练成之日将灭自身人欲,成万灵之体,引众鬼拜服。 他试着翻译了一下,约等于欲练此功必先自宫。 ……是时候在游戏里找个干儿子养老了。...

万界狂尊

万界狂尊

宅男没实力前能做什么?蹲家,上网,游戏,动漫,电影!一辈子就是处于社会最下层!难道宅男就不能进入上流社会?就不能指点江山?就不能醉卧美人膝,醒掌天下权?就...

怪物们的心尖宠

怪物们的心尖宠

【高亮:自割腿肉,人外男主,非大女主,排雷在第一章作者有话说】 小说里的娇纵女配觉醒了。 她们发现,自己的男友,是怪物。 【单元人外甜宠故事】 01脆弱美人x被藤蔓寄生的异能者 末世来临,前男友为了活命,将苏肴送到了异能者的怀里。 屋内,无数藤蔓缠紧了脆弱的美人,接住了她的每一滴眼泪,尝遍了她的所有味道。 屋外,异能者的队友们高兴地摁着漂亮美人的窝囊男友,威胁他—— “女朋友能被老大看上,是你的福气!堂堂男子汉,被无缝衔接很正常,哭什么!” 02落难贵女x伪装成抓妖师的蟒蛇 焦娇在进京途中落难,被妖蛇拖回洞中,被肆意霸占。 逃跑的过程中,她救下了当世最厉害的捉妖师。 捉妖师为了偿还恩情,护她庇她,帮她赶走妖蛇。 最后在美人感激的拥抱中,露出了冷漠的竖瞳。 嘶嘶。人类真香。 03木讷自卑但挺翘的大美人X人形一米九/肌肉蓬勃/性格残忍恶劣的野狼 容姝参加了一个驴友团,误入连绵不断的深山。 在食物吃光前,他们找到了藏在山里的偏僻村落。 村民冷漠且恶劣,不愿意施舍一点儿饭菜。 除了那个对容姝垂涎不已的聋傻糙汉……队友们果断地将容姝推出去。 “你去哄哄他,骗点吃的回来。” 04千年活僵X亲手养大的偏执女孩 苏嫱八岁时,遇到了好心的资助人,直到十八岁才与这位叔叔见面。 叔叔常年幽居古院,手腕缠着佛珠,俊美的面容异常苍白,还患有罕见的吸血症。 眼看着叔叔因为患病时日不多,为了报答养育之恩,她敲响了他的房门, 在古板又正直的他拒绝之前,主动爬上他的腿。 “叔叔,你、你吸我的血吧……” 将她拥进怀里的千年活僵餍足地喟叹。 ——终于上钩了。 05生前十八岁男高·死后祭坛邪祟X被拐入深山的蛇美人 白筱刚认回亲生父母,就被拐入大山,逼着嫁人生子。 洞房当晚,人品低劣的新郎就被野兽咬断了脖子。 新郎父母迁怒她,对她非打即骂,眼见着还要卖她第二次…… 这时,系统绑定了她。 “你帮我阻止邪祟害人,我就帮你逃离大山。” 白筱浑身是伤,饿得没有力气,只能偷偷地看向藏在人群里的邪祟。 邪祟:她在朝我媚笑 邪祟:她勾引我 当晚,窗外飘来一个口嫌体正直的非人类。 06暴躁人鱼X咸鱼打工人 方卉在地铁上挤到眩晕,两眼一黑穿越到异世界的海洋里。 刚睁开眼,她就发现自己被一条单身人鱼缠上了……...

科学穿越

科学穿越

科学穿越情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的其他类型小说,科学穿越-身高一米八-小说旗免费提供科学穿越最新清爽干净的文字章节在线阅读和TXT下载。...

星辰剑仙

星辰剑仙

一人一天地,一剑一江湖。诸世之敌,一剑诛之。...

辉煌岁月

辉煌岁月

辉煌岁月情节跌宕起伏、扣人心弦,是一本情节与文笔俱佳的都市言情小说,辉煌岁月-纯银耳坠-小说旗免费提供辉煌岁月最新清爽干净的文字章节在线阅读和TXT下载。...