
商汤大装置这次交出的国产力成绩单揭阳护角专用胶厂,量已经不样了。
WAIC 期间,商汤大装置举办了场 AI 基础设施论坛,把这份成绩单摆到了台面上。
成绩单显示,商汤大装置把国产芯片相关业务的毛利率,做到了正数。
预计到 7 月末,商汤大装置的日均 Token 处理量,将从年初的 4000 亿路狂奔到 2.42 万亿,年底还冲着 10 万亿去,大概是年初的 25 倍。
国内头部模型厂商的名字,也有很多都排上了商汤的客户名单。
商汤大装置负责人杨帆介绍,过去好几年,力圈直在念叨句老话——谁买国产芯片,谁认亏。
商汤大装置交出的这组数字,直接把这句老话怼了回去。
也正是因此,商汤自己把这年,称为「国产 AI 基础设施规模化商用的元年」。
撑起这个反转的,是商汤整套把资源攥在自己手里、灵活拼起来用的操作法论。
先拼系统,再等芯片追上来
现在的国产模型,跟世界主流已经没有代际差距。
但搭载它们的国产芯片,跟主流端芯片比,至少落后代。
这个错位,在力产业链上几乎人尽皆知。
商汤大装置没有守株待兔,不等这道差距被芯片厂商自己填平,就先跑通了套系统层面的组案。
有了这套案,这道差距在实际用起来的时候,就能得到定程度的弥,不再是天堑。
这套案的核心,叫异构混理。
具体来说,商汤大装置把主流国产芯片「拼」在了起。
他们将 Prefill 和 Decode 阶段分离,把对显存和带宽要求的 Decode 环节,交给能强的端资源撑着;对力要求相对分散的 Prefill 环节,则交给数量多的国产芯片扛。
这样分的道理并不复杂,Decode 阶段要个字个字往外蹦,每蹦个字都要把之前生成的内容在显存里翻遍,吃的是带宽;
Prefill 阶段则是次把输入内容整个吞下去,吃的是力堆叠的吞吐量。
两种「脾气不样」的任务,本来就不该塞给同种硬件干。
有了这样的分工,块端芯片,大概就能带动约 30 块国产芯片起干活,拿到与单用端资源接近的果。
这套组术,也不是只对着款芯片量身定制的。
商汤大装置前后适配过 20 多款不同厂商的国产芯片揭阳护角专用胶厂,其中已经有六七款能够稳定地商业化盈利。
当然,把硬件拼在起,只是步。
系统层面还有大量定向优化和适配的工作要做。
这些工作琐碎但繁重,从底层的编译器适配,到子重写,再到上层框架的对接,后还要落到调度策略的调整,每层都得单去啃。
为此,商汤大装置在子层面做了针对的重写和调优,又在系统层调整了资源分配和调度策略,把国产芯片的力利用率尽可能地压榨了出来。
通过异构混理,主流国产芯片 MFU(Model FLOPs Utilization)提升了 85-152。
换成商业指标,这套系统组让单位成本的 Token 产出,提升了 2.5 倍。
具体到业务场景,在 AI4S 长序列蛋白质预测场景中,通过融子优化,整体预测耗时减少 75;在 AIGC 生成场景中,国产芯片运行 DiT 模型时,多卡并行生成加速比达到了 93。
这套能力,商汤包成了门叫「Token 工厂」的生意。
有了这座「工厂」,批量处理 Token 的需求,都可以直接找商汤来供给。
这些系统层面的工作,就是开头那组 25 倍增长曲线背后真正的支撑。
别人分着干,商汤自己包圆
商汤这套用端资源撑瓶颈、通用国产卡冲量的混理案,之所以能跑通,光靠技术优化还不够。
这种想法本身并不复杂,同类玩也不是没想到过类似的招。
但商汤大装置的手锏,在于把整条链条攥在了自己手里,因此才能做端到端的联优化。
这个「手锏」具体是什么样子,要从很多行业通用的分工式说起。
机房、硬件、批发分销、售,分给不同公司干,已经是常便饭。
拆得越细,每层单看起来都业,但层与层之间的损耗和摩擦,也跟着多了起来。
层的浪费,常常要靠另层的收益去补,旦这两层归属不同的公司,这笔账就成了烫手山芋,基本没人愿意主动清楚。
但商汤大装置却选择自己建机房,自己采购和运营硬件,自己开发调度系统,后的服务也是商汤自己直接对接客户。
这套自己全包的法,早是从适配国产芯片这件事上磨出来的。
商汤大装置从 2018 年就开始攒这套协作班底,自己的研发团队、芯片原厂和校科研机构长期配,起解决从底层编译器到子、再到框架和服务这几层技术问题。
这套班底走的是种松耦与紧耦并存的路子,pvc管道管件胶平时各干各的,遇到硬骨头就并到起集中啃。
任何层揭阳护角专用胶厂,都得多起才能搞定。
今年,这套体系里多了个新招——用 AI 自动生成子适配代码。
有了这个法,过去需要工程师手工做的适配工作,被 AI 接了过去。
跟上模型迭代速度所需要的人力时间,也因此被压缩了不少。目前,这套做法已经在商汤的生产环境里跑了不短的时间。
力之外,商汤把电力也并揽进了自己手里,力和电力,被当成个系统联调度。
商汤大装置在 WAIC 期间正式发布了「电协同 Agent」,先用模型去预测力任务的耗电特征,把这个预测结果,跟电力的调度系统通,再配峰谷电价和自己的储能设施,去调节整体的用电节奏。
这套法也衍生出了个新指标,叫 TPW(Tokens per Watt),衡量的是单位电量能产出多少 Token,用这套法之后,单位电力成本的 Token 产出提升了 80 左右。
这套端到端自己全包的路数,也延伸到了生态作上。
商汤大装置联了将近 20 生态伙伴,其中有寒武纪、沐曦股份、中科海光、华为昇腾、摩尔线程、曦望 Sunrise、壁仞科技这些头部国产芯片厂商,也有曦智科技这样的核心部件伙伴,还有硅基流动、趋境科技这类基础设施厂商。
这些伙伴起发起了国产 AI 基础设施生态共建计划,目标是造个开放共享、联创新的产业生态。
往后,商汤计划依托「银河计划」,跟生态伙伴共同建设 1 个 Token 运营中心、5 个万卡国产智集群,围绕 10 个核心技术向做联创新,还要赋能 200 AI 初创组织。
产业伙伴之外,商汤还把科研机构拉进了这套体系里。
WAIC 期间,商汤大装置联上海人工智能实验室、北京中关村学院、圳河套学院、上海法创新研究院、上海交通大学人工智能学院这五国内顶科研机构,起启动了科学发现平台的战略作。
这次作的向不少,联实验室建设、重大科研项目协同攻关、科研力底座、科学智能平台研发、复型人才培养、科研成果转化,都在作范围里。
这次作要构建的是套覆盖力基础、平台工具、模型能力、科研创新的体化科研服务体系,面向生命科学、新材料、智能制造这些域,以此提供 AI 层面的科研支撑。
这套法论往外延伸的向,还包括天上。
商汤大装置签约了国星宇航,双开始共同探索从地面万卡集群到在轨多星协同的太空力作。
预计到 2026 年,「商汤号」系列力卫星将完成发并组网,验证星地协同计能力;到 2030 年,将建成天地体化 AI 力星座,形成覆盖全球的空间智能计网络。
这套太空力的作,瞄准的是应急救灾、远洋船舶、野外机器人这些弱网络环境下的实时 AI 理场景,是地面集群覆盖不到的地。
跟太空力样,光计和量子计,也是商汤正在同步探索的向,眼下都还处在探索阶段。
这些分布在不同域的动作,说到底是同套法论——把资源收在自己盘子里,再根据场景灵活地重新组。
窗口会关,法论不定
这套法论是真本事,但眼下这份毛利、增长,也出现在个特殊的市场节点上——
当下的供需结构,正处在度失衡的状态。
今年 Agent 类应用起来,力需求的结构变了。
单次任务处理的上下文长度大幅拉长,市场对力的整体需求,同比去年涨了 5 到 10 倍,主流力的供给却几乎没涨。
大厂需要优先保自己内部的核心业务,致三客户的溢出需求,没人承接。
大厂和头部芯片厂商都顾不上的那部分市场,正是在这个窗口期里被商汤揽了过来。
供给端旦追上来,这轮红利大概率会收窄。
虽然红利会收窄,但商汤大装置沉淀下来的东西却留得住。
商汤在 AI 基础设施这个域,已经摸爬滚了九年,是布局早、也懂大模型的服务商之。
这九年来,他们所沉淀的,是套端到端整、能跨场景复用的操作法论,从理延伸到电力,延伸到区域布局,也延伸到太空力,背后都是同套逻辑在不同场景里的具体适用。
这轮收入曲线,只是这套法论眼下容易被看见的部分。
同时,这套逻辑也在回应个长期的判断。
模型的应用场景还在持续变多,具身智能、世界模型和科学计这些新向,对力提出的要求彼此并不样。
单芯片很难同时满足所有场景,这给商汤这类擅长「组调度」的玩,留出了长期的研究和发展空间。
AI 基础设施这场竞赛,拼到后,芯片多,不再是决胜的砝码;把手里的资源拼成优组,才是关键的招数。
商汤大装置赌的,就是这件事。
键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!
— 完 —
� � 点亮星标 � �
科技前沿进展每日见相关词条:设备保温 塑料挤出机厂家 预应力钢绞线 玻璃丝棉 万能胶厂家
奥力斯 万能胶厂家 联系人:王经理 手机:18231788377(微信同号) 地址:河北省任丘市北辛庄乡南代河工业区
1.本网站以及本平台支持关于《新广告法》实施的“极限词“用语属“违词”的规定,并在网站的各个栏目、产品主图、详情页等描述中规避“违禁词”。
2.本店欢迎所有用户指出有“违禁词”“广告法”出现的地方,并积极配合修改。
3.凡用户访问本网页,均表示默认详情页的描述,不支持任何以极限化“违禁词”“广告法”为借口理由投诉违反《新广告法》,以此来变相勒索商家索要赔偿的违法恶意行为。
