作家 | 三北裁剪 | 漠影

AI上市公司深圳云天励飞，最近在算力家具及作事业务板块完成诸多大额订单。

最初是11月5日，云天励飞告示已完成近16亿元的AI大单的拜托使命，为北京德元方惠科技开发有限包袱公司（简称“德元方惠”）提供AI老师及推理算力作事。同期，第一批算力作事（对应条约中约60%的算力范围）的验收商量使命已完成，上线日历为2024年10月1日。

▲云天励飞最新公告部分截取

而就在不久前的9月，云天励飞刚中标了约1.3亿元的“天府智算中心（一期）名堂开辟采购及监理作事采购名堂”，连下两城。

自昨年以来，大模子催生了大宗老师及推理算力需求，环球各路云狡计大厂、作事器厂商、AI企业以及一些跨界玩家纷繁驱动干涉智算行业。

行为一家作念AI算法起家的企业，云天励飞拿下这些项策动背后，有什么样的时期和贸易逻辑？这又能为AI企业同业带来什么样的启示？

通过对话云天励飞副CFO兼成本中心总司理陈腾宇，本文对此进行了长远探讨。

一、大模子狂飙500天，老师及推理算力需求激增

自2023年大模子爆火以来，催生了大宗老师及推理算力需求。

大模子朝超大参数范围发展，OpenAI建议的百万卡的智算集群想路如故被考证，推动智算中心如星罗棋布般显现。把柄工信部最新数据，适度2024年上半年，国内如故缔造和正在缔造的智算中心跨越250个。2024年上半年智算中心招投标商量事件791起，同比增长高达407.1%。

提早预判到这么的趋势，云天励飞于2023岁首涉足异构算力范围，这是国内AI企业最早布局智算的门径之一。陈腾宇向智东西谈及其时的机会：短期来看，云天励飞在研发进程中有大宗的时期千里淀不错撑握异构算力集群的高后果运行，而其盈利智力亦较为可不雅；另一方面，老师背后的推理需求是更大的蓝海，将给云天励飞自研推理芯片提供广袤的应用场景。

筹备一年多，期间来到2024年7月，云天励飞与德元方惠一举签下16亿元的AI大单，在产业里一战成名。

按照合约，云天励飞将为后者提供智能算力转折及AI大模子开发作事平台配套作事，算力总范围约4000PFLOPS，用于大模子老师及推理。

名堂范围之大、业务之聚焦，许多业内东谈主士意思，云天励飞能照拂这个名堂吗？

陈腾宇告诉智东西，现时这别称堂已全面完成拜托，并干涉调试及验收阶段。同期，名堂贸易化也不成问题，把柄云天励飞官方公告，这别称堂改日三年瞻望每年为公司新增营收约5亿元，三年累计产生利润5.39亿元。

本年9月，云天励飞紧接着再下一城，中标了约1.3亿元的天府智算中心名堂。

据悉，该名堂现时也如故干涉拜托进程，瞻望进一步为云天励飞的功绩带来径直受益。

大名堂纷繁拜托，秀气着云天励飞异构算力业务步入正轨，成为一条新的增长弧线。

不错看到，比拟国内其他AI范围同业，云天励飞是在该范围跑得较快的AI企业。究其原因，最初如故因为公司较快地看到并收拢了这波AI机遇。

但提早布局AI算力的企业不在少数，为什么云天励飞大要解围？

二、为什么是云天励飞？左手算法，右手芯片

AI算力混战地点握续已一年多。

自昨年以来，尽管云巨头接踵推出令东谈主眼馋的大模子训推“全家桶”，但实质可用的算力仍是稀缺资源，作事器厂商、AI企业都在布局智算，以致跨界玩家都入局了，竞争好不热烈。

之是以大要在群雄混战的AI算力市集站住脚，陈腾宇以为，云天励飞的中枢竞争力还在于时期储备，主要体现时算法和芯片两大方面。

1、自研大模子训戒千里淀用具，助客户擢升算力诳骗后果

在算法层面，云天励飞于2023年推出了自研千亿级“云天天书”大模子，并在大模子的研发进程中荟萃了一系列算力调优、擢升模子老师后果的时期平台和相应用具。

这些训戒及用具都被云天励飞千里淀到家具和作事中，可匡助客户擢升模子老师及算力诳骗后果，以更低成本老师大模子。

具体到集群照拂方面，云天励飞智能老师平台及算力转折平台，大要按任务转折到卡，并进行任务照拂、任务编排、老师告警、大模子断点续训。

此外，其数据照拂（DataHub）支握数据可视化、挖掘、治理等多维照拂，在保证数据安全性的基础上终结数据钞票化；此外皮集群照拂中的通讯优化、日记集群、监控告警等方面也荟萃了多个用具链。

具体到软件平台方面，云天励飞推出了智能算法标注平台，为算法老师提供了可靠的底层数据支握，可支握图像和文本自动化标注，据称比拟东谈主工标注后果提高40%操纵。

除此以外，支握大模子负载平衡的部署平台，支握在多个主流硬件平台进行零代码、自动化的模子发布的模子发布平台，提供完好意思用具和资源的模子评测平台，全面粉饰内容审核过滤的智能内容审核平台等，都不错大大提高算法老师后果。

2、算法芯片化，自研大模子芯片提供高效推理作事

在芯片层面，云天励飞基于对AI算法时期特色及行业场景狡计需求的泄露，通过自界说领导集、处理器架构及用具链的协同假想，终结算法时期芯片化，构建了神经集聚处理器平台，不错支握其算力家具及作事。

同期，云天励飞已具备自研的推理卡，依托更变的D2D chiplet架构，可承载大模子应用落地的大范围推理狡计。据悉，从2022年驱动其就驱动针对大模子的Transformer架构作念优化，终结流片，可见其对市集感知的前瞻性。

尽管在软件生态上还存在差距，但与国外高性能算力比拟较，一些国产推理芯片如故在某些专项上占据上风。比如说云天励飞X6000一体机，选择Mesh互联时期，在多卡互联时可终结有储分享、最大化推崇带宽上风，从而擢升大模子推理后果，针对70B模子的推理后果已达60 Tokens/s，而针对MoE架构模子，如mistral08*7B，推理后果达到260 Tokens/s。

具体到大模子推理的实务中，许多客户更多宽恕的是带宽能不成充分诳骗起来这个问题。云天励飞在卡间互联、堆叠式假想等多方面的研发储备，使其大要恬逸客户的这一中枢需求。

不错看到，之是以大要拿下近20亿元大单，还因为云天励飞竖立了双重护城河：左手算法，右手芯片，使其在群雄混战的AI算力市集杀出一条血路。

三、时期立身，作念最懂大模子的算力家具及作事

纵不雅算力产业，动辄一个项策动金额达数亿以致数十亿元，周期长、工程量大、后续运营作事需求高。

针对这么的业务特征，陈腾宇告诉智东西，关于大客户来说，他们在选拔算力作事提供商时，最初如故要沟通这家公司是否靠谱。主要锻练的方面除了时期储备，还包括行业训戒、供应链和拜托智力、运营踏实性及资金实力等一系列概述智力。

而跟着百模大战不息鼓动，集群运营濒临的最大挑战还在于举座的运营智力，以及跟着市集趋势变化，通过软硬件协同迭代，束缚恬逸客户的新需求。

谈及云天励飞在这些“软实力”方面的储备，陈腾宇谈谈，云天励飞如故搭建智力板块较为皆全的业务团队，包含时期研发、运营及销售、时期运维及拜托等东谈主员，保险业务告成开展、进行。

同期，该业务板块已有范围化落地。把柄云天励飞官方公告，其已落地西南、华南区域三个高性能算力集群，运营算力范围接近5000P。在拿下两个多数大单前，适度2024年5月末，公司已搭建异构狡计集群算力超800P。

此外，云天励飞还荟萃了多个行业的客户资源。通过前期业务拓展触达、高卑鄙生态搭建等气象，云天励飞荟萃较多具备大模子老师及推理需求客户，包括AI初创公司、科研院所、互联网企业、自动驾驶企业、运营商等客户资源。

不错看到，恰是这么的团队储备、落地案例及客户资源荟萃，互助“算法芯片化”政策实时期储备，让云天励飞的异构算力业务稳步发展起来。

关于AI行业来说，云天励飞开辟了一条AI企业在大模子时间的新出息——不啻于算法攻关，而是将算法与算力训戒集结布局算力家具和作事，这对AI同业有一定的启迪作用。

结语：趁势而为，构筑AI企业新价值

回来以前一年多，AI算力在“百模大战”怒潮之中成为竞争焦点；站在现时看改日，行业如故验过一波大浪淘沙，稀奇重围的玩家如云天励飞，正真枪实剑披挂上阵，构筑AI企业的新价值壁垒。

智算中心正从“建起来”走向“用起来”，也对云天励飞们建议了新挑战。“咱们的智力构建和贸易化如故作念得比较好了，下一步咱们会不息作念深，绑定多个行业龙头，尽可能地挖掘客户需求，同期借用他们的行业训戒去迭代我方的推理算力。”陈腾宇说。