云天励飞半年报出炉 营收同比增长97.40% 边缘AI战略显成效
8月26日,云天励飞发布2024年半年度报告。今年上半年,云天励飞实现营业收入2.89亿元,同比增长97.40%。取得显著业绩增长的原因,主要得益于公司在智慧行业解决方案及智能硬件产品的销售收入增长。尤其在今年7月公布边缘AI战略后,云天励飞积极探索并实践“大模型+智能可穿戴”等前沿技术,进一步巩固其在AI行业的领先地位。
智能硬件或成业绩新增长点 布局“大模型+智能可穿戴”业务
2024年上半年,云天励飞在智能硬件领域取得的突破性进展,成为公司业绩的一大亮点。
市场研究报告显示,预计到2025年,全球智能硬件市场规模将达到数千亿美元规模,年复合增长率保持在两位数以上。智能硬件正以前所未有的速度重塑人们的生活和工作。而云天励飞基于自研的“云天天书”大模型和神经网络处理器,成功打造了面向各类边缘AI场景的各类硬件设备并对外销售,包括AI芯片、与华为昇腾合作打造的“天舟”大模型一体机等。
报告期内,云天励飞还推出了融合“云天天书”多模态大模型能力的警务安全智能终端,具备万物识别、自然语言检索、警务知识咨询等功能,可全面助力基层警务人员提升执法水平。
值得一提的是,今年3月云天励飞收购了智能穿戴方案设计头部公司岍丞技术,并于4月完成了岍丞技术股权的第一期交割,目前公司持有岍丞技术51%的股权。公开资料显示,岍丞技术主要产品包括智能蓝牙耳机PCBA、智能手表PCBA、智能音箱PCBA等IoT产品,主要应用在华为、荣耀、OPPO、vivo、安克、boAt、Noise等品牌的终端产品上。
出货量方面,岍丞技术2023年智能耳机PCBA的出货量达1036.6万套,其中真无线耳机品类为967.6万套,IDC统计数据显示,2023年中国手机客户真无线耳机市场销量为6090万台,据此计算的岍丞技术2023年中国手机客户真无线耳机品类出货量占同期中国真无线耳机市场销量的比例为15.89%。
收购岍丞技术后,云天励飞积极探索“大模型+智能可穿戴”相关产品,并且,据公告披露的业绩承诺,未来三年,岍丞技术预计将为云天励飞贡献约十三亿元的智能穿戴业务相关收入。
除此之外,7月云天励飞还注册了全资子公司深圳市噜咔博士科技有限公司,该公司经营范围包括人工智能硬件销售、人工智能应用软件开发等。外界猜测这极有可能是云天励飞为进军C端智能硬件市场做的准备。在云天励飞积极探索“大模型+智能可穿戴”的布局下,不仅将拓宽公司的产品线,也为公司未来在C端市场的拓展奠定了坚实基础。
依托自研多模态大模型 智慧行业深耕显成效
云天励飞上半年在智慧行业领域的深耕同样取得了显著成效。据悉,公司依托自研的多模态大模型技术,已形成城市治理、智慧交通、智慧应急、智慧城管、智慧园区、智慧社区、智慧泛商业、智慧道路巡检、智慧警务、低空经济、智慧教育等行业产品与解决方案体系,并结合多模态大模型技术特点和行业需求,持续拓展创新业务。
如果说2023年是大模型元年,那么今年则是大模型应用元年,大模型需要寻找更多应用场景,各行业也在积极拥抱大模型,寻找全新的行业解决方案,伴随着“行业+大模型”市场的不断扩大,这直接为上游厂商云天励飞的智慧行业相关业务注入动力。
在智慧教育业务方面,云天励飞提出了Fly计划,致力于构建全面、立体的人工智能教育生态系统,为学生、教师和学校带来颠覆式的教学体验。
在与深圳市龙岗区合作打造的数字政务行业大模型中,云天励飞的大模型技术还展现了其在提升政务效率和服务质量方面的巨大潜力。具体来看,在智慧交通和智慧警务解决方案中,云天天书大模型助力城市实现了交通的智能调控以及公共安全事件的有效预防;在智慧商业领域,大模型通过分析客流动线等信息,为商业智能体的运营决策提供了有力支撑。值得一提的是,该数字政务行业大模型还入选了今年中国信通院发布的《2024大模型示范应用案例》。
拿下16亿元AI算力服务大单 智算运营或成未来业绩拉动主力
随着大模型技术的蓬勃发展,算力需求急剧增加。据中信建投测算,2023年至2027年,全球大模型训练端峰值算力需求量的年复合增长率有望达到78.0%。工信部数据显示,截至2023年6月底,算力总规模达到197 EFLOPS,算力总规模近五年年均增速近30%,存力总规模超过1080EB。
云天励飞敏锐地把握住了这一市场机遇,积极布局智算运营业务。今年6月,云天励飞与德元方惠签署AI算力运营合作协议。德元方惠将向云天励飞购买AI训练及推理异构算力服务,总算力规模约4000 PFLOPS,该协议在未来三年服务期内将为云天励飞贡献约16亿元的营收。据消息人士透露,德元方惠的背后是三大运营商之一,预计智算业务布局或将对公司经营业绩产生积极影响。
事实上,云天励飞自2023年起便深度布局智算行业,不断在技术能力、集群运营管理、客户资源、供应链渠道等方面积累自身核心竞争力,在同行业中资源储备较为齐全。其中,在芯片方面,云天励飞有芯片自主研发能力,去年年底发布大模型推理芯片DeepEdge10;今年推出采用D2D Chiplet技术,基于DeepEdge10芯片平台打造的大算力芯片 DeepEdge200,并打造了IPU-X6000加速卡。
据悉,IPU-X6000具备256T算力、128GB显存容量、486GB/S显存带宽;采用C2C Mesh互联技术,可实现卡间高速互联,带宽达64GB/S,最大可实现64张卡的互联;可应用于语言、视觉、多模态等各类大模型的推理加速,目前已适配云天天书、通义千问、百川智能、Llama2/3等近10个主流大模型。IPU-X6000单卡可实现130B参数量大模型推理,在执行70B参数量大模型推理时性能达11 tokens/s,有望在大模型推理领域逐步实现国产替代。
在大模型训练方面,云天励飞则自主研发了千亿级大模型“云天天书”,并在大模型的研发过程中积累了一系列算力调优、提升模型训练效率的技术平台和相应工具,云天励飞将上述技术沉淀运用在AI算力服务中,可帮助客户提升模型训练及算力利用效率。
展望未来,云天励飞亦可在超大规模异构高性能算力集群中,将自研推理卡与高性能训练算力相结合,为自研推理卡落地打开场景触角,搭建生态,为行业带来更丰富的算力服务。
边缘侧AI需求爆发 制定“2+3+3”边缘AI战略
在AI蓬勃发展的时代,大模型成为AI领域的焦点之一,但实际上,云端大模型落地行业仍面临许多挑战:行业数据缺失,信息反馈缓慢,长尾场景无法覆盖,模型幻觉等。如何克服这些难题?云天励飞给出的答案是:边缘AI。在大模型普遍追求规模效应的当下,云天励飞提出边缘AI战略,因为从长远来看,大模型赋能千行百业,离不开边缘AI的支撑。
云天励飞董事长兼CEO陈宁曾介绍称,边缘AI的发展可以分为四个阶段。“第一个阶段是在边缘设备上搭载小模型算法,让边缘设备具有处理简单任务的能力,比如在摄像头中加入车辆识别、人脸识别等算法;第二阶段是视觉语义大模型走向边缘,代表的产品有AI手机、AI PC等,这也是当前所处的阶段;第三阶段是端到端行为大模型走向边缘,在这一阶段,各类机器人、智能可穿戴设备将变得随处可见;第四阶段是通用人工智能时代,将进入万物皆智能的世界。”
基于当前边缘AI的发展趋势和多年的技术积累,云天励飞制定了“2+3+3”边缘AI的战略布局全景,即2个技术平台——多模态大模型、NPU加速计算平台;3类主营业务——智能硬件、智算运营、智慧行业;3个应用方向——个人Copilot、家庭Copilot、城市Copilot,助力边缘AI渗透至物理世界的各个角落。
事实上,越来越多行业巨头也开始拥抱边缘AI。一方面,谷歌、微软、Meta等都推出了轻量化大模型支撑边缘AI的应用;另一方面,苹果、英伟达等巨头推出边缘AI芯片,应用在AI手机和机器人上,支撑边缘端的大模型运行。边缘AI让物联网升级成为AIoT,助力大模型落地。国泰君安证券研究所数据显示,随着AIoT的发展,未来3年边缘智能硬件设备将保持50%以上的复合增长率。
随着未来大模型应用的不断深入,边缘AI市场将越来越广阔,而云天励飞作为边缘AI赛道的先行者,以及业内少数的既有自研大模型,又有自研AI芯片的企业,云天励飞的发展值得继续关注。文/程策