云天励飞:推出IPU-X6000加速卡 边缘AI引领大模型落地
转自:中国证券报·中证网
中证网讯(王珞)日前,云天励飞(688343)在官微披露,公司近期推出了IPU-X6000加速卡。据介绍,该产品具备256T算力、128GB显存容量、486GB/S显存带宽,可应用于语言、视觉、多模态等各类大模型的推理加速,目前已适配云天天书、通义千问、百川智能、Llama2/3等近10个主流大模型。
公开资料显示,2023年4月,云天励飞于科创板上市,积极利用资本纽带与更多人工智能产业上下游合作伙伴建立深度联系,投资了智慧互通、臻识科技、神州云海等在动态停车、静态停车、全息路口及智慧工地、清洁机器人等方向的龙头企业,并作为创始股东成员之一参股深圳国创具身智能机器人有限公司,提供AI芯片、大模型领域的技术支持。此外,云天励飞还通过收购智能穿戴头部方案设计公司岍丞技术,进军大模型C端应用市场,围绕边缘AI不断拓展上下游产业链及生态。
目前,云天励飞围绕智能硬件、智算服务、智慧行业三大行业,不断推进人工智能的产业化应用。在智能硬件方面,公司推出“深目”AI模盒,“天舟”大模型巡推一体机的硬件设备,推动大模型的便捷应用与落地;在智算服务方面,公司已落地含自研芯片的超大规模异构高性能算力集群,并积累大模型训练所需的能力平台与工具,为客户提供算力及相应服务。
据公司披露,“算法芯片化”是云天励飞的核心能力,云天励飞自2014年成立以来,经过10年的技术积淀,将该能力沉淀为基础技术研究平台,为技术研发和产业赋能提供有力支撑。基于算法芯片化技术平台,云天励飞打造了“云天天书”大模型以及系列AI芯片。“云天天书”系列大模型使用自研训练框架,全栈适配国产算力,在可伸缩训练、断点续训等业界难点问题上屡次取得创新突破。
据公开资料,云天励飞以“算法芯片化”为核心能力,自主研发多模态大模型“云天天书”及面向边缘AI的大算力芯片,并不断推进AI在智能硬件、智算服务、智慧行业三大领域的应用,下游客户为个人、家庭、行业等。今年6月,云天励飞拿下一笔16亿元的算力订单,提前锁定未来三年收入。