以创新创未来 云天励飞-U边缘AI引领大模型落地
本报讯 (记者王镜茹)近期,云天励飞-U推出IPU-X6000加速卡。该产品具备256T算力、128GB显存容量、486GB/S显存带宽;采用C2C Mesh互联技术,可实现卡间高速互联,带宽达64GB/s,最大可实现64张卡的互联;可应用于语言、视觉、多模态等各类大模型的推理加速,目前已适配云天天书、通义千问、百川智能、Llama2/3等近10个主流大模型。
事实上,云天励飞-U作为国内边缘AI领军企业,以“算法芯片化”为核心能力,自主研发多模态大模型“云天天书”及面向边缘AI的大算力芯片。目前,公司不断推进AI在智能硬件、智算服务、智慧行业三大领域的应用,致力于为个人、家庭、行业带来安全、智慧、便捷的AI体验。
据了解,“算法芯片化”是云天励飞-U的核心能力。云天励飞-U自2014年成立以来,经过10年的技术积淀,将该能力沉淀为基础技术研究平台,为技术研发和产业赋能提供有力支撑。基于算法芯片化技术平台,云天励飞-U打造了“云天天书”大模型以及系列AI芯片。“云天天书”系列大模型使用自研训练框架,全栈适配国产算力,在可伸缩训练、断点续训等业界难点问题上屡次取得创新突破。
2023年,“云天天书”大模型正式通过中央网信办备案,并在智慧政务、城市治理、智慧安防、智慧交通、智慧商业、智慧教育等多行业落地。同年底,云天励飞-U推出基于全国产先进工艺打造,完全自主可控的14nm AI芯片DeepEdge10,搭载第四代自研神经网络处理器NNP400T,主要用于大模型在边缘场景的推理部署。目前,DeepEdge10已在摄像头、边缘服务器、机器人、智驾汽车等边缘设备落地应用。
目前,云天励飞-U围绕智能硬件、智算服务、智慧行业三大行业,不断推进人工智能的产业化应用。在智能硬件方面,公司推出“深目”AI模盒,“天舟”大模型巡推一体机的硬件设备,推动大模型的便捷应用与落地。在智算服务方面,公司已落地含自研芯片的超大规模异构高性能算力集群,并积累大模型训练所需的能力平台与工具,为客户提供算力及相应服务。
在智慧行业方面,云天励飞-U打造了一系列标杆项目,并积累了优质的客户资源和良好的品牌口碑,从而保障未来业绩持续稳定的增长。今年6月份,云天励飞-U拿下一笔16亿元的算力订单,提前锁定未来三年收入。
(编辑 张明富)