云天励飞新一代边缘AI SoC芯片Edge10V即将量产！

　　8月28日，由芯原股份主办的“第三届滴水湖中国RISC-V产业论坛”在上海滴水湖洲际酒店召开。国内知名人工智能技术厂商云天励飞介绍了其新一代边缘大算力AP级边缘SoC芯片Edge10V，目前已经接近量产状态。

　　作为国内首批人工智能（AI）技术厂商，成立于2014年的云天励飞最初是主攻AI算法，通过摄像头、端云协同的架构来做海量图片的分析与处理，因此算法的泛化能力相对较弱，所以对于设备的调试要求就比较高，需要到各地去帮助客户调试，这在当时耗费了云天励飞很大的一部分精力。这也促使了云天励飞开始来做自研芯片，将自己的AI算法芯片化。

　　2018年，云天励飞就成功推出了自研的第一代面向嵌入式端的边缘AI芯片DeepEye1000，并且在当年8月一次性流片成功，在2019年正式商用。DeepEye1000基于国产高性能RISC-V CPU内核IP，内置了自主产权的神经网络处理器，支持灵活可编程计算流，搭载云天励飞自主研发的深度定制指令集，可以实现高性能、低功耗的CNN网络模型推理计算加速，满足视觉AI算法实时性处理的性能要求。

　　从2015年至今，云天励飞已经完成了三代指令集架构，4代神经网络处理器架构的研发。2022年，云天励飞自研的新一代边缘AI SoC芯片——Edge10V流片成功，今年开始在做产品化相关的工作，目前已经接近准量产状态。

　　据介绍，Edge10V是一款采用自主可控的纯国产工艺，内置国产RISC-V内核（主频1.2GHz），内置云天励飞第四代自主知识产权 NPU NNP400T（int8算力可达12Tops）的AI SoC芯片，其中还包括GPU和MM，支持双显等各类外设，支持边缘CV大模型的推理部署，因而可以独立完成各边缘计算场景的任务。

　　“ Edge10V的芯片实际上是系列化的芯片。有两大特色：1、支持Chiplet多芯粒扩展、支持大算力。作为国内首颗D2D高速互联Chiplet商用芯片，满足国产Chiplet UCIE标准。2、纯国产AI芯片。我们采用了国产的工艺、国产的封装，由国内工厂完成国内生产制造交付。作为一款AP级边缘AI SoC，Edge10V不仅可以支持AI计算，也可以支持双千兆网口，支持不同传感器的接入。另外，我们是有X8 PCle3.0接口可以支持不同的外设扩展。在CPU的部分，我们也是选择了带矢量处理器的这么一个RISC-V CPU。”云天励飞芯片BD总监张福林进一步解释道。

　　具体性能方面，云天励飞Edge10V的CPU和AI性能都大幅领先于上一代的DeepEye1000。

　　另外，云天励飞也为Edge10V配套了相对应的软件栈，其中核心的一个部分就是与异构的芯片架构有匹配的软件设计，可以很好的去做一些调度。另外，对于计算资源，也能通过合理的分配到不同的硬件加速器里面去运行。同时，Edge10V还有比较丰富的中间件的支持。包括：机器人行业用的比较多的ROS、ROS2等相关的东西。可以支持比较好的面向不同场景的边缘计算应用，以及低速自动驾驶方向的机器人应用。

　　在AI工具链、模型的支持方面，Edge10V可以支持Pytorch/Onnx/Caffe等主流模型框架，支持CNN/RNN/Transformer/GNN等深度学习网络模型。

　　在商业模式方面，云天励飞不仅可以直接对外提供Edge10V芯片，同时也可以对外提供一些列的模组产品，包括针对嵌入式设备的Mini PCle加速卡，可广泛应用于AIoT边缘视频、移动机器人等场景。也可以应用到一些边缘服务器的产品，做一些高密视频的推理。

　　从产品的形态来讲，我们是支持主要是覆盖端和边缘;边缘主要是边缘的Device和Server，在Device可以支持边缘视觉分析的终端盒子产品、另外就是机器人相关的应用。服务器这一块主要是集成到PCle加速卡。

　　“随着今年ChatGPT的火爆，推动了推动了整个AI的发展，大模型开始向边缘部署也已经是一个新的趋势。我们认为AI是打开第四次工业革命大门的钥匙，所以云天励飞其实确确实实也是在AI算法、芯片和应用方面去积极的贡献自己的力量。”云天励飞芯片BD总监张福林说道。