上图为当前市面上较为典型的边缘 AI SoC 芯片基本框架。加入了 AI 的 NPU 加速器单元后, AI算法的处理以及前后的数据加速,使其相较于传统的 SoC 芯片具备了更高的设计复杂度,各个模块之间需要相互协同,生态推广和开发难度也越来越高。
当前,芯片开发者最常面临的困境:比如无法通过便捷的渠道购买到芯片,如何选择合适的芯片平台,如何从原厂获得完整的数据文件包括竞争力手册、文档等。另外,使用过程中发现的问题也难以向芯片原厂反馈,工作成果无法沉淀共享。
因此,开发者们都希望能有一个对开发者长期友好的芯片厂商,能有一个特别乐意开源开放的芯片厂商。而嘉楠科技在过去三年里,一直在此方面积极地努力。
嘉楠科技公司的定位是数字新基建算力提供商。2016 年开始启动 AI 业务线的研发,2018年作为业内首家交付了基于RISC-V 架构的第一颗 AI 产品K210,第一代 AI 芯片的神经网络加速器达到 1 tops/w的出色能效比。
上图为嘉楠勘智 AI 业务线的整体 roadmap。在 2018 年推出 k210 后, 2021 年 7 月推出了面向专业 AIoT 领域的 k510 ,最高具备2.45T的 kpu 算力,RISC-V 核心也提升至双核 800M,配有 800M的P扩展,支持2路 1080p 的摄像头输入。
明年即将推出 K230,相对于前两代产品,其在整体计算性能上会有 3-5 倍提升。
蓝色部分为未来我们将针对消费 IOT、专业 IOT 和边缘计算三个领域的IOT分支。
K210是全球首款RISC-V 架构的商用边缘 AI 芯片,目前已经完成了对主流嵌入式 OS 的应用,包括 Linux、RTT-RTOS、FREE-RTOS等。对主流的深度学习框架也通过不断迭代实现了较为完整的支持。2020 年 4 月, Linux 通过了 k210 加入 Linux 内核的申请。
K510是目前在市面上比较少见的高精度端侧AI推理芯片,主要面向中高阶IOT的智能硬件应用领域,具备双核 64 位RISC-V CPU 以及800Mhz的 DSP 扩展,也支持FPU扩展。K510 也是市面上面非常少见的、带有 AI 算力且同时能够支持完整 Linux 应用的AI 推理芯片。
我们应该从多维度协同推进AIOT生态。RISC-V 全系列 CPU 的核心处理器的应用以及 AI 算力的长期延展和长期开源是需要坚持的核心点。只有坚持核心算力的扩展,开发者才能在芯片原厂长期推出的产品上更好地利用继承性,更好地做迭代。整体来看,可以分为以下几点:
第一,SoC算力能力的持续发展,包括由低到高的产品布局。当前AI领域在端侧变得非常泛化,面临丰富的应用场景,不同等级的智能硬件应用走进了千家万户。
第二,系统软硬件和编译工具链路的开放演进。
第三,与生态的上下游伙伴形成长期稳定的合作关系。基于稳定的产品和可迭代的软件,才能构建出稳定的生态环境。
第四,降低 AI 芯片开发者的使用门槛,加快成果的产出速度,加快商业方案导入的速度,形成正向的反馈和循环。
上图左侧为RISC-V处理器核心的性能演进,右图为KPU处理器核心的性能演进。在过去的 5 年,嘉楠科技基于RISC-V 和资源 kpu 生态的演进,提供了三代产品、10 倍以上的算力性能迭代和演进,可以满足 IoT大量生态用户不断提升的算力需要,能够开发更多样、更复杂的 AI 场景示例。
当前,所有 AI 芯片的开发都需要对应专门针对 AI 的算法模型,包括不同的机器学习框架等编译工具,才能将比较常见的 AI 模型 deploy 到AI 芯片上。
在过去的三代的产品上,我们保证了工具链前后的继承性,在保证继承性的同时也实现了对框架TF 、PyTorch 、ONNX等算法框架的支持。
系统软件方面,嘉楠科技在不同芯片平台上建立了开源工程,两代芯片产品都已在github上进行了完整开源,包括所有软件的 SDK 公共分支和开发分支,可以实时看到所有SDK 的迭代过程,轻松获取全部开发代码以及所有AI 开发示例和特殊方案的开发组件。
另外,我们也在淘宝上面向一线开发者开放了低门槛的芯片采购和开发板采购渠道。
通过和龙蜥社区以及其他上下游伙伴的长期合作,我们基于 k210 和k510 孵化出了大量第三方开发者硬件形态。
嘉楠科技构建了软硬件全栈的开源开放的生态系统,从硬件参考设计的芯片级、板级到模组级,到系统工具链、 AI 算法 demo 以及最上层的商业化Turnkey 方案,均已实现了面向用户且非常完整的软硬件协同的开源能力。在 github 上孵化了 650+开源项目,全球开发者数量超 1 万名。
庞大的开发者和爱好者基础也同样为嘉楠科技带来了商业回报。目前,我们的 210 和 510芯片累计已出货超200万颗,销往20+国家。
嘉楠科技将会在更大范围的产品线上坚持开源,与开发者和所有RISC-V 爱好者实现生态的共赢。
CanMVK210是由01Studio设计研发,基于嘉楠科技边缘计算芯片 K210(RSIC-V架构,64位双核)和CanMV开源项目的一款开发板,硬件采用一体化设计(K210核心板、摄像头、LCD集成在一个PCB上),即拿即用。该产品在上架当天即达到近1000台的销量。
K510 CRB为基于K510 CORE核心板扩展的嵌入式参考开发板(Customer Reference Board),该平台能够加速客户产品开发和导入速度,产品已于今年 5 月在淘宝店铺上线。截至目前,市场上已有五六百名开发者依托于该硬件平台实现生态的 demo 以及产品方案的开发。
K510 CRB也是目前市面上不多见的、能够在端侧支持高精度的 FP 16 算力的 AI 芯片,在做 AI demo 的开发时,可以实现训练模型到实际部署模型的低精度损失,简化开发者在开发过程中的复杂度。