2022云栖精选-RISC-V边缘AI芯片的开源生态和应用落地

简介: 何含嘉楠科技

lQLPJxbcF2cqNBvMiM0FeLCMz4ifcSGHeANpqgFLAEAA_1400_136.png

image.png

上图为当前市面上较为典型的边缘 AI SoC 芯片基本框架。加入了 AI NPU 加速器单元后, AI算法的处理以及前后的数据加速,使其相较于传统的 SoC 芯片具备了更高的设计复杂度,各个模块之间需要相互协同生态推广开发难度也越来越高

image.png

当前,芯片开发者最常面临的困境:比如无法通过便捷的渠道购买到芯片,如何选择合适的芯片平台,如何从原厂获得完整的数据文件包括竞争力手册文档等。另外,使用过程中发现的问题也难以向芯片原厂反馈,工作成果无法沉淀共享。

因此,开发者们都希望能有一个对开发者长期友好的芯片厂商,能有一个特别乐意开源开放的芯片厂商。而嘉楠科技在过去三年里,一直在方面积极地努力。

image.png

嘉楠科技公司的定位是数字新基建算力提供商。2016 年开始启动 AI 业务线的研发2018作为业内首家交付了基于RISC-V 架构的第一颗 AI 产品K210第一代 AI 芯片的神经网络加速器达到 1 tops/w出色能效比。

image.png

上图为嘉楠勘智 AI 业务线的整体 roadmap 2018 年推出 k210 后, 2021 7 月推出了面向专业 AIoT 领域的 k510 最高具备2.45T kpu 算力,RISC-V 核心也提升双核 800M,配有 800MP扩展,支持2 1080p 的摄像头输入。

明年即将推出 K230,相对于前两代产品,在整体计算性能上会有 3-5 倍提升。

蓝色部分为未来我们将针对消费 IOT专业 IOT 和边缘计算三个领域的IOT分支。

image.png

K210是全球首款RISC-V 架构的商用边缘 AI 芯片目前已经完成了对主流嵌入式 OS 的应用,包括 LinuxRTT-RTOSFREE-RTOS等。对主流的深度学习框架也通过不断迭代实现了较为完整的支持。2020 4 月, Linux 通过了 k210 加入 Linux 内核的申请。

image.png

K510是目前在市面上比较少见的高精度端侧AI推理芯片主要面向中高阶IOT的智能硬件应用领域具备双核 64 RISC-V CPU 以及800Mhz DSP 扩展,也支持FPU扩展。K510 也是市面上面非常少见的、带有 AI 算力且同时能够支持完整 Linux 应用的AI 推理芯片。

image.png

我们应该从多维度协同推进AIOT生态。RISC-V 全系列 CPU 的核心处理器的应用以及 AI 算力的长期延展和长期开源是需要坚持的核心点。只有坚持核心算力的扩展,开发者才能在芯片原厂长期推出的产品上更好地利用继承性,更好地做迭代整体来看,可以分为以下几点:

第一,SoC算力能力的持续发展,包括由低到高的产品布局。当前AI领域在端侧得非常泛化,面临丰富的应用场景,不同等级的智能硬件应用走进了千家万户。

第二,系统软硬件和编译工具链路的开放演进。

第三,生态的上下游伙伴形成长期稳定的合作关系。基于稳定的产品可迭代的软件,才能构建出稳定的生态环境。

第四,降低 AI 芯片开发者使用门槛,加快成果的产出速度,加快商业方案导入的速度,形成正向的反馈和循环。

image.png

上图左侧为RISC-V处理器核心的性能演进,右图为KPU处理器核心的性能演进。在过 5 年,嘉楠科技基于RISC-V 和资源 kpu 生态的演进,提供了三代产品10 倍以上的算力性能迭代和演进,可以满足 IoT大量生态用户不断提升的算力需要,能够开发更多样、更复杂的 AI 场景示例

image.png

当前,所有 AI 芯片的开发都需要对应专门针对 AI 的算法模型,包括不同的机器学习框架编译工具,才能比较常见的 AI 模型 deploy AI 芯片上。

在过的三代的产品我们保证了工具链前后的继承性,在保证继承性的同时也实现了对框架TF PyTorch ONNX算法框架的支持。

image.png

系统软件方面,嘉楠科技在不同芯片平台上建立开源工程两代芯片产品都已github上进行了完整开源,包括所有软件的 SDK 公共分支和开发分支可以实时看到所有SDK 的迭代过程,轻松获取全部开发代码以及所有AI 开发示例特殊方案的开发组件。

另外,我们也在淘宝上面向一线开发者开放了低门槛的芯片采购和开发采购渠道。

image.png

通过和龙蜥社区以及其他上下游伙伴的长期合作,我们基于 k210 k510 孵化出了大量第三方开发者硬件形态。

image.png

嘉楠科技构建了软硬件全栈的开源开放的生态系统从硬件参考设计芯片级、板级到模组级,到系统工具链 AI 算法 demo 以及最上层的商业化Turnkey 方案,均已实现了面向用户非常完整的软硬件协同的开源能力 github 上孵化了 650+开源项目,全球开发者数量超 1 万名。

庞大的开发者和爱好者基础也同样为嘉楠科技带来了商业回报。目前,我们的 210 510芯片累计已出货超200万颗,销往20+国家。

嘉楠科技将会在更大范围的产品线上坚持开源开发者和所有RISC-V 爱好者实现生态的共赢。

image.png

CanMVK210是由01Studio设计研发,基于嘉楠科技边缘计算芯片 K210(RSIC-V架构,64位双核)CanMV开源项目的一款开发板,硬件采用一体化设计(K210核心板、摄像头、LCD集成在一个PCB),即拿即用。该产品在上架当天即达到近1000台的销量。

image.png

K510 CRB为基于K510 CORE核心板扩展的嵌入式参考开发板(Customer Reference Board),该平台能够加速客户产品开发和导入速度产品已于今年 5 月在淘宝店铺上线。截至目前市场上已有五六百名开发者依托于该硬件平台实现生态的 demo 以及产品方案的开发。

K510 CRB也是目前市面上不多见的、能够在端侧支持高精度的 FP 16 算力的 AI 芯片在做 AI demo 的开发时,可以实现训练模型到实际部署模型的低精度损失,简化开发者在开发过程中的复杂度。

lQLPJxbcF2cqM2TM-M0CnrCgW_7LDpyh1wNpqgFKAPsA_670_248.png

相关文章
|
11天前
招募!阿里云x魔搭社区发起Create@AI创客松邀你探索下一代多维智能体应用
招募!阿里云x魔搭社区发起Create@AI创客松邀你探索下一代多维智能体应用
261 0
|
11天前
|
人工智能 自然语言处理 开发者
AIGC创作活动 | 跟着UP主秋葉一起部署AI视频生成应用!
本次AI创作活动由 B 站知名 AI Up 主“秋葉aaaki”带您学习在阿里云 模型在线服务(PAI-EAS)中零代码、一键部署基于ComfyUI和Stable Video Diffusion模型的AI视频生成Web应用,快速实现文本生成视频的AI生成解决方案,帮助您完成社交平台短视频内容生成、动画制作等任务。制作上传专属GIF视频,即有机会赢取乐歌M2S台式升降桌、天猫精灵、定制保温杯等好礼!
|
15天前
|
人工智能 程序员 数据处理
AI如何重塑软件开发生态
AI如何重塑软件开发生态
29 12
|
6天前
|
机器学习/深度学习 人工智能 算法
AI战略丨AI原生时代,应用创新蓄势待发
通过热点AI应用创新项目的观察,我们可以看到新技术的突破方向,也能发现基于生成式AI迸发出的全新商业前景落地的可能性。
AI战略丨AI原生时代,应用创新蓄势待发
|
7天前
|
机器学习/深度学习 数据采集 人工智能
|
9天前
|
机器学习/深度学习 人工智能 搜索推荐
AI在医疗领域的革命性应用
医疗行业一直是人类关注的重点领域之一,而随着人工智能技术的快速发展,AI在医疗领域的应用正带来革命性的变革。本文将探讨AI在医疗中的重要作用,以及其对诊断、治疗和医疗管理的影响。
24 0
|
10天前
|
人工智能 NoSQL atlas
如何用MongoDB Atlas和大语言模型,高效构建企业级AI应用?
利用生成式 AI 强化应用程序为客户打造令人叹服、真正差异化的体验意味着将人工智能建立在事实的基础之上
1575 0
|
12天前
|
Web App开发 人工智能
阿里放大招了!“通义听悟”确实有点新意了,为国产AI大模型打响应用第一枪
阿里放大招了!“通义听悟”确实有点新意了,为国产AI大模型打响应用第一枪
55 3
阿里放大招了!“通义听悟”确实有点新意了,为国产AI大模型打响应用第一枪
|
21天前
|
机器学习/深度学习 数据采集 人工智能
AI技术在医疗诊断中的应用与挑战
在当今信息时代,人工智能技术已经在医学领域展现出巨大的潜力和前景。本文将探讨人工智能在医疗诊断中的应用现状和未来发展,以及所面临的挑战和解决方案。
|
23天前
|
机器学习/深度学习 人工智能 搜索推荐
未来趋势:AI技术在医疗领域的应用与挑战
随着人工智能技术的迅速发展,AI在医疗领域的应用正逐渐成为现实。本文将探讨AI技术在医疗中的潜力与挑战,分析其对医疗行业的影响以及未来发展趋势。