依图开放AI芯片视觉计算创新平台,实现算法芯片对接「即插即用」

简介: 造芯,比以往任何时刻都更牵动人心。前有芯片技术被卡脖子多年,后有中美贸易下芯片产业链国有化势在必行。但造芯远非一日之功,这背后所牵涉到的算法技术、设计能力、数据打磨、供应链支持繁杂而深远,往往是牵一发而动全身。于是,一个能够集聚产业链各方力量并实现资源优化配置的产业平台就成为关键。

微信图片_20211202064054.jpg五个月前,依图的首颗云端视觉 AI 芯片求索(QuestCore)落地,基于依图全球领先 AI 算法以提升视觉计算的智能密度,是依图在机器视觉定制化芯片综合技术的有力检验。


但是,在推进算法和芯片融合的过程中,依图的工作人员意识到一个核心问题,软硬件对接是 AI 芯片设计过程中的难题。


「做 AI 算法的人往往不懂芯片,因此当算法开发者想把算法移植到芯片上时,通常需要芯片或硬件厂家的驻厂培训;反之亦然,芯片厂家想针对某个新的算法做优化也需要专门的对接」。依图工作人员向机器之心表示。


过于冗长的对接和沟通桥梁,将导致开发导致周期较长,更可能耽误产品上新的最佳时期。


为了解决 AI 算法和芯片对接难的难题,依图基于自身经验,提出了建立视觉计算创新平台的概念。这个平台的初版在依图的智能芯片设计、计算机视觉单点技术研究,以及视觉智能产品规划等方面发挥了积极作用。


2019 年世界人工智能大会期间,国家科技部正式宣布将依托依图科技打造「视觉计算国家新一代人工智能开放创新平台」(以下简称「视觉计算平台」),助力中国芯片设计业和人工智能的结合。


10 月 30 日,依图正式启动「AI 芯片视觉计算创新平台开放计划」,开放从底层计算硬件、算法、数据库、应用层等一整套行业应用架构。它最大的特点是「分层解耦、开放融合」,产业各方都可以根据需求模块化使用,快速落地行业应用。


从芯片到平台,成为 AI 基础设施提供商和 AI 解决方案提供商——依图的产业定位更加清晰。


重在开放,巧用解耦


没有计算就没有智能,但 AIoT 时代多元的应用场景意味着多元的算力需求,领域专用芯片(Domain Specific Architecture)变得至关重要,典型代表就是谷歌的 TPU。


这是依图科技打造首颗云端视觉推理 AI 芯片「求索」的原因,也是面向行业再迈进一步,开放视觉计算创新平台的重要原因。


微信图片_20211202064117.jpg


在行业应用整体架构看,依图的视觉计算平台主要分为 5 层,从下至上分别是:视觉计算硬件层、解析计算层、视图信息层、大规模特征索引层和业务应用层。


具体而言,在底层硬件层,依图提供芯片、模组、服务器(盒子)算力资源,如果开发者有自身的算法,依图还提供迁移工具到求索芯片,帮助算法开发者加速算法和芯片的对接过程。


在解析计算层,依图提供人像解析、人体解析、车辆识别、X 光机、视频结构化等领先的视觉算法。


在视图信息层,依图提供以图搜图、级联汇聚、数据存储和管理,支持行业视图库标准与分布式级联,解决超大规模结构化数据和突破读写问题,帮助商家快速开发部署。


大规模特征索引层是实现从感知智能到认知智能的关键一层,目前可支持 10 万路视频在 1 年内数据的秒级检索,进行各种关系的关联计算。它是行业大数据的视觉计算入口,开发者可以开发深度行业应用。


最上层是业务应用层,依图在智能城市有深度布局,已经积累下 110 个成熟行业应用,开发者可以直接使用,也可以在此基础上开发行业场景应用。


依图科技 COO 张小平总结道,这一视觉计算平台最大的特点在于「分层解耦、开放融合」。


所谓「分层解耦」,就是将平台算法层与硬件层、数据层、应用层各层之间都实现解耦,每一层都能通过接口对外提供能力,这种可插拔式的分层架构,让各方都能参与进来按需使用,大幅降低 AI 开发时间和门槛。


所谓「开放融合」,是指平台的开放性、包容性,第三方算法可以跑在依图芯片上,依图的算法也支持合作伙伴的芯片。开放能够实现算力、算法、产品的有效对接,促进创新,避免规模化造成的垄断。


在发布仪式上,依图还与伙伴共同发布了四大核心倡议,包括共同建立视觉计算软硬件协同开发标准,输出「即插即用」的智能模块开发套件,建立开源社区,以及联合高校和研究机构促进工业界和学术界双向互动。


缩短对接,加速创新


在 AIoT、智能城市的大浪潮下,算法厂商、芯片厂商、终端厂商都希望涌入这一庞大的市场,分一杯羹。


然而,在 AI 落地行业早期,仅仅是芯片与算法、技术与产品的对接就非常耗时耗力,可能导致产品开发周期较长,甚至错过产品最佳上市时期。


依图科技业务技术副总裁许源称,AI 芯片和算法对接,往往至少需要 1-2 个月,非常耗时耗力。依图希望通过视觉计算创新平台,将对接的周期降到 1-2 周甚至「即插即用」,大幅减少对接成本。


中移在线是中国移动的子公司,也是依图重要的合作伙伴。中移在线对外业务拓展中心副总经理高松介绍,2015 年在解决新入网用户的身份认证时,开启了与依图在人脸识别领域的探索,此后一直保持紧密合作,也是依图视觉计算平台的合作伙伴。


高松称,在人脸识别技术落地行业的过程中,最重要的问题是成本。大量的数据流向云端,需要大量的计算力做处理,最早 1 路摄像机的市场价高达 1~2 万,很难落地民用市场。而目前市场价已可以降到 5000 元以内。


这与依图在内的算法厂商与芯片厂商的努力有很大关系。以依图求索芯片为例,经实测结果表明,一台基于依图求索的 AI 服务器提供的算力与 8 张英伟达 P4 卡服务器相当,而体积不到 50%,功耗更是仅为后者的 20%,将数据中心整体运维成本降低了 80%,呈现出 AI 专用芯片在性能、功耗与成本上的优势。


他继续谈道,中国移动有非常多的业务,除了大家熟知的的 C 端业务、政企服务外,中国移动也在建设自身的平台。中移在线可以直接使用依图的算法,也可以灵活的整合其他家的算法,这也表现出依图平台的开放性。


依图科技业务技术副总裁许源也表示,依图不会把技术封闭起来,未来会对一些组件进行开源,也会用各种方法开放技术加速 AI 创新。

相关文章
|
3天前
|
人工智能 编解码 安全
[译][AI OpenAI-doc] 视觉
学习如何使用 GPT-4 来理解图像。具有视觉功能的 GPT-4 Turbo 允许模型接收图像并回答与之相关的问题。了解图像上传、处理、成本计算、模型限制等详细信息。
|
1月前
|
人工智能 自然语言处理 API
Google Gemma 模型服务:开放的生成式 AI 模型服务
Google Gemma 模型服务:开放的生成式 AI 模型服务
109 4
|
1月前
|
机器学习/深度学习 人工智能 TensorFlow
倚天产品介绍|倚天性能优化—YCL AI计算库在resnet50上的优化
Yitian710 作为平头哥第一代ARM通用芯片,在AI场景与X86相比,软件生态与推理性能都存在一定的短板,本文旨在通过倚天AI计算库的优化,打造适合ARM架构的软件平台,提升倚天性能
|
1月前
|
人工智能 芯片 异构计算
英伟达要小心了!爆火的Groq芯片能翻盘吗?AI推理速度「吊打」英伟达?
随着科技的飞速发展,人工智能公司Groq挑战了英伟达的王者地位,其AI芯片不仅展现出卓越的实力,还拥有巨大的潜力。Groq设计了一种独特的推理代币经济学模式,该模式背后牵动着众多因素,却也引发了深度思考:新的技术突破来自何处?中国该如何应对并抓住变革中的机遇?Groq成本如何评估?这些都是值得研究和思考的问题。
|
1月前
|
人工智能 JSON 前端开发
【Spring boot实战】Springboot+对话ai模型整体框架+高并发线程机制处理优化+提示词工程效果展示(按照框架自己修改可对接市面上百分之99的模型)
【Spring boot实战】Springboot+对话ai模型整体框架+高并发线程机制处理优化+提示词工程效果展示(按照框架自己修改可对接市面上百分之99的模型)
|
1月前
|
人工智能 安全 机器人
中科院香港创新院发布医疗健康AI大模型
【2月更文挑战第24天】中科院香港创新院发布医疗健康AI大模型
35 3
中科院香港创新院发布医疗健康AI大模型
|
11天前
|
人工智能 编解码 安全
揭秘AI幻觉:GPT-4V存在视觉编码漏洞,清华联合NUS提出LLaVA-UHD
【4月更文挑战第14天】清华大学与新加坡国立大学团队针对大型多模态模型(LMMs)在处理高分辨率图像时的局限,提出新模型LLaVA-UHD。该模型通过图像模块化、压缩和空间模式组织策略,有效提升了处理任意比例和高分辨率图像的能力。实验显示,LLaVA-UHD在9个基准测试中超越现有模型,且在TextVQA任务上准确率提升6.4%,同时训练时间更短。然而,模型训练成本高、泛化能力待优化是未来需解决的问题。
21 8
揭秘AI幻觉:GPT-4V存在视觉编码漏洞,清华联合NUS提出LLaVA-UHD
|
13天前
|
机器学习/深度学习 人工智能 算法
AI战略丨AI原生时代,应用创新蓄势待发
通过热点AI应用创新项目的观察,我们可以看到新技术的突破方向,也能发现基于生成式AI迸发出的全新商业前景落地的可能性。
AI战略丨AI原生时代,应用创新蓄势待发
|
1月前
|
人工智能 机器人 芯片
英伟达最强 AI 芯片、人形机器人模型炸场!黄仁勋放言英语将成最强大编程语言
在2024年的GTC大会上,英伟达创始人黄仁勋揭幕了新一代AI芯片Blackwell,号称是史上最强AI芯片,目标是推动AI领域的重大进步。
|
1月前
|
人工智能 算法 搜索推荐
构建未来:AI在持续学习系统中的创新应用
【2月更文挑战第30天】 本文聚焦于人工智能(AI)技术在持续学习系统(CLS)中的前沿应用,探讨了AI如何促进个体和组织的知识演进与技能提升。通过分析自适应学习算法、数据驱动的个性化推荐以及智能辅助决策支持等关键技术,揭示了AI在推动终身学习和知识管理领域的创新潜力。文章还考察了这些技术在实际部署中面临的挑战,包括数据隐私保护、算法透明度和系统集成问题,并提出了相应的解决策略。
27 3

热门文章

最新文章