依图开放AI芯片视觉计算创新平台,实现算法芯片对接「即插即用」

本文涉及的产品
全局流量管理 GTM,标准版 1个月
云解析 DNS,旗舰版 1个月
公共DNS(含HTTPDNS解析),每月1000万次HTTP解析
简介: 造芯,比以往任何时刻都更牵动人心。前有芯片技术被卡脖子多年,后有中美贸易下芯片产业链国有化势在必行。但造芯远非一日之功,这背后所牵涉到的算法技术、设计能力、数据打磨、供应链支持繁杂而深远,往往是牵一发而动全身。于是,一个能够集聚产业链各方力量并实现资源优化配置的产业平台就成为关键。

微信图片_20211202064054.jpg五个月前,依图的首颗云端视觉 AI 芯片求索(QuestCore)落地,基于依图全球领先 AI 算法以提升视觉计算的智能密度,是依图在机器视觉定制化芯片综合技术的有力检验。


但是,在推进算法和芯片融合的过程中,依图的工作人员意识到一个核心问题,软硬件对接是 AI 芯片设计过程中的难题。


「做 AI 算法的人往往不懂芯片,因此当算法开发者想把算法移植到芯片上时,通常需要芯片或硬件厂家的驻厂培训;反之亦然,芯片厂家想针对某个新的算法做优化也需要专门的对接」。依图工作人员向机器之心表示。


过于冗长的对接和沟通桥梁,将导致开发导致周期较长,更可能耽误产品上新的最佳时期。


为了解决 AI 算法和芯片对接难的难题,依图基于自身经验,提出了建立视觉计算创新平台的概念。这个平台的初版在依图的智能芯片设计、计算机视觉单点技术研究,以及视觉智能产品规划等方面发挥了积极作用。


2019 年世界人工智能大会期间,国家科技部正式宣布将依托依图科技打造「视觉计算国家新一代人工智能开放创新平台」(以下简称「视觉计算平台」),助力中国芯片设计业和人工智能的结合。


10 月 30 日,依图正式启动「AI 芯片视觉计算创新平台开放计划」,开放从底层计算硬件、算法、数据库、应用层等一整套行业应用架构。它最大的特点是「分层解耦、开放融合」,产业各方都可以根据需求模块化使用,快速落地行业应用。


从芯片到平台,成为 AI 基础设施提供商和 AI 解决方案提供商——依图的产业定位更加清晰。


重在开放,巧用解耦


没有计算就没有智能,但 AIoT 时代多元的应用场景意味着多元的算力需求,领域专用芯片(Domain Specific Architecture)变得至关重要,典型代表就是谷歌的 TPU。


这是依图科技打造首颗云端视觉推理 AI 芯片「求索」的原因,也是面向行业再迈进一步,开放视觉计算创新平台的重要原因。


微信图片_20211202064117.jpg


在行业应用整体架构看,依图的视觉计算平台主要分为 5 层,从下至上分别是:视觉计算硬件层、解析计算层、视图信息层、大规模特征索引层和业务应用层。


具体而言,在底层硬件层,依图提供芯片、模组、服务器(盒子)算力资源,如果开发者有自身的算法,依图还提供迁移工具到求索芯片,帮助算法开发者加速算法和芯片的对接过程。


在解析计算层,依图提供人像解析、人体解析、车辆识别、X 光机、视频结构化等领先的视觉算法。


在视图信息层,依图提供以图搜图、级联汇聚、数据存储和管理,支持行业视图库标准与分布式级联,解决超大规模结构化数据和突破读写问题,帮助商家快速开发部署。


大规模特征索引层是实现从感知智能到认知智能的关键一层,目前可支持 10 万路视频在 1 年内数据的秒级检索,进行各种关系的关联计算。它是行业大数据的视觉计算入口,开发者可以开发深度行业应用。


最上层是业务应用层,依图在智能城市有深度布局,已经积累下 110 个成熟行业应用,开发者可以直接使用,也可以在此基础上开发行业场景应用。


依图科技 COO 张小平总结道,这一视觉计算平台最大的特点在于「分层解耦、开放融合」。


所谓「分层解耦」,就是将平台算法层与硬件层、数据层、应用层各层之间都实现解耦,每一层都能通过接口对外提供能力,这种可插拔式的分层架构,让各方都能参与进来按需使用,大幅降低 AI 开发时间和门槛。


所谓「开放融合」,是指平台的开放性、包容性,第三方算法可以跑在依图芯片上,依图的算法也支持合作伙伴的芯片。开放能够实现算力、算法、产品的有效对接,促进创新,避免规模化造成的垄断。


在发布仪式上,依图还与伙伴共同发布了四大核心倡议,包括共同建立视觉计算软硬件协同开发标准,输出「即插即用」的智能模块开发套件,建立开源社区,以及联合高校和研究机构促进工业界和学术界双向互动。


缩短对接,加速创新


在 AIoT、智能城市的大浪潮下,算法厂商、芯片厂商、终端厂商都希望涌入这一庞大的市场,分一杯羹。


然而,在 AI 落地行业早期,仅仅是芯片与算法、技术与产品的对接就非常耗时耗力,可能导致产品开发周期较长,甚至错过产品最佳上市时期。


依图科技业务技术副总裁许源称,AI 芯片和算法对接,往往至少需要 1-2 个月,非常耗时耗力。依图希望通过视觉计算创新平台,将对接的周期降到 1-2 周甚至「即插即用」,大幅减少对接成本。


中移在线是中国移动的子公司,也是依图重要的合作伙伴。中移在线对外业务拓展中心副总经理高松介绍,2015 年在解决新入网用户的身份认证时,开启了与依图在人脸识别领域的探索,此后一直保持紧密合作,也是依图视觉计算平台的合作伙伴。


高松称,在人脸识别技术落地行业的过程中,最重要的问题是成本。大量的数据流向云端,需要大量的计算力做处理,最早 1 路摄像机的市场价高达 1~2 万,很难落地民用市场。而目前市场价已可以降到 5000 元以内。


这与依图在内的算法厂商与芯片厂商的努力有很大关系。以依图求索芯片为例,经实测结果表明,一台基于依图求索的 AI 服务器提供的算力与 8 张英伟达 P4 卡服务器相当,而体积不到 50%,功耗更是仅为后者的 20%,将数据中心整体运维成本降低了 80%,呈现出 AI 专用芯片在性能、功耗与成本上的优势。


他继续谈道,中国移动有非常多的业务,除了大家熟知的的 C 端业务、政企服务外,中国移动也在建设自身的平台。中移在线可以直接使用依图的算法,也可以灵活的整合其他家的算法,这也表现出依图平台的开放性。


依图科技业务技术副总裁许源也表示,依图不会把技术封闭起来,未来会对一些组件进行开源,也会用各种方法开放技术加速 AI 创新。

相关文章
|
11天前
|
算法 安全 大数据
【算法合规新时代】企业如何把握“清朗·网络平台算法典型问题治理”专项行动?
在数字化时代,算法推动社会发展,但也带来了信息茧房、大数据杀熟等问题。中央网信办发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》,针对六大算法问题进行整治,明确企业需落实算法安全主体责任,建立健全审核与管理制度,并对算法进行全面审查和备案。企业应积极自查自纠,确保算法合规透明,防范风险,迎接新机遇。
|
1月前
|
人工智能 自然语言处理 程序员
通义灵码2.0全新升级,AI程序员全面开放使用
通义灵码2.0来了,成为全球首个同时上线JetBrains和VSCode的AI 程序员产品!立即下载更新最新插件使用。
1936 27
通义灵码2.0全新升级,AI程序员全面开放使用
|
1月前
|
机器学习/深度学习 人工智能 安全
GLM-Zero:智谱AI推出与 OpenAI-o1-Preview 旗鼓相当的深度推理模型,开放在线免费使用和API调用
GLM-Zero 是智谱AI推出的深度推理模型,专注于提升数理逻辑、代码编写和复杂问题解决能力,支持多模态输入与完整推理过程输出。
214 24
GLM-Zero:智谱AI推出与 OpenAI-o1-Preview 旗鼓相当的深度推理模型,开放在线免费使用和API调用
|
23天前
|
人工智能 Cloud Native 安全
|
25天前
|
机器学习/深度学习 人工智能 算法
Transformer打破三十年数学猜想!Meta研究者用AI给出反例,算法杀手攻克数学难题
《PatternBoost: Constructions in Mathematics with a Little Help from AI》提出了一种结合传统搜索算法和Transformer神经网络的PatternBoost算法,通过局部搜索和全局优化交替进行,成功应用于组合数学问题。该算法在图论中的Ramsey数研究中找到了更小的反例,推翻了一个30年的猜想,展示了AI在数学研究中的巨大潜力,但也面临可解释性和通用性的挑战。论文地址:https://arxiv.org/abs/2411.00566
69 13
|
2月前
|
机器学习/深度学习 人工智能 算法
Enhance-A-Video:上海 AI Lab 推出视频生成质量增强算法,显著提升 AI 视频生成的真实度和细节表现
Enhance-A-Video 是由上海人工智能实验室、新加坡国立大学和德克萨斯大学奥斯汀分校联合推出的视频生成质量增强算法,能够显著提升视频的对比度、清晰度和细节真实性。
113 8
Enhance-A-Video:上海 AI Lab 推出视频生成质量增强算法,显著提升 AI 视频生成的真实度和细节表现
|
1月前
|
机器学习/深度学习 存储 人工智能
淘天算法工程师玩转《黑神话》,多模态大模型如何成为天命AI
淘天集团未来生活实验室的算法工程师们以ARPG游戏《黑神话:悟空》为平台,探索多模态大模型(VLM)在仅需纯视觉输入和复杂动作输出场景中的能力边界。他们提出了一种名为VARP的新框架,该框架由动作规划系统和人类引导的轨迹系统组成,成功在90%的简单和中等难度战斗场景中取得胜利。研究展示了VLMs在传统上由强化学习主导的任务中的潜力,并提供了宝贵的人类操作数据集,为未来研究奠定了基础。
|
1月前
|
人工智能 Cloud Native 大数据
云+AI开启算力新时代,共建开源开放生态赴未来 | 2024龙蜥大会主论坛
本次分享的主题是云 + AI开启算力新时代,共建开源开放生态赴未来 | 2024龙蜥大会主论坛,由阿里巴巴集团合伙人、阿里云基础设施事业部总经理蒋江伟分享。
|
1月前
|
存储 算法 安全
基于哈希表的文件共享平台 C++ 算法实现与分析
在数字化时代,文件共享平台不可或缺。本文探讨哈希表在文件共享中的应用,包括原理、优势及C++实现。哈希表通过键值对快速访问文件元数据(如文件名、大小、位置等),查找时间复杂度为O(1),显著提升查找速度和用户体验。代码示例展示了文件上传和搜索功能,实际应用中需解决哈希冲突、动态扩容和线程安全等问题,以优化性能。
|
2月前
|
人工智能 大数据 测试技术
自主和开放并举 探索下一代阿里云AI基础设施固件创新
12月13日,固件产业技术创新联盟产业峰会在杭州举行,阿里云主导的开源固件测试平台发布和PCIe Switch固件技术亮相,成为会议焦点。

热门文章

最新文章