ARM放大招发布Trillium项目:包含神经网络软件库和两种AI处理器

简介: 90% 的 AI 设备都是用 Arm 的架构设计的,现在 Arm 在人工智能领域厚积薄发,发布了 Trillium 项目,包括一款为移动设备而设计的机器学习处理器、一款目标检测处理器和一个神经网络软件库。

微信图片_20211129155235.jpg

现在 90% 的 AI 设备都是基于 Arm 架构开发的,Arm 是一家英国芯片知识产权提供商,以 CPU 和 GPU 处理器而被熟知。为了提高机器学习的影响力,今天这家公司宣布了 Trillium 项目,包括一个机器学习处理器、一个目标检测处理器,和一个神经网络软件库的 Arm IP 套件。


Trillium 项目是这家公司在人工智能领域极富雄心的一次举措,通过集成设计提升 AI 设备的效率和性能,预计到 2028 年,这些设备的数量将从现在的 3 亿增长到 32 亿。


Arm 在机器学习领域的努力可以追溯到 2013 年,那时它开始探索 AI 市场并实施了一系列的战略收购。2017 年,这家公司宣布建立机器学习事业群,并任命 Jem Davies 担任总经理。在一次独家专访中,Davies 告诉 Synced 他认为「没有一个细分市场还没有或者不会被 AI 所冲击」。


AI 几乎影响所有……手机、相机、智能音箱,甚至温度控制器。谁会想到房间温度控制器是一个智能装置呢?Davies 说。


今天发布的机器学习芯片是 Arm 的第一代针对移动设备推断的 AI 芯片。该芯片使移动设备每平方毫米的运算性能不低于每秒 4.6 万亿次,在现实优化应用中实现 2 到 4 倍的吞吐量提升,以及在热度和能耗有限的环境里也能够实现超过 3 TOPs/W 的效率。


Davies 说其机器学习处理器背后的架构是全新的,根植于多年的研究成果。该架构为 16 位整数运算进行了优化。


新架构将为 CPU 和 GPU 遇到的挑战提供解决方案,Davies 说。「卷积神经网络非常普遍。重点是传统架构,不管是 CPU、GPU 还是 DSP,都要进行大量中间结果存储和加载。因此,我们生产了一种全新的架构,该架构使用智能存储系统。」


目标检测处理器是基于 Arm 现有的 IP 族 Spirit 的迭代。Spirit 是主导 Hive 安防摄像头的目标检测加速器,于 2016 年 Arm 收购 Apical 后不久发布,Apical 是一家为超过 15 亿设备提供计算机视觉和图像处理器的公司。


Arm 的第二代处理器可以全高清、60fps 实时检测无限数量的目标。其详细的人体模型提供了丰富的元数据,使方向、轨迹、姿势和动作检测成为可能。


Arm 提供集成解决方案,包括机器学习处理器和目标检测处理器。在实时目标识别任务中,目标检测处理器首先分离出感兴趣区域,比如人脸。这样,机器学习处理器就能够分析更少的像素,以实现更快、更精细的结果。


微信图片_20211129155302.jpg

Arm 的组合解决方案。


Arm 的神经网络库是一系列图像、视觉和机器学习工作负载构造块的集合。开发者可使用该软件,以及 Arm 现有的实现工具,如加速算法和应用的 Compute Library,或最大化边缘设备上性能的 CMSIS-NN。该库支持主流框架,如 TensorFlow、Caffe,且已经为 Arm Cortex CPU、Mali GPU 和新型机器学习处理器进行了优化。


Arm 机器学习处理器将于今夏发售,目标检测处理器将于本季度末上市。


相关实践学习
在云上部署ChatGLM2-6B大模型(GPU版)
ChatGLM2-6B是由智谱AI及清华KEG实验室于2023年6月发布的中英双语对话开源大模型。通过本实验,可以学习如何配置AIGC开发环境,如何部署ChatGLM2-6B大模型。
相关文章
|
2月前
|
存储 人工智能 Java
AI 超级智能体全栈项目阶段二:Prompt 优化技巧与学术分析 AI 应用开发实现上下文联系多轮对话
本文讲解 Prompt 基本概念与 10 个优化技巧,结合学术分析 AI 应用的需求分析、设计方案,介绍 Spring AI 中 ChatClient 及 Advisors 的使用。
1127 133
AI 超级智能体全栈项目阶段二:Prompt 优化技巧与学术分析 AI 应用开发实现上下文联系多轮对话
|
2月前
|
存储 人工智能 Java
AI 超级智能体全栈项目阶段三:自定义 Advisor 与结构化输出实现以及对话记忆持久化开发
本文介绍如何在Spring AI中自定义Advisor实现日志记录、结构化输出、对话记忆持久化及多模态开发,结合阿里云灵积模型Qwen-Plus,提升AI应用的可维护性与功能性。
608 125
AI 超级智能体全栈项目阶段三:自定义 Advisor 与结构化输出实现以及对话记忆持久化开发
|
2月前
|
人工智能 Java API
AI 超级智能体全栈项目阶段一:AI大模型概述、选型、项目初始化以及基于阿里云灵积模型 Qwen-Plus实现模型接入四种方式(SDK/HTTP/SpringAI/langchain4j)
本文介绍AI大模型的核心概念、分类及开发者学习路径,重点讲解如何选择与接入大模型。项目基于Spring Boot,使用阿里云灵积模型(Qwen-Plus),对比SDK、HTTP、Spring AI和LangChain4j四种接入方式,助力开发者高效构建AI应用。
1336 122
AI 超级智能体全栈项目阶段一:AI大模型概述、选型、项目初始化以及基于阿里云灵积模型 Qwen-Plus实现模型接入四种方式(SDK/HTTP/SpringAI/langchain4j)
|
2月前
|
人工智能 测试技术 项目管理
测试不再碎片化:AI智能体平台「项目资料套件」功能上线!
在实际项目中,需求文档分散、整理费时、测试遗漏等问题常困扰测试工作。霍格沃兹推出AI智能体测试平台全新功能——项目资料套件,可将多个关联文档打包管理,并一键生成测试用例,提升测试完整性与效率。支持套件创建、文档关联、编辑删除及用例生成,适用于复杂项目、版本迭代等场景,助力实现智能化测试协作,让测试更高效、更专业。
|
3月前
|
人工智能 IDE 开发工具
通义灵码 AI IDE使用体验(3)项目优化及bug修复
本文介绍了使用通义灵码 AI IDE进行项目重构与优化的全过程,涵盖页面调整、UI更新、功能修复等内容,并展示了多次优化后的成果与仍存在的问题。
342 0
|
2月前
|
人工智能 关系型数据库 数据库
公募REITs专属AI多智能体查询分析项目
公募REITs专属AI多智能体查询分析项目。本项目是基于 OpenAI Agent 框架的多智能体项目,提供二级市场数据查询分析、招募说明书内容检索、公告信息检索、政策检索等多板块查询服务。支持图标绘制、文件生成。
公募REITs专属AI多智能体查询分析项目
|
2月前
|
机器学习/深度学习 缓存 算法
2025年华为杯A题|通用神经网络处理器下的核内调度问题研究生数学建模|思路、代码、论文|持续更新中....
2025年华为杯A题|通用神经网络处理器下的核内调度问题研究生数学建模|思路、代码、论文|持续更新中....
388 1
|
1月前
|
人工智能 小程序 搜索推荐
【一步步开发AI运动APP】十二、自定义扩展新运动项目2
本文介绍如何基于uni-app运动识别插件实现“双手并举”自定义扩展运动,涵盖动作拆解、姿态检测规则构建及运动分析器代码实现,助力开发者打造个性化AI运动APP。
|
3月前
|
人工智能 自然语言处理 负载均衡
排期延误预警:用AI预测项目风险的3层模型搭建教程
本文介绍了如何通过 AI 智能排期将项目排期误差减少 40% 以上。文章剖析了传统排期中常见的经验依赖、资源冲突、需求变更和进度滞后四大痛点,提出 AI 排期的三步落地方法:历史数据建模、动态适配需求、资源智能匹配,并推荐适配不同团队的 AI 排期工具。强调 AI 是辅助而非替代,核心在于用数据驱动提升排期准确性,帮助团队告别“拍脑袋估期”,实现高效、可控的项目管理。
排期延误预警:用AI预测项目风险的3层模型搭建教程
|
3月前
|
人工智能 自然语言处理 JavaScript
Github又一AI黑科技项目,打造全栈架构,只需一个统一框架?
Motia 是一款现代化后端框架,融合 API 接口、后台任务、事件系统与 AI Agent,支持 JavaScript、TypeScript、Python 多语言协同开发。它提供可视化 Workbench、自动观测追踪、零配置部署等功能,帮助开发者高效构建事件驱动的工作流,显著降低部署与运维成本,提升 AI 项目落地效率。
339 0

热门文章

最新文章