英伟达嵌入式计算平台Jetson TX2:让神经网络走进终端设备

简介: 在近日于英伟达总部举行的 Jetson TX2 Editor's Day 活动中,英伟达向人们展示了新一代 Jetson 计算平台的强大计算能力。

随着深度学习的开创性应用,人工智能技术迎来了一轮爆发式的发展,越来越多的 AI 应用正出现在人们的视野中。然而,机器学习应用依赖于硬件强大的计算能力,在缺乏网络的场景中,机器学习能否同样为人们带来便利,当代 GPU 硬件技术的优势能否走出云端?英伟达注意到了这些需求,它已将视线转向了智能终端市场。


2015 年底,英伟达推出了 Jetson TX1 嵌入式计算平台,该公司将其称为「信用卡尺寸的超级计算设备」。Jetson 凭借小尺寸、高效率的特点逐渐吸引了大量用户,应用场景也从无人机、机器人扩展到了智能电话设备、摄像头等新领域。随着用户对性能要求的不断提高,今年 3 月 8 日,英伟达发布了新一代嵌入式计算平台 Jetson TX2,将其人工智能终端计算解决方案 Jetson 系列也带入 Pascal 架构时代。


Jetson TX2 延续了该系列小体积、高度集成的特性,在信用卡大小的尺寸上整合了 4 核 ARM A57 CPU、Pascal 架构 GPU(16 纳米工艺)、最高 8G 内存、32G 固态存储器等组件。该设备的标准功耗为 7.5W,小于 Maxwell 架构的前一代产品。另外,英伟达宣称在有必要时 Jetson TX2 也可以将功率提高到 15W,从而达到 TX1 两倍的计算能力。与 Jetson TX2 共同推出的还有英伟达为该平台设计的新版开发工具包 Jetpack 3.0。


微信图片_20211128145544.jpg


正如英伟达在 3 月的发布会上表示的,这家芯片公司正致力于培养一个嵌入式设备的新市场。对于英伟达而言,除了备受瞩目的北美科技公司,中国科技公司和开发者的地位正变得越来越重要。中国的科技公司不仅可以获得大量的用户和数据,而且还拥有独特的成长环境。「中国的科技开发环境是全球最具多样性的,」英伟达中国区高级市场总监刘念宁说道。「而在未来,不管什么样的应用场景,其前后端都将包含人工智能的应用。这就是我们在人工智能时代重视中国市场的原因。」


目前,人工智能应用的发展还处在起步阶段。每天都有很多新的应用场景出现,其中智能城市(AI CITY)是发展最快的方向之一,它也是 Jetson 嵌入式平台的完美应用场景。「预计到 2020 年,全世界将有 10 亿个智能摄像头,」英伟达软件专家李明博士表示。「这意味着巨大的计算量需求,将数据通过网络传送到云端处理会面临延迟、带宽和隐私等问题。所以,应用智能芯片在终端设备上处理机器学习任务非常重要,是人工智能实用化的关键。」


微信图片_20211128145540.jpg

在英伟达的设想中,Jetson TX2 芯片在城市安保、智能无人机、海洋观测、智能农业、工业和商用机器人等领域有着广阔的前景。在嵌入式设备的计算芯片上,他们拥有无与伦比的优势。除了高性能,低功耗等优势外,英伟达还提供了完整的开发套件(Jetpack SDK)和教程,让用户可以迅速构建属于自己的平台投入生产。


「原先没有意义的大量视频,只有在经过人工智能分析后,才能体现价值。」李明解释道。


在安保领域,海康威视是全球领先的解决方案提供商。他们在 2016 年 10 月与英伟达共同发布了基于深度学习技术从后端到前端的全系列安防产品。其双目智能人脸网络摄像机(前端)与猎鹰视频云结构化服务器(后端)都采用了英伟达的 GPU 芯片。「在使用深度学习进行身份验证、轨迹分析和人流密度检测等任务时,GPU 的处理速度比通用处理器要快几十倍,」海康威视研究院工程师王鹏表示。「英伟达从 Kepler 架构发展到 Maxwell,再到现在的 Pascal 架构,4 年时间将 GPU 的推理性能提升了 26 倍,这个速度远远超过摩尔定律。」


来自猎户星空的蒋超则为我们介绍了英伟达嵌入式计算设备在机器视觉上的能力,他所在的初创公司致力于研发机器人模块。「Jetson TX2 真正解决了 SLAM(Simultaneous Localization and Mapping,即时定位与地图构建)的计算需求,」蒋超解释道。「机器人视觉是一个延迟敏感的问题,最好的解决方式就是在本地进行计算处理。Jetson TX2 拥有强大的计算能力,在处理 720p 彩色图像时的每秒帧数可达 100 帧以上,这意味着我们可以在 TX1 的基础上进一步引入感知工具,让终端设备拥有语义理解等新能力。」


在 CEO 黄仁勋的带领下,英伟达在人工智能计算设备的发展道路上一直处于领先地位,GPU 已经成为了几乎所有深度学习应用的标配。英伟达的发展速度令其竞争对手感受到了压力。4 月 17 日,全球最大的芯片供应商英特尔也宣布公司发展路线面临重大转型,其每年在旧金山举行的 IDF(Intel Developers Forum)将停止举办,而公司的发展方向将改变为人工智能、物联网、Optane 和自动驾驶。


微信图片_20211128145535.jpg

3月底,英伟达中国将总部迁入了位于财富金融中心的新址,使用面积扩展了超过一倍。目前,英伟达正在不断招募人才,扩充其深度学习工程师团队。


英伟达把 Jetson 形容为一款开放式计算平台,无论企业、初创公司、研究人员或高中生,任何人都能使用并借助它为终端应用开发全新的人工智能解决方案。


人工智能应用的时代才刚刚开始,还有很多新的场景等待我们的发现。我们可以预料到,在未来智能硬件的舞台上,英伟达必将扮演重要的角色。 微信图片_20211128145531.jpg

相关实践学习
部署Stable Diffusion玩转AI绘画(GPU云服务器)
本实验通过在ECS上从零开始部署Stable Diffusion来进行AI绘画创作,开启AIGC盲盒。
相关文章
|
24天前
|
NoSQL 关系型数据库 MySQL
《docker高级篇(大厂进阶):4.Docker网络》包括:是什么、常用基本命令、能干嘛、网络模式、docker平台架构图解
《docker高级篇(大厂进阶):4.Docker网络》包括:是什么、常用基本命令、能干嘛、网络模式、docker平台架构图解
150 56
《docker高级篇(大厂进阶):4.Docker网络》包括:是什么、常用基本命令、能干嘛、网络模式、docker平台架构图解
|
8天前
|
Ubuntu Linux 开发者
Ubuntu20.04搭建嵌入式linux网络加载内核、设备树和根文件系统
使用上述U-Boot命令配置并启动嵌入式设备。如果配置正确,设备将通过TFTP加载内核和设备树,并通过NFS挂载根文件系统。
46 15
|
7天前
|
运维 监控 Cloud Native
构建深度可观测、可集成的网络智能运维平台
本文介绍了构建深度可观测、可集成的网络智能运维平台(简称NIS),旨在解决云上网络运维面临的复杂挑战。内容涵盖云网络运维的三大难题、打造云原生AIOps工具集的解决思路、可观测性对业务稳定的重要性,以及产品发布的亮点,包括流量分析NPM、网络架构巡检和自动化运维OpenAPI,助力客户实现自助运维与优化。
|
6天前
|
存储 监控 安全
网络设备日志记录
网络设备日志记录是追踪设备事件(如错误、警告、信息活动)的过程,帮助IT管理员进行故障排除和违规后分析。日志详细记录用户活动,涵盖登录、帐户创建及数据访问等。为优化日志记录,需启用日志功能、管理记录内容、区分常规与异常活动,并使用专用工具进行事件关联和分析。集中式日志记录解决方案可收集并统一管理来自多种设备和应用的日志,提供简化搜索、安全存储、主动监控和更好的事件可见性,增强网络安全。常用工具如EventLog Analyzer能灵活收集、存储和分析日志,确保高效管理。
|
1月前
|
5G 数据安全/隐私保护
如果已经链接了5Gwifi网络设备是否还能搜索到其他5Gwifi网络
当设备已经连接到一个5G Wi-Fi网络时,它仍然有能力搜索和发现其他可用的5G Wi-Fi网络。这里所说的“5G Wi-Fi”通常指的是运行在5GHz频段的Wi-Fi网络,而不是与移动通信中的5G网络(即第五代移动通信技术)混淆。
|
2月前
|
网络协议 安全 文件存储
动态DNS(DDNS)技术在当前网络环境中日益重要,它允许使用动态IP地址的设备通过固定域名访问
动态DNS(DDNS)技术在当前网络环境中日益重要,它允许使用动态IP地址的设备通过固定域名访问,即使IP地址变化,也能通过DDNS服务保持连接。适用于家庭网络远程访问设备及企业临时或移动设备管理,提供便捷性和灵活性。示例代码展示了如何使用Python实现基本的DDNS更新。尽管存在服务可靠性和安全性挑战,DDNS仍极大提升了网络资源的利用效率。
89 6
|
2月前
|
存储 网络性能优化 网络虚拟化
局域网络设备
网卡、中继器、集线器、网桥和交换机是网络通信中的关键设备。网卡实现计算机与网络的连接,中继器用于延长网络传输距离,集线器将多台设备连接至共享网络,网桥通过MAC地址转发数据,而交换机提供高性能的数据转发和过滤服务,支持VLAN、QoS等功能,适用于不同规模的网络环境。
52 3
|
2月前
|
网络协议 安全 网络安全
|
2月前
|
网络虚拟化 数据安全/隐私保护 数据中心
对比了思科和华为网络设备的基本配置、接口配置、VLAN配置、路由配置、访问控制列表配置及其他重要命令
本文对比了思科和华为网络设备的基本配置、接口配置、VLAN配置、路由配置、访问控制列表配置及其他重要命令,帮助网络工程师更好地理解和使用这两个品牌的产品。通过详细对比,展示了两者的相似之处和差异,强调了持续学习的重要性。
68 2
|
24天前
|
SQL 安全 网络安全
网络安全与信息安全:知识分享####
【10月更文挑战第21天】 随着数字化时代的快速发展,网络安全和信息安全已成为个人和企业不可忽视的关键问题。本文将探讨网络安全漏洞、加密技术以及安全意识的重要性,并提供一些实用的建议,帮助读者提高自身的网络安全防护能力。 ####
62 17