超算Titan仅用一天生成AI神经网络,顶尖人类科学家则需数月

简介: 美国能源部橡树岭国家实验室利用超级计算机Titan,开发出一种人工智能系统,一天之内就能生成神经网络。而最聪明的数据科学家也需要好几个月才能开发出一个深度学习软件。即使是Google的AutoML,也需要数周的时间才能设计出一个优秀的图像识别系统。

美国能源部橡树岭国家实验室(下称ORNL)利用美国功能最强大的超级计算机,开发出一种人工智能系统,一天之内就能生成神经网络,而且比任何人类都做得更好。

即使是最聪明的数据科学家也需要好几个月才能开发出深度学习软件。即使是Google的AutoML,也需要数周的时间才能设计出一个优秀的图像识别系统。

利用超算,AI能在一天之内生成神经网络

橡树岭国家实验室(ORNL)的超级计算机Titan,拥有超过18,000个GPU。

7accbbef86dc5be7ff629fde0e09204d1af7fbd1

ORNL研究小组的算法叫做MENNDL,即深度学习的多节点进化神经网络。这个算法并不是用来创建那种收集可爱猫咪照片的AI系统。相反,MENNDL是测试和训练数以千计的潜在神经网络的工具,以处理特殊的科学问题。

ORNL的博士后研究员Steven Young指出,这就需要采取与Google和Facebook的 AI平台不同的方法。

他解释说:“我们发现那些(神经网络)通常不是许多问题的最优网络,因为我们的数据虽然可以被认为是图像,却其实是不同的。 这些图像和问题,与物体检测有很大不同。”

论文摘要

该研究团队发表了一篇名为Optimizing deep learning hyper-parameters through an evolutionary algorithm的论文。以下是论文摘要:

由于深度学习具有相对自动特征生成和高精度分类能力,近来在成像和语音应用中取得了许多成功。虽然这些模型通过数据驱动的方法学习参数,但通过超参数选择的模型选择(作为架构构造)仍然是单调乏味且高度直觉驱动的任务。为了解决这个问题,我们提出了多节点深度学习的进化神经网络(MENNDL),作为一种通过遗传算法进行超参数优化来实现计算集群网络选择自动化的方法。

75727cb1b83e2edfde71dcc8f26e81653955726a

论文地址:https://www.ornl.gov/content/optimizing-deep-learning-hyper-parameters-through-evolutionary-algorithm

应用案例

MENNDL曾应用在费米国家加速器实验室的粒子物理实验中。费米实验室的研究人员对中微子和高能亚原子粒子很感兴趣,这些粒子很少与正常物质相互作用,但可能是理解宇宙形成早期的关键。费米实验室的一个实验涉及到一种中微子相互作用的“快照”。

该团队想用AI系统对费米实验室的探测器数据进行分析和分类。 MENNDL在24小时内评估了500,000个神经网络。其最终解决方案优于人类科学家开发的定制模型。

在另一个涉及与孟菲斯圣裘德儿童研究医院合作的案例中,MENNDL把人类设计算法在脑组织三维电子显微镜图像内线粒体识别错误率减少了30%。

Young表示:“我们的AI能够在很短的时间内为特定的数据集设计网络,而且比人类做得更好。”

MENNDL能够定义最优超参数来处理特定的数据集,这使它脱颖而出。

“你并不总是需要一个庞大的网络。有时你只需要一个具有正确超参数的小型网络,”Young说。

项目展示

研究项目展示地址:http://ornlcda.github.io/MLHPC2015/presentations/4-Steven.pdf

e9a20d2f94f9c2ee816f9456d7c7daee04510d81

下个超算将更强大

ORNL的团队预计,实验室的下一个超级计算机Summit明年上线时,可能会产生更大的影响。虽然Summit只拥有4600个节点,但它将采用Nvidia最新最强的GPU和IBM的CPU。这意味着Summit将提供超过世界第五超算Titan的五倍以上的计算性能。

Young说:“Summit将以更快的速度解决更复杂的问题。”


原文发布时间为:2018-01-04

本文作者:Cecilia

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”微信公众号

原文链接:超算Titan仅用一天生成AI神经网络,顶尖人类科学家则需数月

相关文章
|
1月前
|
机器学习/深度学习 人工智能 安全
构建未来:AI驱动的自适应网络安全防御系统
【2月更文挑战第15天】 在数字化时代,网络安全已成为全球关注的焦点。传统的安全防御手段在面对日益复杂的网络威胁时显得捉襟见肘。本文将探讨如何利用人工智能(AI)技术构建一个自适应的网络安全防御系统。该系统能够实时分析网络流量,自动识别和响应潜在威胁,从而提供一种更加动态和灵活的安全保护机制。通过深度学习算法的不断进化,这种系统能够预测和适应新型攻击模式,显著提高防御效率和准确性。
|
3月前
|
人工智能 网络协议 安全
【利用AI让知识体系化】简要了解网络七层协议(二)
【利用AI让知识体系化】简要了解网络七层协议
|
3月前
|
人工智能 网络协议 数据安全/隐私保护
【利用AI让知识体系化】简要了解网络七层协议(一)
【利用AI让知识体系化】简要了解网络七层协议
|
3月前
|
机器学习/深度学习 人工智能 安全
【AI 现况分析】AI在网络安全领域中的应用
【1月更文挑战第27天】【AI 现况分析】AI在网络安全领域中的应用
|
8月前
|
机器学习/深度学习 人工智能 自然语言处理
神经网络优化:提高AI模型性能的策略
神经网络优化是确保人工智能模型性能达到最佳的关键步骤。通过选择合适的激活函数、优化器和正则化技术,可以提高神经网络模型的准确度和泛化能力。随着深度学习领域的不断发展,神经网络优化策略也将不断进化,为人工智能技术带来更多的突破和创新。
232 1
神经网络优化:提高AI模型性能的策略
|
6天前
|
机器学习/深度学习 人工智能 运维
构建未来:AI驱动的自适应网络安全防御系统
【4月更文挑战第7天】 在数字时代的浪潮中,网络安全已成为维系信息完整性、保障用户隐私和确保商业连续性的关键。传统的安全防御策略,受限于其静态性质和对新型威胁的响应迟缓,已难以满足日益增长的安全需求。本文将探讨如何利用人工智能(AI)技术打造一个自适应的网络安全防御系统,该系统能够实时分析网络流量,自动识别并响应未知威胁,从而提供更为强大和灵活的保护机制。通过深入剖析AI算法的核心原理及其在网络安全中的应用,我们将展望一个由AI赋能的、更加智能和安全的网络环境。
24 0
|
26天前
|
机器学习/深度学习 人工智能 算法
构建未来:AI驱动的自适应网络安全防御系统
【2月更文挑战第27天】 在数字化进程加速的背景下,网络安全威胁日益增长,传统的安全防御机制逐渐显得力不从心。本文提出一种基于人工智能技术的自适应网络安全防御系统架构,旨在通过实时分析网络行为和自动调整防御策略来应对复杂多变的网络攻击。该系统利用机器学习算法对异常行为进行检测与分类,并结合深度学习技术实现攻击模式的预测和响应策略的动态优化。文章详细阐述了系统的设计理念、关键技术以及预期效能,展望了AI技术在网络安全领域应用的未来趋势。
|
1月前
|
机器学习/深度学习 人工智能 机器人
Meta首席科学家Yann LeCun:AI毁灭人类的概率为零
【2月更文挑战第22天】Meta首席科学家Yann LeCun:AI毁灭人类的概率为零
13 2
Meta首席科学家Yann LeCun:AI毁灭人类的概率为零
|
3月前
|
机器学习/深度学习 人工智能 资源调度
AI【基础 01】神经网络基础知识(不断进行补充整理)
神经网络基础知识(不断进行补充整理)
59 2
|
4月前
|
机器学习/深度学习 存储 人工智能
AI学术交流——“人工智能”和“神经网络学习”
AI学术交流——“人工智能”和“神经网络学习”
52 0