AI版进化论上演?遵循适者生存,几天内复现数十年AI研究轨迹

简介: AI可以自我进化了?的确,谷歌的计算机科学家Quoc Le和他的同事们开发了一个名为AutoML-Zero的AI程序,借用了达尔文进化论以及“适者生存”的概念,在没有人类输入的情况下,它可以一代又一代地改进。

云栖号资讯:【点击查看更多行业资讯
在这里您可以找到不同行业的第一手的上云资讯,还在等什么,快来!

image

AI可以自我进化了?

的确,谷歌的计算机科学家Quoc Le和他的同事们开发了一个名为AutoML-Zero的AI程序,借用了达尔文进化论以及“适者生存”的概念,在没有人类输入的情况下,它可以一代又一代地改进。

这个程序在短短几天内就复现了数十年的人工智能研究,甚至还自行“发明”了神经网络。它的设计者认为,有一天,它可能会发现研究AI的新方法。

构建AI算法需要时间

以神经网络为例,它是一种常见的机器学习方法,用于翻译语言和驾驶汽车。这些网络松散地模仿了大脑的结构,并通过改变人工神经元之间的连接强度从训练数据中学习。更小的神经亚回路执行特定的任务——例如识别路标——研究人员可以花几个月的时间研究如何将它们连接起来,使它们无缝地工作。

近年来,科学家们通过将一些步骤自动化而加快了这一过程。但这些程序仍然依赖于将人类设计的现成电路拼接在一起。这意味着输出仍然受到工程师的想象力和他们现有偏见的限制。

image
相关链接:

https://www.sciencemag.org/news/2019/07/no-coding-required-companies-make-it-easier-ever-scientists-use-artificial-intelligence

因此,谷歌的计算机科学家Quoc Le和他的同事们开发了这个名为AutoML-Zero的程序,它可以在有效的零人为输入的情况下开发人工智能程序,只使用高中生会知道的基本数学概念。Le说:“我们的最终目标是开发出连研究人员都找不到的新型机器学习概念。”

这个AI程序使用宽松近似来发现算法

它首先通过随机组合数学运算来创建100个候选算法。然后在一个简单的任务上测试他们,比如一个图像识别问题,在这个问题上,它必须决定一幅画上是猫还是卡车。

在每个循环中,程序将算法的性能与手工设计的算法进行比较。通过随机替换、编辑或删除一些代码来“突变”顶级算法的副本,从而创建最佳算法的细微变化。这些“儿童”被添加到人口中,而较老的项目被淘汰。一个循环的圆不断重复着。

该系统一次创建了数千个这样的种群,这使得它可以在一秒钟内处理数万个算法,直到找到一个好的解决方案。该程序还使用一些技巧来加快搜索速度,比如偶尔在种群之间交换算法以防止任何进化死胡同,以及自动清除重复的算法。

Le和他的同事们向未知领域迈出了一大步

在上个月arXiv上发表的一篇预印本论文中,研究人员指出,该方法可能会偶然发现许多经典的机器学习技术,包括神经网络。Le承认,与当今最先进的算法相比,这些解决方案很简单,但他表示,这项工作是原理的证明,他乐观地认为,可以将其扩展到创建更复杂的人工智能。

相关论文:
https://arxiv.org/abs/2003.03384

尽管如此,艾恩德霍芬科技大学(the Eindhoven University of Technology)的计算机科学家Joaquin Vanschoren认为,这种方法要与最先进的技术相抗衡还需要一段时间。他说,有一件事可以改进这个程序,那就是不要让它从头开始,而是用人类已经发现的一些技巧和技术来播种它。“我们可以用机器学习的概念来启动这个泵。”

这是Le计划要做的事情。他补充道,有希望专注于更小的问题而不是整个算法。他的团队在4月6日发表了另一篇关于arXiv的论文,该论文使用了类似的方法重新设计了许多神经网络中常用的现成组件。

image

相关论文:
https://arxiv.org/abs/2004.02967

但Le也认为,增加库中的数学运算数量,并为该程序投入更多的计算资源,可能会让它发现全新的人工智能能力。“这是我们真正热衷的方向,”他说。“要发现一些人类需要很长时间才能发现的真正基础的东西。”

“当大多数人还在蹒跚学步时,他们已经向未知领域迈出了一大步,”没有参与这项研究的得克萨斯大学奥斯汀分校(University of Texas, Austin)计算机科学家里Risto Miikkulainen称,“这是一篇可以启动未来大量研究的论文。”

相关报道:
https://www.sciencemag.org/news/2020/04/artificial-intelligence-evolving-all-itself

【云栖号在线课堂】每天都有产品技术专家分享!
课程地址:https://yqh.aliyun.com/live

立即加入社群,与专家面对面,及时了解课程最新动态!
【云栖号在线课堂 社群】https://c.tb.cn/F3.Z8gvnK

原文发布时间:2020-04-14
本文作者:牛婉杨
本文来自:“大数据文摘”,了解相关信息可以关注“大数据文摘

相关文章
|
3月前
|
机器学习/深度学习 人工智能
打开AI黑匣子,三段式AI用于化学研究,优化分子同时产生新化学知识,登Nature
【10月更文挑战第11天】《自然》杂志发表了一项突破性的化学研究,介绍了一种名为“Closed-loop transfer”的AI技术。该技术通过数据生成、模型训练和实验验证三个阶段,不仅优化了分子结构,提高了光稳定性等性质,还发现了新的化学现象,为化学研究提供了新思路。此技术的应用加速了新材料的开发,展示了AI在解决复杂科学问题上的巨大潜力。
44 1
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
AI自己长出了类似大脑的脑叶?新研究揭示LLM特征的惊人几何结构
近年来,大型语言模型(LLM)的内部运作机制备受关注。麻省理工学院的研究人员在论文《The Geometry of Concepts: Sparse Autoencoder Feature Structure》中,利用稀疏自编码器(SAE)分析LLM的激活空间,揭示了其丰富的几何结构。研究发现,特征在原子、大脑和星系三个尺度上展现出不同的结构,包括晶体结构、中尺度模块化结构和大尺度点云结构。这些发现不仅有助于理解LLM的工作原理,还可能对模型优化和其他领域产生重要影响。
58 25
|
2月前
|
人工智能 开发者
人类自身都对不齐,怎么对齐AI?新研究全面审视偏好在AI对齐中的作用
论文《AI对齐中的超越偏好》挑战了偏好主义AI对齐方法,指出偏好无法全面代表人类价值观,存在冲突和变化,并受社会影响。文章提出基于角色的对齐方案,强调AI应与其社会角色相关的规范标准一致,而非仅关注个人偏好,旨在实现更稳定、适用性更广且更符合社会利益的AI对齐。论文链接:https://arxiv.org/pdf/2408.16984
37 2
|
2月前
|
人工智能 知识图谱
成熟的AI要学会自己搞研究!MIT推出科研特工
MIT推出科研特工SciAgents,结合生成式AI、本体表示和多代理建模,实现科学发现的自动化。通过大规模知识图谱和多代理系统,SciAgents能探索新领域、识别复杂模式,加速新材料发现,展现跨学科创新潜力。
47 12
|
2月前
|
机器学习/深度学习 人工智能 算法
基于AI的性能优化技术研究
基于AI的性能优化技术研究
|
3月前
|
人工智能 自然语言处理
召唤100多位学者打分,斯坦福新研究:AI科学家创新确实强
【10月更文挑战第6天】斯坦福大学最新研究评估了大型语言模型(LLMs)在生成新颖研究想法方面的能力,通过100多位NLP专家盲评LLMs与人类研究人员提出的想法。结果显示,LLMs在新颖性方面超越人类(p < 0.05),但在可行性上略逊一筹。研究揭示了LLMs作为科研工具的潜力与挑战,并提出了进一步验证其实际效果的设计。论文详见:https://arxiv.org/abs/2409.04109。
50 6
|
3月前
|
人工智能 自然语言处理 机器人
MIT新研究揭秘AI洗脑术!AI聊天诱导人类编造记忆,真假难辨
麻省理工学院的一项新研究《基于大型语言模型的对话式AI在证人访谈中加剧虚假记忆》显示,使用生成式聊天机器人进行犯罪证人访谈会显著增加参与者的虚假记忆,且影响持久。研究设置了对照组、问卷访谈、预设脚本及生成式聊天机器人四种条件,结果显示生成式聊天机器人诱导的虚假记忆数量远超其他方法。尽管AI技术在效率和准确性方面潜力巨大,但在敏感领域需谨慎应用,并需进一步评估风险,制定伦理准则和监管措施。论文详细内容见[这里](https://arxiv.org/abs/2408.04681)。
64 2
|
4月前
|
存储 人工智能 JavaScript
根据Accenture的研究,CEO和CFO谈论AI和GenAI是有原因的
数字化转型与当前GenAI领导者之间的关键区别在于,CEO和CFO(而非CIO)似乎参与了指导AI投资的过程。例如,Accenture在2024年1月报告称,到2023年底,在财报电话会议中提到AI的次数几乎达到4万次,因为C级领导层正在为“重大技术变革”做好准备
49 1
|
5月前
|
边缘计算 人工智能 监控
边缘计算与AI结合的场景案例研究
【8月更文第17天】随着物联网(IoT)设备数量的爆炸性增长,对实时数据处理的需求也随之增加。传统的云计算模型在处理这些数据时可能会遇到延迟问题,尤其是在需要即时响应的应用中。边缘计算作为一种新兴的技术趋势,旨在通过将计算资源更靠近数据源来解决这个问题。本文将探讨如何将人工智能(AI)技术与边缘计算结合,以实现高效的实时数据分析和决策制定。
389 1
|
6月前
|
数据采集 机器学习/深度学习 人工智能
AI小分子药物发现的百科全书,康奈尔、剑桥、EPFL等研究者综述登Nature子刊
【7月更文挑战第12天】康奈尔、剑桥及EPFL科学家合作,详述AI在药物发现中的突破与挑战[^1]。AI现用于新化合物生成、现有药物优化及再利用,加速研发进程。尽管取得进展,可解释性不足、数据质量和伦理监管仍是待解难题。 [^1]: [论文链接](https://www.nature.com/articles/s42256-024-00843-5)
80 3