下围棋so easy ,AlphaZero开始玩量子计算!

简介: AlphaZero虽然在围棋项目上战胜了人类选手,但所需的大量算力使其很难走进寻常人的生活。最近,丹麦和德国的研究人员使用Deepmind的AlphaZero 开发了一种混合算法,将AlphaZero强大的搜索能力与量子计算有机结合起来,参数搜索速度大幅提升。

微信图片_20220108182938.png


在过去的几十年里量子物理技术的探索中,最引人注目的就是量子计算机。


微信图片_20220108182942.png


量子计算机的能力,是所有现有的计算机组合加起来都无法匹敌。但到目前为止还没有人能够制造出一台功能齐全的量子计算机。这就需要我们在控制量子系统的能力上向前跨一步。


为什么 AlphaZero 能快人一步“预知未来”?


AlphaZero一开始是专门用来下围棋的。围棋的落子位置太多了大约有种。相比之下,国际象棋只有种可能的走位。


所以AlphaZero使用了一个深层的神经网络,它学会了从一个特定的位置开始评估它获胜的可能性。为了获胜,AlphaZero有一个功能叫做蒙特卡洛树搜索,这种方法能够帮助它在游戏中“预知未来”。


微信图片_20220108182944.png


由于在所有可能策略中抽样的可能性比较小,而且神经网络只能近似估计,所以特别是在其训练阶段,蒙特卡洛树搜索能够极大地提高游戏的准确性以及训练效率。


这类似于职业棋手在下棋时能够提前想几步棋。训练结果是相当惊人的,AlphaZero 很快就摧毁了专业游戏软件和人类玩家。例如,经过仅仅四个小时的自我对弈练习,AlphaZero 就在国际象棋中击败了领先的棋类软件 Stockfish。而且这完全都是从零开始,一开始AlphaZero根本不知道游戏规则。丹麦国际象棋大师Peter Heine Nielsen将其比作一个访问过地球的高级外星物种。


目前AlphaZero 已经有效地在围棋,国际象棋和星际争霸中战胜对手。AlphaZero成功的关键是将蒙特卡罗树搜索和具有前瞻性的深度神经网络结合起来。结果表明,从树下方延展出来的预测信息极大地提高了深度神经网络的精度,使预测结果更加准确集中,而非试探性的探索。


AlphaZero后发制人:30小时性能提高一个数量级

与普通计算机类似,量子计算机使用门操作(gate operations)来操纵其量子位。我们试图通过构建分段恒定的脉冲序列来实现特定的门操作,即AlphaZero必须为每个时间步长(time-step)选择一个脉冲幅度。物理系统在每个时间步长tj上都由一个4x4复杂的矩阵U(tj)进行数学描述,我们将其折叠成一个长度为32的向量。这是神经网络的输入,如图1所示。脉冲序列完成后,就可以将复数矩阵U(T)映射为一个实数,称为仿真逼真度(fidelity)F,该实数的取值在0到1之间。从本质上讲,仿真逼真度是一种概率度量,其中1表示100%成功。


微信图片_20220108182947.png


图1.AlphaZero使用的MCTS(左)和深度神经网络(右)的图示


左图和右图分别演示了 AlphaZero 的树搜索和神经网络。利用树搜索中统一的搜索结果作为神经网络的输入项。神经网络的上限输出接近给定输入状态的现行策略,即 p a ∼ a pa ∼ a。同时,下限输出提供了一个能够预估期望最终报酬的值函数,即 v (s t)∼(t) v (st)∼ f (t)。在我们的工作中,我们发现以一致的形式向 AlphaZero 提供物理系统的完整信息,有利于提升它的性能,尽管这种方式可能比较难以调整以适应具有较大希尔伯特空间的系统。神经网络输出一个值,该值是对最终仿真逼真度v≈F和一些移动概率p=(p1, p2, ...)的估计。


两者都在蒙特卡洛树搜索中使用。树由节点(状态)和边(状态-动作对)组成。树搜索从根节点开始,并通过在每个步骤中选择动作来贯穿树。选择哪种行动,是通过比较每一个边缘的内在属性,以平衡勘探和开发的方式进行的。一旦探索到了边缘,其内在属性将根据搜索结果进行更新。


树中的正向搜索将继续,直到遇到一个以前未访问过的节点,然后将该节点添加到树中,并使用p初始化其边缘。搜索中的所有访问过的边都将使用v在反向过程中更新。一旦执行了多次此类搜索,AlphaZero将确定一个操作并更新根节点,而丢弃树的其余部分。最后,基于树搜索产生的数据对神经网络进行更新,使得v接近保真度,并且移动概率增加了选择更有希望动作的机会。


简言之:蒙特卡洛树搜索允许AlphaZero向前看几步,从而可以在解决方案空间中进行更全面的搜索。这使得AlphaZero在长期策略至关重要的复杂任务中比大多数其他强化学习方法更具优势。


成功实现AlphaZero之后,我们使用相同的算法超参数将其用于三个不同的量子控制问题。对于每个问题,我们将AlphaZero与更常规的算法进行了比较。例如,在图2中,我们比较了AlphaZero和遗传算法在50小时运行期间创建二进制脉冲的任务。在y轴上,我们绘制infidelity 1-F,这实际上是错误率(即越低越好)。最初,AlphaZero在学习量子力学关联时表现不如遗传算法,但是这个学习阶段相当短。在30小时内,我们发现AlphaZero的性能比遗传算法提高了一个数量级,并且具有大量独特的高保真脉冲序列。


微信图片_20220108182949.png


图2.遗传算法和AlphaZero在50小时运行期间的比较。在y轴上绘制了infidelity (1-F),这实际上是一个错误率


混合了AlphaZero的量子计算,搜索速度提升500倍


AlphaZero会输给物理学家在过去15年不断完善的高度量子化的优化算法并不奇怪。但是,如果AlphaZero死在这里,会留下很多遗憾。


由于梯度优化算法没有学习功能,意味着训练过程中其性能没有逐步提高,并且所有生成的数据都将被丢弃,而不是用于后续学习。


奥胡斯大学的团队开始寻求一种混合算法:AlphaZero通过广泛的探索生成了高可用的种子对象,随后通过基于梯度的方法对它们进行优化,这种方法使解决方案的数量和质量都得到了极大的提高。


实际上,AlphaZero和梯度优化解决了不同的问题:AlphaZero能学习到解决方案的基础结构,梯度优化在种子解决方案周围的局部空间中进行优化。如果仅使用梯度优化,经过50小时的模拟,我们可能有两个或三个有前途的解决方案,但通过我们的混合算法,可以获得一千个。


将功能强大的通用领域机器学习方法与人类专业知识、特定领域的蛮力计算相结合的结果令人振奋。国际象棋已经迈出了第一步,混合型人机团队将专家知识和Stockfish引擎结合起来,可以同时胜过人类和算法。


最近Gary Marcus和Ernest David在他们的新书《重新启动AI:构建我们可以信赖的人工智能》中提出,将领域特定方法和领域通用方法与分层的受人类启发的决策过程相结合,是未来构建强大的AI方法的核心元素之一。这可能会解决AlphaZero方法最直接的弊端之一:超参数很多,但仅在有限的范围内有用。在一些案例中,相同的超参数集在三种量子情况下均能很好地工作,当改变问题的设定,AlphaZero将无法解决。


量子计算机利用量子并行性大幅提高了计速度,但是问题再次出现:搜索空间的控制参数成指数级增长。AlphaZero实验证明,神经网络提供的近似和不完善的解决方案可以充当本地蛮力启发式算法的强大种子生成器。


除了算法方面的优化设计,量子计算本身的性能也在飞速提升。


金子表面发现马约拉纳费米子,量子计算机时代要来了?

最近量子计算捷报频传。

丹麦、德国科学家奇思妙想用AlphaZero解决量子计算问题,MIT等科学家则在金子的表面,观测到了马约拉纳费米子,从而在将粒子分离为稳定的、防错的量子比特进行量子计算领域迈出了重要的一步,该结果发表在《美国国家科学院院刊》上。在粒子物理学中,马约拉纳费米子是一类基本粒子,包括电子,质子,中子和夸克,它的反粒子就是它本身。由意大利理论物理学家Ettore Majorana在1937年首次提出。


微信图片_20220108182952.png


马约拉纳费米子然而不幸的是,这位物理学家提出该理论后不到一年时间,就在一次神秘的意大利海岸渡轮旅行中失踪了。从此,大家就一直在寻找马约拉纳和他的马约拉纳费米子。最终,大家放弃了寻找马约拉纳,但却从未停止寻找他的费米子。


微信图片_20220108182954.png


现在,由MIT领导的团队制造了在超导材料钒上生长的金纳米线组成的材料表面,发现了接近零能量的特征信号尖峰。显然,根据目前的理论物理学来看,除了马约拉那费米子对,没有其他可能。


马约拉纳费米子将是理想的量子比特或量子计算机的单个计算单位,一个量子位将由成对的马约拉那费米子组成,这是科学家长期以来,一直梦寐以求的材料!


如果该马约拉纳费米子被彻底证实,我们将提前步入量子计算时代!


参考链接:


https://aihub.org/2020/04/03/alphazero-learns-to-solve-quantum-problems/


https://www.nature.com/articles/s41534-019-0241-0


https://phys.org/news/2020-04-sighting-mysterious-majorana-fermion-common.html


相关文章
|
存储 传感器 Linux
Linux应用开发基础知识——I2C应用编程(十二)
Linux应用开发基础知识——I2C应用编程(十二)
1268 0
Linux应用开发基础知识——I2C应用编程(十二)
|
3月前
|
人工智能 自然语言处理 安全
阿里云电商经营助手 Aidge 简介:懂电商的AI经营助手,让商品营销更高效,选品洞察更敏锐
本文聚焦阿里云面向跨境电商商家推出的垂直领域AI基础设施——电商经营助手Aidge,针对2026年中小跨境商家普遍面临的多语言壁垒、素材成本高、合规风险大、选品试错成本高四大核心痛点展开介绍。Aidge并非通用大模型套壳,而是依托通义千问大模型、基于超10亿条电商双语句料训练而成,日均API调用量已突破6亿次,覆盖全模态翻译、AI素材优化合规、电商AI视频生成、营销洞察四大核心能力模块,支持标准化API一键接入,实测可将素材制作综合成本降低90%以上,帮助商家高效完成商品本地化与全链路运营提效。
阿里云电商经营助手 Aidge 简介:懂电商的AI经营助手,让商品营销更高效,选品洞察更敏锐
|
3月前
|
人工智能 运维 IDE
零成本AI编程实战|Qoder CN免费社区版全解,额度规则、多端部署与CLI实操命令完整指南
AI赋能研发已经成为软件开发领域的主流趋势,AI编码助手可以极大降低重复编码工作量,提升学习与开发效率。但市面上大量高质量AI编程工具普遍采用订阅付费模式,对于编程学生、业余爱好者、初级开发者来说,长期订阅会带来不小的经济负担,抬高了AI编程的入门门槛。为了普惠广大基层开发群体,降低AI编程落地门槛,原通义灵码完成品牌迭代升级,正式更名为Qoder CN,并且推出永久可用的免费社区版本。该版本配套独立Credits额度体系,普通用户不需要付费订阅,就可以使用专业级AI编码智能体能力,覆盖代码学习、脚本编写、小型项目开发、代码调试等轻量化开发场景。
973 0
|
5月前
|
人工智能 运维 监控
大模型价格白菜价后,为什么你的 AI 账单反而涨了?——多 Provider 成本失控的技术解法
Token 单价跌到历史低点,但企业 AI 账单不降反升。本文拆解用量爆发、词元通胀、多 Provider 账本混乱三层成本陷阱,并给出统一计费网关、会话级归因和异常检测的工程方案。
428 0
|
9月前
|
人工智能 开发框架 数据可视化
谷歌推出新一代AI开发框架Genkit: Go 入门指南:用 Go 轻松构建 AI 应用
Genkit 是 Google Firebase 推出的开源 AI 应用框架,支持 Go、JS、Python。Genkit Go 为纯 Go 实现,统一接入 Gemini/OpenAI/Vertex AI,内置可视化调试、类型安全结构化生成,专为生产环境设计,5 分钟即可启动首个 AI 应用。
1006 3
|
8月前
|
弹性计算 Java 关系型数据库
学生开发者指南:如何用最低成本在阿里云部署可访问的Web项目(最新版)
本文详细介绍Spring Boot + Vue项目部署到阿里云ECS的完整流程,包含Nginx反向代理、Systemd服务配置、RDS数据库连接等实操内容。适合课程设计、毕业设计、个人项目演示场景,配合智码方舟等AI工具可进一步提升开发效率,月度成本控制在50元以内。
|
11月前
|
存储 缓存 负载均衡
18服务发现:到底是要 CP 还是 AP?
服务发现需权衡CP与AP。在超大规模集群中,强一致性(CP)如ZooKeeper易因高并发导致性能瓶颈,甚至雪崩。而最终一致性(AP)通过消息总线实现数据同步,具备更高可用性与扩展性,虽短暂延迟但可接受,更适配RPC场景。采用AP模式,结合推拉结合、增量更新与本地缓存,可保障系统稳定高效。
|
负载均衡 算法 Java
除了 Ribbon,Spring Cloud 中还有哪些负载均衡组件?
这些负载均衡组件各有特点,在不同的场景和需求下,可以根据项目的具体情况选择合适的负载均衡组件来实现高效、稳定的服务调用。
1676 61
|
开发框架 安全 网络安全
阿里云先知安全沙龙(杭州站) ——实网攻防中信息收集的艺术
渗透测试的核心在于信息收集,涵盖人和系统的多维度数据。实网攻防流程包括资产收集、漏洞利用、稳固据点、内网横向和控制靶标五个阶段。外网信息收集旨在全面了解目标单位的公开信息,寻找突破口;内网信息收集则聚焦网络连通性和密码凭证,确保攻击行动的有效性和针对性。整个过程强调逐步深入的信息分析,为后续攻击提供支持。
|
机器学习/深度学习 弹性计算 并行计算
阿里云服务器租用收费价格参考,GPU/FPGA/ASIC架构云服务器收费价格表
GPU/FPGA/ASIC架构阿里云服务器有GPU计算型gn7r、GPU计算型gn7i、GPU计算型gn6v、GPU计算型gn6i等实例规格可选,不同实例规格的租用收费价格是不一样的,本文为大家汇总了目前基于GPU/FPGA/ASIC架构下的各个实例规格的阿里云服务器收费标准,以供参考。
阿里云服务器租用收费价格参考,GPU/FPGA/ASIC架构云服务器收费价格表

热门文章

最新文章