神经网络+量子计算机?华人学者开源首个量子计算协同设计框架

简介: 近日,由圣母大学姜炜文博士后,史弋宇教授和 IBM 研究院 Jinjun Xiong 博士开展的研究,实现了首个机器学习和量子计算协同设计框架,QuantumFlow,为神经网络在量子计算机上的实现铺平了道路。

微信图片_20220109134138.png


QuantumFlow 框架能够自动地完成神经网络到 IBM 量子计算机的部署。

        微信图片_20220109134140.png      

原文链接: https://arxiv.org/pdf/2006.14815.pdf  


神经网络加速迎来新玩家


量子计算机是一种使用量子逻辑进行通用计算的设备,使用量子比特进行数据存储,使用量子算法来进行数据操作。

 

量子计算研究可以追溯到 19 世纪 60 年代,在 2016 诞生了首台可编 程量子计算机。IBM 于 2019 年 1 月展示了商业化量子计算机 IBM Q,并预测将于 20 世纪 20 年代获得量子优势:针对真实的应用场景,展现出量子计算超越经典计算的能力。

           微信图片_20220109134141.png    

图 1: 量子优势之路:从 19 世纪 60 年代的量子科学,2016 年进入量子准备阶段,20 世纪 20 年代将进入量子优势阶段以利用量子计算机解决实际问题 (Source: IBM)


            微信图片_20220109134143.png      


图 2: 神经网络硬件加速器迎来新成员:量子计算机

 

深度神经网络是当下计算应用中发展最快,使用最广的机器学习算法。如图2所示,深度神经网络加速器,已经在通用处理器(CPU,GPU)以及专用加速器(FPGA,ASIC)上得到广泛研究。

 

然而,随着应用不断复杂化导致网络结构不断扩大,存储性能瓶颈已逐渐凸显。在传统计算平台上,N 个数字比 特只能表示 1 个 N 位数据,然而在量子计算中,M 个量子比特却同时能表示 2^M 个数据,并能同时操作这些数据。

 

量子计算机如此强大的存储与计算能力,使其拥有巨大潜能打破神经网络在传统计算平台上的性能瓶颈,获取量子优势。


首个量子计算协同设计框架,让你的神经网络飞起来


如何在深度学习领域获取量子优势还面临诸多挑战,其中第一个障碍便是缺少一个协同设计神经网 络与量子线路的自动化工具。


现有工作或是尝试直接将针对传统计算系统设计的神经网络映射到量子计算机,或是直接设计量子神经网络。

 

然而这样的独立设计很难发挥量子计算机的优势(例如实数乘法会引入过多量子比特,带来巨大开销)。根本原因是缺乏一个协同设计的工具,该工作填补了这一空白,提出了第一个神经网络/量子计算协同设计框架,QuantumFlow。

      微信图片_20220109134145.png


图3 QuantumFlow 协同设计框架

 

如图 3所示,QuantumFlow 框架包括四个组件:


网络模型设计器 QF-Net:其利用随机变量对输入实数数据进行表示,能够自然地利用量子状态进行表示,并实现随机变量的运算。该设计器提出了便于量子线路实现的基本运算操作,包括向量的线性、非线性运算与批标准化操作。


量子线路设计器 QF-Circ:针对 QF-Net 中每一个运算操作,设计了对应的量子线路实现。


前向反向传播器 QF-FB:提供在传统计算平台高效的前向后向传播实现,以为支持高效地 QF-Net 模型训练。


网络映射 QF-Map:根据依靠 QF-FB 训练得到的 QF-Net 模型,将首先进行网络-线路映射,建立 QF-Net 对应的量子线路 QF-Circ;进而进行虚拟-物理量子比特映射,部署 QF-Net 到量子计 算机。在进行虚拟-物理量子比特映射时,将考虑量子计算机的错误率,以提高模型精度。

 

基于 QF-FB 在传统计算机上的模拟结果展示了 QF-Net 的有效性。如图 4所示,针对量子计算设计的 QF-Net 获取比具有相同结构的针对传统计算系统的多层感知器 MLP(C) 更高的精度。

      微信图片_20220109134147.png  


图 4: QF-Net 在 MNIST 数据集子集:{3,6}, {3,8}, {1,3,6},上获取最高精度

 

具有批标准化操作的 QF-Net(w/ BN) 在识别数字 3,6 中获得 97.01% 的准确率,比现目前最新的针对量子计算设 计的 FFNN 网络,提升了 14.55% 的准确率。  

 

图 5展示了一个二值分类示例。QuantumFlow 通过 QF-FB 训练得到网络如图 5(b) 所示,根据 QF-Map,将 QF-Net 首先映射到 QF-Circ 上,如图 5(C) 所示,进而根据 IBM 量子计算机 ibmq_essex 的错误率 (图 5(d)),QF-Map 将 QF-Net 映射到物理量子比特上,并对 100 组输入数据进行分类。在量子计算机上所获取的结果如图 5(h) 所示。


        微信图片_20220109134148.png      


图 5: 二值分类示例,在 IBM 包含 5 个量子比特的量子计算机 “ibmq_essex” 上,获取了 82% 的精度。


图 5(e) 展示了有 QF-FB 在传统计算系统上获得的标准结果,图 5(f) 展示了使用 IBM Qiskit Aer 模拟进行 QF-FB 的结果,其准确度达到 98%。而图 5(g) 展示了不采用 QF-Map 而采用 IBM Qikist 自带编译器进行映射所得到的结果,正确率仅为 68%。最后,使用 QF-Map 可以将正确率提升至 82%。

   

该实验展示了量子计算实现神经网络的可能性,尽管 IBM 量子计算机的错误率在 10^−2 量级(相较于数字电路的 10^−15 错误率),通过 QuantumFlow 协同设计的神经网络量子计算系统已经能够对数据进行有效地分类处理。结果展示了 QuantumFlow 的有效性。

 

QuantumFlow 将于近期开源,详细信息请关注https://wjiang.nd.edu/categories/qf/。    

   

简介作者

 

论文第一作者姜炜文目前是圣母大学的博士后研究助理。2019年获重庆大学博士学位。2017年到2019年,曾在匹兹堡大学电子和计算机工程系参与研究工作。


      微信图片_20220109134150.png      

 

博士期间,姜炜文在国际会议和主要期刊上发表了50多篇研究论文,其中包括10多篇 IEEE/ACM 会刊论文,他在硬件加速和神经网络结构方面的合作研究获得了 DAC’19,CODES+ ISSS’19和 ASP-DAC’20最佳论文提名。

 

他在神经网络和并行系统等方面的研究工作引起了业界的广泛关注,得到了美国国家科学基金会国际自然科学联合会的科研基金,与 Facebook、 Edgecortix inc. (日本/新加坡)等公司开展了合作研究,并在过去一年中,获得了超过$250K的研究基金资助。


姜炜文曾在2015年「NVMSA」及2017年「ICCD」中获得两项最佳论文奖,并在2016年「 ASP-DAC 」、2019年「 DAC 」、2019年「 CODES+ISSS 」及2020年「 ASP-DAC 」中获得四项最佳论文提名。

 

深度学习的进步很大程度上依赖算力,而现在传统硬件的算力增长已经赶不上超级人工智能的需求,如果神经网络能无缝迁移到量子计算机,像数据从CPU移到GPU中一样,将是人工智能科学家们的福音。

相关文章
|
4月前
|
数据采集 存储 数据处理
Scrapy:Python网络爬虫框架的利器
在当今信息时代,网络数据已成为企业和个人获取信息的重要途径。而Python网络爬虫框架Scrapy则成为了网络爬虫工程师的必备工具。本文将介绍Scrapy的概念与实践,以及其在数据采集和处理过程中的应用。
26 1
|
4月前
|
NoSQL Linux Redis
Redis 的网络框架是实现了 Reactor 模型吗?
Redis 的网络框架是实现了 Reactor 模型吗?
|
1月前
|
存储 分布式计算 监控
Hadoop【基础知识 01+02】【分布式文件系统HDFS设计原理+特点+存储原理】(部分图片来源于网络)【分布式计算框架MapReduce核心概念+编程模型+combiner&partitioner+词频统计案例解析与进阶+作业的生命周期】(图片来源于网络)
【4月更文挑战第3天】【分布式文件系统HDFS设计原理+特点+存储原理】(部分图片来源于网络)【分布式计算框架MapReduce核心概念+编程模型+combiner&partitioner+词频统计案例解析与进阶+作业的生命周期】(图片来源于网络)
77 2
|
4天前
|
存储 网络协议 Linux
RTnet – 灵活的硬实时网络框架
本文介绍了开源项目 RTnet。RTnet 为以太网和其他传输媒体上的硬实时通信提供了一个可定制和可扩展的框架。 本文描述了 RTnet 的架构、核心组件和协议。
12 0
RTnet – 灵活的硬实时网络框架
|
9天前
|
云安全 安全 网络安全
云端防御战线:云计算与网络安全的协同进化
【5月更文挑战第5天】 随着云计算技术的蓬勃发展,企业和个人越来越依赖于云服务来处理、存储和交换数据。然而,这种依赖性也带来了前所未有的安全挑战。本文将探讨在日益复杂的网络威胁环境中,如何通过综合运用多种网络安全策略和技术手段,保障云服务的安全性和可靠性。我们将分析当前云计算面临的主要安全风险,并深入讨论包括身份验证、数据加密、入侵检测系统(IDS)和安全事件管理在内的关键技术实践。文章旨在为读者提供对云环境下信息安全管理的全面理解,并提出未来发展趋势的预测。
25 9
|
19天前
|
云安全 安全 网络安全
云端防御战线:云计算与网络安全的协同进化
【4月更文挑战第24天】 随着企业数字化转型的加速,云计算已成为支撑现代业务架构的关键平台。然而,云服务的广泛采用也带来了前所未有的安全挑战。本文深入探讨了在动态且复杂的云环境中,如何通过创新的安全策略和技术手段维护网络和信息安全。我们分析了云服务的基本特性、网络安全威胁的现状,以及信息安全管理的关键要素,并提出了综合解决方案,以保护数据和服务免受不断演变的网络攻击。
|
1月前
|
JSON Kubernetes 网络架构
Kubernetes CNI 网络模型及常见开源组件
【4月更文挑战第13天】目前主流的容器网络模型是CoreOS 公司推出的 Container Network Interface(CNI)模型
|
1月前
|
网络协议 Java API
Python网络编程基础(Socket编程)Twisted框架简介
【4月更文挑战第12天】在网络编程的实践中,除了使用基本的Socket API之外,还有许多高级的网络编程库可以帮助我们更高效地构建复杂和健壮的网络应用。这些库通常提供了异步IO、事件驱动、协议实现等高级功能,使得开发者能够专注于业务逻辑的实现,而不用过多关注底层的网络细节。
|
1月前
|
分布式计算 监控 Hadoop
Hadoop【基础知识 02】【分布式计算框架MapReduce核心概念+编程模型+combiner&partitioner+词频统计案例解析与进阶+作业的生命周期】(图片来源于网络)
【4月更文挑战第3天】Hadoop【基础知识 02】【分布式计算框架MapReduce核心概念+编程模型+combiner&partitioner+词频统计案例解析与进阶+作业的生命周期】(图片来源于网络)
58 0
|
1月前
|
云安全 安全 网络安全
云端防御战线:云计算与网络安全的协同进化
在数字化时代,云计算已成为企业及个人存储、处理和分析数据的首选平台。随着云服务的广泛应用,网络安全问题亦随之凸显,威胁着用户的数据安全和隐私保护。本文将探讨云计算环境中的网络安全挑战,并分析信息安全技术如何与时俱进,以保障云服务的安全性。我们将详细讨论云服务模型、网络攻击类型以及相应的防护策略,最后展望了未来云计算与网络安全技术的融合趋势。