马斯克在创立OpenAI时,给OpenAI的目标是确定人工智能技术如何更好地为人类服务。近日,OpenAI发布了一份新的公司章程,根据章程,OpenAI未来的使命是开发“高度自主的系统,在大多数具有经济价值的工作上超越人类”。它想让机器比人类更聪明。
这一使命即通用人工智能(AGI),取决于你用来做什么,它可以是圣杯,也可以是潘多拉的魔盒。
OpenAI宣布all-in AGI。尽管马斯克最近退出了OpenAI董事会(官方称此举是为了避免 OpenAI 将来与特斯拉可能发生的冲突),但OpenAI仍有它的野心。
一些专家,如谷歌的Ray Kurzweil,认为我们距离奇点(机器变得比人类更聪明的时间点)只有数十年。也有人认为这永远不会发生。在有关AGI的讨论中,大多数人要么仍在试图理清语义、学术类型,要么更担心资金问题,而不是担心对人类的生存威胁。
幸亏OpenAI是一个非营利性组织。它有超过10亿美元的资金和AI领域最聪明的人才(以及大公司)的支持,它能够专注于技术而不必担心去取悦股东以免失去资助。为了达到这一目的,OpenAI致力于小心谨慎地开发AGI,并避免AI军备竞赛,这可能导致研究人员失去重点。
OpenAI新的章程写道:
我们将尝试直接构建安全、有益的AGI,但如果我们的工作帮助其他人达到这一目的,我们也认为我们完成了这一使命。
在这份文件中,OpenAI甚至表示,如果另一家公司似乎接近了AGI的边缘,它将退出并终止其研究。
多数人认为AGI是离现实很远的科幻小说里的事情,甚至AI信徒们也认为担心AGI还为时过早。但在某种程度上,我们需要一些强有力的指导方针来帮助开发人员避免意外的陷阱(比如摧毁人类)。等到机器人出现问题,再提出常识性的政策就太迟了。
OpenAI联合创始人Ilya Sutskever说:“OpenAI在创立之初就已为建立一个强大的技术实验室指定了完善的规范。但是,如何建立一个旨在使这些技术的长期影响进展顺利的组织,这并没有真正的先例。在过去两年中,我们从头开始建立了能力、安全和政策团队,每个团队都对这些规范有所贡献。我们认为这些技术影响着每个人,因此我们与其他机构合作,确保这些原则不仅对我们,而且对社区的其他人都有好处。”
OpenAI目前没有提出AGI的时间表,但它已经开始了“下一阶段的OpenAI”,包括增加对人员和设备的投资,以期“在人工智能方面取得重大突破”。
OpenAI章程全文
![9507c9e1be8eb21e72fe7da86aa34fe6c11b219e](https://yqfile.alicdn.com/9507c9e1be8eb21e72fe7da86aa34fe6c11b219e.png?x-oss-process=image/resize,w_1400/format,webp)
OpenAI的使命是确保通用人工智能( artificial general intelligence ,AGI)——我们指的是高度自主的系统,这种系统在大多数具有经济价值的工作上能够超越人类——将使全人类受益。我们将尝试直接构建安全而有益的AGI,但如果我们的工作帮助其他人实现了这一成果,我们也认为我们的使命已经完成。为此,我们承诺遵守以下原则:
广泛受益原则
![516da44af08d4b7ad8ff0551f9d5d5d2ca225106](https://yqfile.alicdn.com/516da44af08d4b7ad8ff0551f9d5d5d2ca225106.png?x-oss-process=image/resize,w_1400/format,webp)
![516da44af08d4b7ad8ff0551f9d5d5d2ca225106](https://yqfile.alicdn.com/516da44af08d4b7ad8ff0551f9d5d5d2ca225106.png?x-oss-process=image/resize,w_1400/format,webp)
长期安全原则
![516da44af08d4b7ad8ff0551f9d5d5d2ca225106](https://yqfile.alicdn.com/516da44af08d4b7ad8ff0551f9d5d5d2ca225106.png?x-oss-process=image/resize,w_1400/format,webp)
![516da44af08d4b7ad8ff0551f9d5d5d2ca225106](https://yqfile.alicdn.com/516da44af08d4b7ad8ff0551f9d5d5d2ca225106.png?x-oss-process=image/resize,w_1400/format,webp)
技术领导力
为了使AGI的影响对社会有效,OpenAI必须要站在AI技术的前沿——单靠政策和安全宣传是不够的。
我们相信AI在AGI之前会产生广泛的社会影响,我们在与我们的使命和专业知识直接相关的领域中发挥领导作用。
合作导向
![516da44af08d4b7ad8ff0551f9d5d5d2ca225106](https://yqfile.alicdn.com/516da44af08d4b7ad8ff0551f9d5d5d2ca225106.png?x-oss-process=image/resize,w_1400/format,webp)
我们致力于提供帮助社会通向AGI的公共产品。今天,这包括公开发表我们的大部分AI研究,但我们预计,由于安全性问题,未来公开发表的研究将会减少,同时增加分享安全、政策和标准研究。
原文发布时间为:2018-04-11
本文作者:肖琴
本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”。