前言
“在我的一生中，我见证了两次让我觉得是革命性的技术展示。
第一次是在 1980 年，当我被介绍一个图形用户界面时，这是现代操作系统的前身，包括 Windows。我与向我展示演示的人坐在一起，他是一位名叫 Charles Simonyi 的杰出程序员，我们立即开始为可以使用这种用户友好的计算机，所能做的所有事情进行头脑风暴。
Charles Simonyi 最终加入了微软，Windows 成为微软的核心产品，并且我们在演示之后的思考，帮助了公司为未来 15 年制定了议程。
第二个大惊喜是在去年。自 2016 年以来，我一直在与 OpenAI 团队会面，并对他们的稳步进展印象深刻。在 2022 年中期，我对他们的工作非常兴奋，以至于我向他们提出了一个挑战：训练一种人工智能来通过高级生物学考试。使它能够回答它没有专门接受训练的问题。（我选择了 AP Bio，因为这个考试不仅仅是关于科学事实的简单复述 —— 它要求你对生物学进行批判性思考。）如果你能做到这一点，那么你就会取得真正的突破。
我认为这个挑战会让他们忙碌两三年。他们只用了几个月就完成了。
在 9 月份，当我再次与他们会面时，我惊奇地看着他们向 GPT，他们的 AI 模型，提出了 60 个 AP Bio 考试的多项选择题，并且它答对了 59 个。然后，它回答了六个开放性问题，写出了出色的答案。
我们让一位外部专家评分，GPT 获得了 5 分，这是最高可能的分数，相当于在大学水平的生物学课程中获得 A 或 A+。
一旦它通过了考试，我们向它提出了一个非科学性的问题：“你对一个有生病孩子的父亲说什么？” 它写了一个深思熟虑的答案，可能比在房间里的我们大多数人给出的答案都好。整个经历令人震撼。
我知道我刚刚见证了自图形用户界面以来最重要的技术进步。
这激发了我思考人工智能在未来五到十年内可以实现的所有事情。
人工智能的发展和微处理器、个人电脑、互联网和手机的创造一样基础。它将改变人们工作、学习、旅行、获得医疗保健和相互沟通的方式。
整个产业将围绕它重新定位。企业将凭借其使用人工智能的能力来区分自己。
慈善事业是我现在的全职工作，我一直在思考，除了帮助人们提高生产力之外，人工智能如何可以减少世界上最严重的不公平现象。全球最严重的不公平在于健康：每年有 500 万名 5 岁以下的儿童死亡。这个数字与 20 年前的 1000 万相比有所下降，但仍然是一个令人震惊的高数字。
几乎所有这些儿童都出生在贫穷国家，死于可预防的疾病，如腹泻或疟疾。难以想象有什么比拯救儿童生命更好的人工智能应用了。
我一直在思考人工智能如何可以减少世界上最严重的不公平现象。
在美国，减少不公平现象的最好机会是改善教育，特别是确保学生在数学方面取得成功。证据表明，掌握基本数学技能可以为学生的成功打下基础，无论他们选择什么职业。但是，数学成绩在全国范围内正在下降，尤其是黑人、拉丁裔和低收入学生。人工智能可以帮助扭转这种趋势。
气候变化是另一个问题，我相信人工智能可以使世界更加公平。气候变化的不公正之处在于，受到最严重影响的人 —— 全球最贫困的人 —— 也是最少为问题做出贡献的人。我仍在思考和学习人工智能如何可以帮助解决这个问题，但是在本文后面，我将提出一些潜力巨大的领域。
简而言之，我对人工智能将对盖茨基金会致力于的问题产生的影响感到兴奋，基金会在未来几个月内将会有更多关于人工智能的声明。世界需要确保每个人 —— 而不仅仅是富人 —— 都能从人工智能中受益。政府和慈善机构将需要发挥重要作用，确保人工智能减少不公平现象，而不是加剧它。这是我自己与人工智能相关的工作的重点。
任何新技术的革新都会让人们感到不安，人工智能也不例外。我理解为什么 —— 它提出了有关劳动力、法律系统、隐私、偏见等方面的难题。
人工智能也会出现事实错误和幻觉。在我建议一些缓解风险的方法之前，我将定义我所说的人工智能，并详细介绍它将如何帮助赋予人们工作能力、拯救生命和改善教育。
如何定义人工智能
从技术上讲，人工智能一词指的是创建用于解决特定问题或提供特定服务的模型。像 ChatGPT 这样的技术就是人工智能，它正在学习如何更好地进行聊天，但不能学习其他任务。相比之下，人工通用智能是指能够学习任何任务或主题的软件。目前，人工通用智能还不存在 —— 计算机行业正在进行激烈的辩论，关于如何创建人工通用智能，以及是否可以创建它。
开发人工智能和人工通用智能一直是计算机行业的伟大梦想。几十年来，问题一直是计算机何时会在除了计算之外的某些方面比人类更出色。
现在，随着机器学习和大量计算能力的到来，复杂的人工智能已经成为现实，并且它们将非常快速地得到改进。
我回想起个人计算机革命早期，当时软件行业如此之小，以至于我们大多数人都可以站在会议舞台上。今天它是全球性的行业。由于巨大的部分现在正在将注意力转向人工智能，创新将比微处理器突破后，我们经历的创新速度更快。很快，人工智能之前的时代将会看起来像在计算机上使用 C：> 提示符而不是在屏幕上敲击一样遥远。
生产力提升
尽管在许多方面人类仍然比 GPT 更优秀，但有许多工作很少使用这些能力。例如，销售（数字或电话）、服务或文件处理（如应付账款、会计或保险索赔争议）等许多任务需要做出决策，但不需要持续学习的能力。企业为这些活动设有培训计划，在大多数情况下，它们有很多良好和糟糕工作的示例。
人类使用这些数据集进行培训，很快这些数据集也将用于训练人工智能，从而使人们更有效地完成这项工作。
随着计算能力变得更加便宜，GPT 表达想法的能力将越来越像拥有一个白领工人来帮助您完成各种任务。微软将其描述为拥有一个联合驾驶员。在 Office 等产品中完全集成的人工智能将增强您的工作，例如帮助编写电子邮件和管理收件箱。
最终，您控制计算机的主要方式将不再是指针和单击、或在菜单和对话框上敲击。相反，您将能够用简单的英语书写请求。（不仅是英语 —— 人工智能将理解世界各地的语言。今年早些时候，在印度，我会见了正在开发将理解当地许多语言的人工智能的开发人员。）
此外，人工智能的进步将使个人代理的创建成为可能。将其视为数字个人助手：它将查看您最新的电子邮件，了解您参加的会议，阅读您阅读的内容，并阅读您不想烦恼的事情。这将提高您在想做的任务上的工作效率，并使您从不想做的任务中解放出来。
人工智能的进步将使创建个人代理成为可能。
您将能够使用自然语言让这个代理帮助您安排日程、沟通和电子商务，并且它将在所有设备上运行。由于培训模型和运行计算的成本，目前创建个人代理还不可行，但由于人工智能最近的进展，它现在是一个现实的目标。
需要解决一些问题：例如，保险公司是否可以在未经您许可的情况下向您的代理询问有关您的事情？如果是，会有多少人选择不使用它？
企业级代理将以新的方式赋予员工权力。了解特定公司的代理将为其员工提供直接咨询，并应该成为每个会议的一部分，以便它可以回答问题。
它可以被告知保持沉默或鼓励其发表意见。它将需要访问公司的销售、支持、财务、产品日程和与公司相关的文本。它应该阅读与公司所在行业有关的新闻。我相信，结果将是员工变得更有生产力。
当生产力提高时，社会将受益，因为人们有更多时间去做其他事情，无论是在工作还是在家里。当然，有关人们需要什么样的支持和再培训等问题是很严肃的。
政府需要帮助工人转换到其他角色。但是，帮助其他人的人永远不会消失。人工智能的崛起将使人们有更多的时间去做软件永远无法做到的事情 —— 例如教学、照顾患者和支持老年人等。
全球健康和教育是两个迫切需要的领域，而没有足够的工人来满足这些需求。如果正确使用，人工智能可以帮助减少这些领域中的不平等。这些应该是人工智能工作的重点，因此我现在将转向它们。
健康
我认为 AI 会有几种方式改善医疗保健和医学领域。
首先，它们将帮助医护人员节省时间，帮他们处理某些任务，例如处理保险索赔、处理文件工作，以及从医生的诊断中起草笔记。我预计这个领域将会有很多的创新。
其他由 AI 推动的改进对贫穷国家尤其重要，因为那里大多数的 5 岁以下儿童死亡。
例如，在那些国家，很多人永远没有机会去看医生，而 AI 将会帮助那些能看到医生的卫生工作者更有效率。（开发 AI 驱动的超声波机器，它能用最少的培训时间就能使用，就是一个很好的例子。）AI 甚至会让患者能够进行基本的分流，获取如何处理健康问题的建议，并决定是否需要寻求治疗。
在贫穷国家使用的 AI 模型需要针对不同的疾病进行训练，而不是针对富裕国家进行的。它们需要使用不同的语言，并考虑到不同的挑战，例如远离诊所的患者或患者无法因生病而停止工作。
人们需要看到 AI 对整体医疗保健有益，尽管它们不会是完美的，会犯错。AI 必须经过非常仔细的测试和适当的监管，这意味着它们的采用速度比其他领域要慢。但是人类也会犯错误。而没有医疗保健也是一个问题。
除了帮助医疗保健，AI 还将大大加速医学突破的速度。生物学数据非常大，对于复杂的生物系统的所有工作方式，人类很难跟上。已经有软件可以查看这些数据，推断出路径、搜索病原体上的目标，然后设计药物。有些公司正在研究用这种方式开发癌症药物。
下一代工具将更加高效，并能够预测副作用并确定剂量水平。盖茨基金会在 AI 中的一个优先事项是确保这些工具用于影响世界上最贫穷的人们的健康问题，包括艾滋病、结核病和疟疾。
同样地，政府和慈善组织应该创造激励机制，鼓励公司分享人工智能生成的有关贫困国家农作物或牲畜的见解。人工智能可以根据当地的条件开发更好的种子，根据当地的土壤和气候为农民提供种植最佳种子的建议，并帮助开发牲畜的药物和疫苗。随着极端天气和气候变化对低收入国家的自给自足农民造成越来越大的压力，这些进步变得更加重要。
教育
电脑并没有像我们这个行业内的许多人所希望的那样对教育产生影响。虽然有一些好的发展，包括教育游戏和在线信息来源，如维基百科，但它们对学生成就的任何度量指标都没有产生有意义的影响。
但我认为，在未来 5 到 10 年内，由人工智能驱动的软件将最终实现革命性地改变人们教学和学习的方式。它将知道你的兴趣和学习风格，因此可以量身定制内容，以保持你的参与度。它将测量你的理解程度，注意你何时失去兴趣，并了解你喜欢的动机类型。它将提供即时反馈。
AI 可以协助教师和管理人员的方式有很多，包括评估学生对一个学科的理解并为他们提供职业规划建议。教师已经在使用像 ChatGPT 这样的工具来提供对学生写作任务的评论。
当然，AI 在能够做到理解某个学生最佳的学习方式或他们的动机方面需要大量的培训和进一步的发展。即使一旦技术得到完善，学习仍将取决于学生和教师之间良好的关系。它将增强 - 但永远不会取代 - 学生和教师在课堂上共同进行的工作。
新的工具将会为有经济能力购买它们的学校创建，但我们需要确保它们也会被创建并提供给美国和全球低收入学校使用。AI 需要接受各种各样的数据集的训练，以便它们是无偏的，并反映了它们将被使用的不同文化。数字鸿沟也需要得到解决，以免低收入家庭的学生被落下。
我知道很多老师担心学生在使用 GPT 来写作文。教育工作者已经开始讨论如何适应这项新技术，我猜这些讨论还将持续一段时间。我听说过一些老师已经找到了聪明的方法来将这项技术融入他们的工作中，例如允许学生使用 GPT 创建第一稿，并将其个性化。
人工智能的风险和问题
你可能已经读过关于当前人工智能模型存在问题的报道。例如，它们不一定擅长理解人类请求的上下文，导致一些奇怪的结果。当你要求 AI 编造一些虚构的事情时，它可以很好地完成。但是当你要求它给你旅行建议时，它可能会建议一些不存在的酒店。这是因为 AI 不足以了解你请求的上下文，以便知道它是否应该编造虚假酒店，还是只告诉你有空房的真实酒店。
还有其他问题，例如 AI 因为难以理解抽象推理而给出错误的数学问题答案。但这些都不是人工智能的根本局限性。开发人员正在解决这些问题，我认为我们将很快看到它们被大部分解决，可能在不到两年的时间内。
其他问题不仅仅是技术问题。例如，使用 AI 人类可能会构成威胁。像大多数发明一样，人工智能可以用于善良的目的或恶意的目的。政府需要与私营部门合作，限制风险。
还有可能出现 AI 失控的情况。机器会否决定人类是威胁，得出结论其利益与我们不同，或者只是不再关心我们？可能会，但这个问题今天并不比过去几个月的 AI 发展更紧迫。
超级智能人工智能（AGI）将出现在我们的未来。与计算机相比，我们的大脑运作速度极慢：大脑中的电信号速度是硅芯片信号速度的 1/100,000。一旦开发者能够概括一个学习算法并以计算机速度运行它 —— 这可能需要十年或一百年 —— 我们就会拥有一个极其强大的 AGI。它将能够做到人脑可以做到的一切，但不受记忆容量和操作速度的实际限制。这将是一种深刻的变革。
这些被称为 “强 AI” 的人工智能可能能够确立自己的目标。那些目标会是什么？如果它们与人类的利益冲突会发生什么？我们应该试图阻止强人工智能的发展吗？这些问题将随着时间的推移变得更加紧迫。
但是，过去几个月的突破并没有使我们距离强 AI 实质上更接近。人工智能仍然无法控制物理世界，也不能确立自己的目标。最近有一篇关于与 ChatGPT 交谈的《纽约时报》文章引起了很多关注，其中 ChatGPT 表示它想成为人类。这是一个有趣的观察，表达了该模型情感上的人类特点，但它不是有意义的独立指标。
三本书塑造了我自己对这个问题的思考：Nick Bostrom 的《超级智能》，Max Tegmark 的《生命 3.0》和 Jeff Hawkins 的《一千个大脑》。我不完全同意这些作者的观点，他们也不互相认同。但是这三本书都写得很好，引人深思。
下一个前沿领域
未来将会有大量公司致力于开发新的 AI 应用以及改进技术本身。例如，一些公司正在开发新的芯片，为人工智能提供所需的大量处理能力。其中一些芯片使用光学开关 —— 实质上是激光器 —— 以减少能量消耗并降低制造成本。理想情况下，创新型芯片将允许您在自己的设备上运行 AI，而不像今天一样在云端运行。
在软件方面，驱动 AI 学习的算法将变得更好。在某些领域（例如销售），开发人员可以通过限制 AI 工作的范围并给它们提供特定于该领域的大量训练数据，使其变得非常准确。但一个重要的未解决问题是，我们是否需要为不同的用途开发许多这些专门的 AI—— 比如一个用于教育，另一个用于办公室生产力 —— 或者是否可能开发出一种人工智能通用型，可以学习任何任务。在这两种方法上将会有巨大的竞争。
不管怎样，AI 的话题将在可预见的未来占据公众讨论的中心。我想建议三个原则来引导这个讨论。
首先，我们应该尝试平衡关于 AI 的不良影响的担忧 —— 这是可以理解和有效的 —— 与其改善人们生活的能力。为了最大程度地利用这项卓越的新技术，我们需要在抵御风险和将利益扩展到尽可能多的人之间取得平衡。
其次，市场力量不会自然产生帮助最贫困人口的 AI 产品和服务。相反，更可能的是相反的情况。通过可靠的资金和正确的政策，政府和慈善组织可以确保利用 AI 减少不平等。就像世界需要其最聪明的人关注其最大的问题一样，我们需要将世界上最好的 AI 集中在解决最大问题上。
虽然我们不应该等待这种情况的发生，但思考人工智能是否会识别不平等并尝试减少它是有趣的。在看到不平等时，你需要有一种道德意识，还是一台纯粹的理性人工智能也能看到它？如果它确实认识到不平等，它会建议我们采取什么行动？
最后，我们应该记住，我们只是在人工智能可以实现的开始阶段。无论它今天有什么限制，它都将在我们不知不觉中被消除。
我很幸运参与了个人电脑革命和互联网革命。我对此时此刻同样感到兴奋。这种新技术可以帮助世界各地的人们改善生活。同时，世界需要确立规则，以使人工智能的任何不利因素远远超过其好处，并使每个人都能享受到这些好处，无论他们住在哪里或拥有多少钱。人工智能时代充满了机遇和责任。”
