Bengio 和 LeCun 都认为深度学习系统未来能够进行推理，但 Bengio 的信心来源更加具体——「从生物学和人类智能中获得更多的灵感」。
85 岁的图灵奖得主 Raj Reddy 参加了最近举行的第九届海德堡获奖者论坛。他发出由衷感叹：「我在人工智能领域工作了近 60 年，没想到这种技术会在有生之年实用化。」
10 年前，也就是 2012 年，深度学习取得了突破。当时，一种基于多层神经网络的图像分类创新算法突然被证明比之前的所有算法都要好得多。这一突破使得深度学习在语音和图像识别、自动翻译和转录以及机器人等领域得到应用。
随着深度学习被嵌入到越来越多的日常应用中，越来越多可能出错的样本也浮出水面：人工智能系统会进行歧视，制定刻板印象，做出难以捉摸的决定，并需要大量的数据，有时还需要大量的能源。
在此背景下，第九届海德堡获奖者论坛为来自 50 多个国家的约 200 名青年研究人员组织了一场关于深度学习的应用和影响的小组讨论。包括图灵奖获得者 Yoshua Bengio、Yann LeCun 和 Raj Reddy，2011 年 ACM 计算机奖获得者 Sanjeev Arora，以及研究人员 Shannon Vallor、Been Kim、Dina Machuve 和 Shakir Mohamed 都参与了讨论。
Meta 首席 AI 科学家 Yann LeCun 是小组成员中最乐观的：「有很多人声称深度学习不能做这个或那个，而这些说法在经过几年的工作后大多被证明是错误的。过去五年，深度学习已经能够做到我们所有人都想象不到的事情，而且进展正在加速。」
LeCun 举例说，Meta 公司旗下的 Facebook 现在能自动检测出 96% 的仇恨言论，而大约四年前，这个比例只有 40%。他把这种改进归功于深度学习。「我们每天都受到大量信息的轰炸，而且这种情况只会越来越严重。我们将需要更多的自动化系统，使我们能够筛选这些信息。」
英国爱丁堡大学教授 Shannon Vallor 则反对 LeCun 的观点，即技术只是向前发展，它似乎有自己的意志，而社会只需适应。「这正是我们陷入某些问题的原因。技术可以走很多分叉的道路，人们决定哪条分叉路是最佳的。深度学习系统是人类根据自己的价值观、激励措施和权力结构建造和部署的彻头彻尾的人工制品，因此我们要对它们负全责。」
对深度学习的批评之一是，虽然它擅长模式识别，但目前不适合进行逻辑推理，而老式的符号 AI 却适合。然而，Bengio 和 LeCun 都认为没有理由不能让深度学习系统进行推理。正如 Bengio 所观察到的，「人类也在他们的大脑中使用某种神经网络，我相信有办法通过深度学习架构达到类似人类的推理。」
然而，Bengio 补充说，他不认为仅仅扩大现今的神经网络就足够了。「我相信，我们可以从生物学和人类智能中获得更多的灵感，以弥补当前人工智能和人类智能之间的差距。」
普林斯顿大学的理论计算机科学家 Sanjeev Arora 补充说，不仅仅是深度学习还不能推理，其实我们也不能推理深度神经网络。Arora 说：「我们需要更多地了解深度学习系统的黑匣子里面发生了什么，而这正是我正在努力做的事情。」
Raj Reddy 是迄今为止参与人工智能社区时间最长的小组成员，他从 20 世纪 60 年代起就参与了人工智能先驱约翰 · 麦卡锡的博士研究工作。Reddy 认为杯子是半满的，而不是半空的。「深度学习的一个重要应用是帮助了社会金字塔底部的人。世界上大约有 20 亿人不能阅读或书写。各种语言技术现在已经足够好用了，比如语音识别和翻译。我在这个领域工作了近 60 年，没想到这种技术会在有生之年实用化。十年后，即使是文盲也能阅读任何书籍，观看任何电影，并与世界上任何地方的任何人用他们的母语进行对话。」
然而，对于深度学习技术来说，处理较小众的语言仍然是一个未解决的问题，因为可用的数据要少得多。数据科学顾问 Dina Machuve 说，仅在非洲，就有 2000 种语言，但没有人工智能技术可用。重要的是要进入一个社区，看看什么对该社区有用，所以在为非洲寻找深度学习应用时，Machuve 集中于图像应用方面——「我们已经开发了基于图像识别的家禽疾病和农作物疾病的早期检测系统。」
不幸的是，在许多方面，非洲仍然是深度学习研究和部署中「缺失的大陆」，DeepMind 的研究员 Shakir Mohamed 补充说。「我们统计了 2006 年至 2016 年期间，在著名的神经信息处理会议 NeurIPS 上，有多少来自非洲人的论文被提交，答案是：0。拉丁美洲也是如此，或许是 1 篇。我希望你们所有人，无论你们在哪里，都能认真对待代表性的问题，谁在做这项工作，在哪里做，以及如何与他人分享你们的经验。」
谷歌大脑的研究科学家 Been Kim 说，她希望大家认识到，深度学习并不是一个可以解决所有社会问题的神奇工具。事实上，她观察到，「可能有比机器学习更适合你所遇到问题的非 AI 解决方案。你要停下来质疑：这是正确的工具吗？」
当被问及普通大众应该知道什么是人工智能及其前景时，Mohamed 说：「未来还没有被决定。我们仍然可以创造和塑造未来，这就是我们应该永远记住的。」
原文链接：https://cacm.acm.org/news/265733-deep-learning-is-human-through-and-through/fulltext
