刘慈欣问了蚂蚁金服一个问题:如果AI是油门,什么是刹车?-阿里云开发者社区

开发者社区> 阿里味儿> 正文

刘慈欣问了蚂蚁金服一个问题:如果AI是油门,什么是刹车?

简介:

前几天有位蚂(ke)蚁(huan)同(mi)学(mei)中午下楼拿外卖,和一个中外混合团擦肩而过,路过时没细看,后来才知道这群人里有多位她的偶像科幻作家,感慨为啥没抬头多看几眼。闹~你看就是这群人!

efd8dc1c040d1e5b19547c392ddc176e0f913515

事情是这样的:12月初的时候,蚂蚁金服的同学邀请了一群天马行空的世界一线科幻作家来“玩”,并与来自蚂蚁金服F LabAI、生物识别等团队的技术小二以及技术大牛们比脑洞。

当天中国科幻领军人物刘慈欣一开场,就抛给了大家一个问题:“如果AI是油门,那么什么技术是刹车呢?

04e9cd22acc33410820876f3c0125261f6fd18f2

蚂蚁金服CTO鲁肃说他从小就是科幻迷,许多儿时的想象已经变成现实。现在是关键的时间点,技术在根本上改变世界。计算机能力的增强,物联网、物理、数字世界的融合。这到底是好是坏,有一些想法也期待与科幻作家们一同探讨。

36138086bd1e36d604f55df19ea6b74a034f454f

“我听到很多人都在谈论人工智能的奇点,个人认为奇点还离我们很远。但只要没有相关的法律法规约束,人工智能产生自我意识是迟早的事情。”蚂蚁金服基础平台部首席架构师何昌华是这么看嗒。

令人意外的是,与技术团队谨慎的态度不同,经常在小说中幻想技术毁灭人类的科幻作家们在现实中却更为乐观。

49008a7b6d69e371436590b6da8a61dde15791b3

中国更新代科幻作家代表、全球华语科幻星云奖最佳长篇科幻小说金奖得主江波 —— 完全遵守机器人三定律的人工智能很可能是不够灵活的,未来人工智能的应用可以考虑在系统的风险管理基础上,创造出更灵活更有用的机器人。”

8abdc41c2ed59c35e6a33744de1040c887172ad7

中国更新代科幻作家代表人物陈楸帆 ——也许我们看待这些问题的视角太人类中心主义,拘泥于我们现在的存在形态。人工智能和各种技术都是人类文明的一部分,我们应当将其视为我们的延伸。用发展来解决发展中的问题可能更实在有效。

25575b8b2401887431fbbc56c2ed191f4ebf360e

加拿大硬科幻作家、极光奖获得者德里克·昆什肯——美国大选以来,我们看到社交媒体上充斥着大量假新闻。而信息流算法让人们处于自己创造的信息孤岛中。在讨论区块链时,我想到我们也许可以借助它的可追溯性,帮助我们探究和验证事实。技术造成的问题也许可以用其他技术解决。 对于什么是好的未来这个问题,德里克更加关注明天的科技可以解决今天的什么现实问题。

8fecc6ae31558645659d5bcfaffd59e9a61bd16d

美国科幻作家、艺术家陆秋逸——如果人工智能可以把人类从劳动生产中解放出来,我们则应该去创造艺术、音乐,这是才符合人类的天性和特点的工作。许多想要写作的人白天要工作,没有时间写,技术可以成就他们。

72824cce14811cedcecb0aff21a349da5821c3e9

多次获得雨果奖和星云奖提名的美国科幻作家、历史学家卡罗琳·艾夫斯·吉尔曼——科幻作品对未来有两种作用,第一是警告,第二则是激励,我更喜欢第二种作用,想像一个糟糕的未来很容易,而想像美好的未来则难得多,但只有想像好的未来,我们才有可能去实现愿景。

ba050c29f567f0021c6e8a65fa6f77870d85aa53

澳大利亚科幻作家、数学家萨曼莎·莫里——技术赋能可给人类带来更多可选择的权利,我认为这非常重要。

117ca589b9e122c311b02b9bcbd2a5f39852af7d

中国科幻作家七格——回到古希腊,那些哲人如何定义“好”。如果人为了安全和AI融合,甚至不再是碳基,这是一件好事吗?一些我们认为好的是也许不是自然的。所以很难回答。

064276c084a9bbeaceaeb0aadf6760f444415d4f

美国科幻奇幻协会董事、科幻作家劳伦斯·M·舍恩——我这两天在蚂蚁金服看到的是大家都在说科技赋能,这非常鼓舞人。蚂蚁正在做的事情正是用科技创新把更多选择权交到人们手上。科幻作家都是乐观的,我们所做的选择和选择权本身就是乐观的来源。我对蚂蚁金服的技术团队将要做出什么样的选择非常感兴趣。我们科幻作家在想像未来,而你们才是实现未来的人。

f544ad5ad73c3b93dd0a2b2e90a738a261cb5ff3

舍恩还体验了智能餐桌,他才发现未来其实就在眼前,他兴奋地说,自己2007年出版的第二本小说中就想像了这种餐桌——一群语言不通的外星异族人通过智能餐桌省去和服务员交流的过程,便捷地了解菜单,点好食物。随后,他感慨:“现在科幻小说家越来越难当了,小说中的场景在越来越快地变成现实,逼我们要想得更远。”

2800fa185b1a3fc3376c4f8e3a890745ecf48e3e

科幻作家们还去杭州万象城K-Pro餐厅观摩了支付宝刷脸支付。

7e14a8aba4bce2c918c0ee494acb3ed480b660e8

VR Pay 也让科幻作家们很感兴趣。

9e72f8dd7269025d212e026c31e0cd24918180de

与蚂蚁金服AI同学交流后,不久前刚刚以《银河之心III》获得28届中国科幻银河奖最佳长篇小说奖的江波半开玩笑地说:“我下一步小说的主人公就以你为原型啦。一个最后变成了人工智能的人工智能研究员!”

852e8c600c1b1864a7095cd1df39c8d30819a19f

蚂蚁金服科幻工作坊、蚂蚁CTO鲁肃与国内外科幻作家合影时还摆出了星际迷航中瓦肯星人的祝福手势“生生不息,繁荣昌盛”(Livelong and prosperous

“你觉得AI是油门的话,什么技术是刹车呢?”

大刘的问题,来看看阿里小二是怎么回答的呢?

小二久雅:

如果AI都是油门的话,刹车就先定成发个十篇SCI吧?

小二空色:

如果老司机加油门用AI,那么刹车肯定是……老婆来了

小二绕白:

如果AI是油门,人类价值观和普世的道德观会是刹车。

小二陆沉:

AI是油门,爱是刹车。

小二吕蒙:

AI是油门,刹车就是……联调环境不稳定。


原文发布时间为:2017-12-18

本文作者:科幻橙

本文来自云栖社区合作伙伴“阿里味儿”,了解相关信息可以关注“阿里味儿”微信公众号

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
+ 订阅

官方博客
官网链接