蚂蚁金服和世界一线的科幻作家聊了聊:技术与好的未来-阿里云开发者社区

开发者社区> 蚂蚁金融科技> 正文

蚂蚁金服和世界一线的科幻作家聊了聊:技术与好的未来

简介: “奇点”将临的技术发展高速路上,刹车在人类手中吗?

1

程序员并不都是技术至上的“死理性派”,而科幻作家对未来的看法可能比我们想象中要乐观。

12月1日下午,来自世界各地的一线科幻作家来到杭州,和蚂蚁金服首席技术官程立(花名鲁肃)领衔的技术团队以及国内的科幻作家一起,探讨飞速发展的科技将把人类带向何方。

“汽车问题”

对谈以两个“汽车问题”开场。
中国科幻领军人物刘慈欣在向会场发送的一段视频中,向所有的来宾提出了问题:假如未来是一辆高速行驶的汽车,而人工智能技术是它的油门的话,那什么技术能成为这辆汽车的刹车?

鲁肃也是一个从小就读过《小灵通漫游未来》的科幻迷。他说,我们正处在技术发展的一个关键时期。在过去的科幻小说中,我们总在想像技术给物理世界带来的改变。近几年来,人们发现技术正在从更根本的层面改变世界。一方面,我们掌握的计算能力越来越强,另一方面,物联网技术促进了物理和数字世界的融合,数字技术的价值和影响因此变成了一个重要的课题。

他提出了一个更具体的问题:无人驾驶技术几年后就将成为现实,我们如何避免这一技术可能带来的人身伤害?

克拉克奖、坎贝尔纪念奖、轨迹奖获得者、英国科幻作家伊恩·R·麦克劳德如此回应大刘的问题——我们不能完全脱离物理世界,踩下油门加速行驶也会受到环境和地球资源的限制,也许这些限制就是我们在通往未来的道路上不得不踩的刹车。

总是在为人类设想各种未来的科幻作家显然都很清楚这两个问题背后的深意:技术的飞速发展对人类的未来来说,到底是好是坏?人类是否有能力让技术这辆“汽车”行驶在正确的方向上?

加拿大硬科幻作家、极光奖获得者德里克·昆什肯表示,我们目前设想的很多机器可能会犯的错误,其实人类也一直在犯。“我拿到驾照的时候车还开得不太好,但最后还是通过了考试拿到照。”他强调技术并非完美的,我们要接受这种不完美,需要定义一个可接受的风险,并选择拥抱技术革新。

多次获得雨果奖和星云奖提名的美国科幻作家、历史学家卡罗琳·艾夫斯·吉尔曼说,科幻作品对未来有两种作用,第一是警告,第二则是激励,而她更喜欢第二种作用,“希望无人驾驶赶快实现,我盼这天盼了好久了!”

2

技术与平等

“选择”是当天对谈中,频繁出现的一个词。技术无关善恶,但人类不同的选择可能带来不同的结果。

美国科幻奇幻协会董事、科幻作家劳伦斯·M·舍恩说,这几天的蚂蚁金服之行,看到大家都在谈科技赋能,这让他很受鼓舞——将选择权交到更多人手中,让普通人面对技术的飞速进步时,也可以选择的机会,这将有助于社会向着更为平等的方向发展。

平等问题是古往今来众多文学作品探讨的问题,也是科幻小说从一开始就关注的命题,因此科幻作家们纷纷发表观点。澳大利亚科幻作家萨曼莎·莫里表示她很高兴看到科技赋能给普通人带来更多选择。美国华裔科幻作家陆秋逸说,在数字空间里,也和现实社会一样,存在不同需求的平衡问题。在一个产品或者系统中设定的规则,不可避免地会有益于一些人,也会让另一些人的利益受损,关键是我们怎么去平衡这些需求。

陆秋逸的发言让昆什肯想到加拿大的情形。他说,2016年美国大选之前,他一直相信技术是进步的力量,但近一年多来,互联网显现出了它在割裂社会群体上的作用,这让他认识到技术的两面性。他认为,技术发展的同时,相应的法律制度、社会规范必须及时跟上。

赛博空间新定律

对谈过半,围绕如何不让技术失控展开的话题更加深入了。

鲁肃可能已经想过这个问题,包括阿西莫夫的三大定律如何在数字世界中实现。他说,第一定律很简单,机器人不得伤害人类,但在人工智能中实现这个定律,涉及到许多复杂的问题。他说,人类在创造数字世界时要回顾历史,要想想现实世界中的各种宇宙定律和常数。人类的存在至今是这些定律共同作用的结果,而对它们进行哪怕是十分微小的改变,都可能造成截然不同的结果。

“作为数字世界中定律的设计者,我们也需要建立一些基本定律,使数字世界能够像现实世界一样安全,”他说。

吉尔曼深以为然,她说有的观点认为技术是一种不受人控制的力量,我们无法控制技术带来什么样的未来,但她认为数字世界之外的现实世界始终存在,我们对掌控数字世界的发展方向负有责任。

不久前刚刚以《银河之心III》获得第28届中国科幻银河奖最佳长篇小说奖的江波认为,完全遵守机器人三定律的AI很可能是不够灵活的,未来AI的应用可以考虑在系统的风险管理基础上,创造出更灵活更有用的机器人。

舍恩说,我们不能改变现实世界的物理定律,但是作为一个心理学背景的科幻作家,他知道人们可以用不同的方式阐释这些定律,也可以用新的方式利用这些定律。

当他作为催眠治疗师和客户谈话时,他告诉他们,这样的治疗是通往生活中新的可能性的大门。技术也是一样,我们同样可以选择如何发展和利用技术,从而形成人和技术共赢的局面。

他说,我们在数字世界中面临的问题将与在物理世界中遇到的不同。在数字世界中,我们拥有与现实世界中不同的能力,我们应当用这些能力做什么呢?这是我们需要做出的选择,而每一个选择都会打开一些新的门,又关上另一些。

舍恩对蚂蚁金服的技术团队将要做出什么样的选择非常感兴趣。他说:“我们科幻作家在想像未来,而你们才是实现未来的人。”

中国科幻作家七格将大家的讨论又拉回了哲学层面。他说,之前的讨论都有一个价值观上的假设,我们似乎都认为"好"是一个预先定义的概念。但随着技术的发展,"好"的概念从古希腊到现在一直在变化,将来也会继续改变。

中国更新代科幻作家代表人物陈楸帆的立场更为乐观。他说,也许我们看待这些问题的视角太人类中心主义,拘泥于我们现在的存在形态。人工智能和各种技术都是人类文明的一部分,我们应当将其视为我们的延伸。“在面对深沟时,也许要全力加速、奋身一跃,才能跨过障碍,犹豫不决反倒容易掉下悬崖。”他表示用发展解决发展中的问题,也许更加现实。

舍恩说,科幻作家设想不同的情景,在作品中讨论实现这些情景带来的问题和需要克服的障碍,并在克服问题的过程中有所收获。科幻作家的乐观态度就来源于此。重要的是,我们每个人拥有选择的权利,这是人类整体继续前进的前提。

正如吉尔曼所说:“想像一个糟糕的未来很容易,而想像美好的未来则难得多,但只有想像好的未来,我们才有可能去实现愿景。”

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:

蚂蚁是一家旨在为世界带来普惠金融服务的科技企业。

官方博客
链接