如何去推开与AI共生的大门-阿里云开发者社区

开发者社区> 机器智能技术> 正文

如何去推开与AI共生的大门

简介: AI 更像是一个在努力成长却不够成熟的孩子,它前进的步伐,取决于“原生家庭”指引的方向,也有无数的人在为AI的向阳而生而奋斗着。

--------点击屏幕右侧或者屏幕底部“+订阅”,关注我,随时分享机器智能最新行业动态及技术干货----------

2.png

“在这普通的一天,我用普通的钉钉,很普通地和同事视频连线;打开普通的软件,普通地购买生鲜;普通的 AI 在普通地检测谁在发烧……”如果把红遍全网的 B 站名曲《普通 Disco》改编成 2020 版,或许就是这样。

这种的日子放在十年前还很新鲜,现在确实只是“普通的一天”。

科技已经进入到我们生活的方方面面,正如支付宝首席 AI 科学家漆远在好奇心圆桌派上说的那样,人工智能正在变成数字经济生活的基础设施之一,智能化服务对社会的助力真实可见,更多变化在未来的五到十年时间里会大规模地发生。

AI 该是什么样子?在顶尖 AI 科学家漆远和雨果奖知名科幻家郝景芳眼中,AI 更像是一个在努力成长却不够成熟的孩子,它前进的步伐,取决于“原生家庭”指引的方向,也有无数的人在为 AI 的向阳而生而奋斗着。

昨天,各大直播网站发布了一场名为“好奇心科技”的圆桌对谈。当一位科学家,一位科幻家,和一位B站人文类 UP 主,为人类与 AI 的将来聚到一起,他们在谈些什么?

AI,“严重偏科”的小孩

人们提起 AI,会想到科幻电影里冰冷的机器人,会想到藏在手机里的 Siri,也会想到在抗疫过程中的一系列 AI 应用。它进化飞快,时时带给人惊喜,有时也带去意外。

那在中国一流的科幻作家眼中,现在的 AI 是怎样的?

《北京折叠》拿下雨果奖之后,郝景芳出版了以人与 AI 为主题的《人之彼岸》,把目光更多地投向AI的发展。她在圆桌现场强调,目前的 AI 在某一方面异常优秀,在其他方面却不如小孩子,是一个“偏门的天才”。

正如她在《我们离超级人工智能到来还有多远》一文中提到的那样:

从某种程度上来说,人工智能目前就像电影《雨人》中那类自闭的孩子,一眼就数得清地上的牙签,能心算极大数字的乘法,背得下来全世界的地图,却答不出有关自己的问题。它只懂研究每秒 300 盘的棋路,却不知道“我正在下棋”这件事。

深耕人工智能领域数十年的漆远有着类似的感受,他认为,现阶段的 AI 更像是“一个严重偏科的孩子”。

image.png

支付宝首席AI科学家 达摩院金融智能负责人 漆远

这种偏科首先表现在了跨领域、跨专业的学习上,它在某一知识领域会非常精通,但跳出这个领域就可能会有些傻。学围棋和学英语,人可以同时学会,但一个已经学会下棋的神经网络再去学英语,可能就丢失了原来的技能。

因此,多任务学习技术成为现在人工智能的方向之一,漆远解释称,这就像是学过围棋之后去学五子棋,二者背后有很多可以相互借鉴的地方,这种类似的任务就可以让 AI 通过算法把不同任务间共通的和不同的自动学习出来,提升完成每个任务的能力。

郝景芳的另一个身份是童行学院的创始人,儿童教育经验丰富的她笑称这种“把相近学科之间共通的思维能力拎出来教给 AI ”的做法,像是人工智能界的“通识教育”。

AI 的“偏科”,更体现在了“重数据学习、轻推理能力”上。

在郝景芳看来,AI 通过大数据学会了如何找相关性,学会数学层面上的推理,但恰恰就不擅长与人类社会有关的推理。

假设现在有一个人被扇耳光了,在场其他人都会猜事发的原因,可能经常猜得八九不离,但 AI 未必猜得出来。因为像扇耳光的动作含义、双方可能的关系,都属于生活中积累下来的经验,AI 很难在这种生活情境中对日常的因果关系做出准确判断。

漆远也有同感。在他看来人工智能如今最突出的表现之一,其实是用海量数据“堆出来”的强大记忆力,达到某种程度上的“见多识广、学识渊博”。它能在“见过”一万张猫脸图片之后,顺利识别出新的猫脸,就是记忆力的体现;但在逻辑推理能力上有所欠缺。

“就像那种被高考机器惯出来的孩子,学习了大量知识点之后,做题很快,但缺乏常识和基础的情商。”漆远说。

人与 AI 的「共生未来」

电影《Her》的“女主角”被设定成 AI,她在男主角身上习得了更多知识,进化迅速,最后离他而去。

AI 诞生以来,这样的焦虑被呈现在各种科幻作品里。本场圆桌的主持人,UP 主“闪光少女斯斯”也由此抛出了一个“灵魂拷问”:

如果 AI 的发展速度超过人类了,它会抛弃我们吗?

“(人与AI)应该是互惠共生的一种关系。”在郝景芳看来,这类似于动物与植物的关系,各自吐出二氧化碳和氧气,实现碳循环;双方在交互中可能会有一些小型冲突,但不会发生人类智能和人工智能的整体性冲突。

她接着开出了“新脑洞”:随着脑机接口等技术的发展,人类将会看到自己的数字大脑不断地与 AI 发生数据交换;比起 AI 实体化“冲入”现实世界,虚拟人格与 AI 在虚拟世界中频繁交互,共生于数字世界,这是未来的 50-100 年间必然会发生的一件事情。

image.png

左:第74届科幻雨果奖得主 童行学院创始人 郝景芳

右:女性人物纪实节目《闪光少女》创始人 斯斯

漆远给出了更确定的答案:“这种(人工智能)俯视人类的感觉,在可见的未来里,我认为不会发生——人和机器会在一起,定义一个共同的未来。”

当我们必将进入人与 AI 共生的时代,AI 会从那个“偏科”的孩子长成什么模样?

在这两位科学家和科幻家看来,人工智能正在成为数字化生活的基础设施,挖掘数据背后的规律,产生价值,通过不同场景服务于,对社会的智能化改造也会在不远的将来里大规模地发生,很多技术也在处在研发进行时。

郝景芳这样描绘她心目中的未来人工智能服务:像是每天早上你走进办公楼,大门识别到你了,通知三楼的咖啡机,等你到了三楼就有一杯咖啡可喝,也准备好了一系列服务,并不见得一定要有一个两条腿的机器人在门口迎接你。

漆远对 AI 成长趋势的研判就更“技术宅”一些,他首先提到AI会从纯数据驱动,变成数据和知识推理的“双轮驱动”。

正如前文提到的那样,AI的逻辑推断“短板”会被补上,能力更加平衡,人类的知识经验沉淀为大量规则,将与算法一起让 AI 变得更有“常识”和“情商”,会成为接下来的主要发展方向之一。

其次,是从隐私保护出发,试图在确保数据安全的同时产生数据价值。

用人的身体打个比方,DNA 是一个人最隐私的数据,这甚至比长相(人脸数据)更隐私。如果要解决很多重大疾病,绕不开理解和研究 DNA ——但矛盾也同时出现:如何在保护隐私的情况下,能够产生和分析这种基因和 RNA 的数据,来开发更好的药品和疫苗?

如何平衡隐私保护和数据使用,人工智能学术界和工业界其实已经获得了一些技术成果,隐私保护机器学习、共享智能、联邦学习、安全多方计算等都与这一议题紧密相关。

支付宝 AI 就将共享智能技术,率先落地在业务敏感度颇高的金融风控场景。中和农信借此大幅度提高了风控性能,把原来传统的线下模式转为线上自动过审,大规模提升了风控能力,8 个月累计放款 31.9 亿,授信成功人数 44 万。

这类技术的思路,就是在保证各方隐私的情况下,将他们的数据价值提取出来,打破数据孤岛,产生数据融合的大价值。

它的运行原理可以用羊吃草来类比:机器学习模型是羊,数据是草。过去某种做法是,羊不动,草被购买到中心;更安全的做法是让草不动,让羊动,也就是说模型去不同的草场去访问,草不出草场,也没有人知道羊吃了哪些草,羊仍然能够顺利长大。

第三大发展方向,是 AI 需要更“皮实”,必须成长为经得起攻击的博弈智能体。

2020 年是黑天鹅的一年,在数字经济进一步推进的同时,黑产猖獗,造假升级,deepfake 和内容风险……抵御不同方向的风险,是 AI 大有作为的方向。在漆远看来,不确定性正是这些风险爆发的关键之一,也是如今机器学习面临的挑战,

正如孩童长大成人,进入社会,要变得不再脆弱,任何一项技术在真正走向使用时也必须更可靠、更广泛适用、更经得起打击。而贝叶斯机器学习就是将不确定性和小概率事件的研究,和推理能力、理解能力结合到一起,实现对AI对抗攻防能力的提升。

漆远所在的支付宝安全实验室,开发了把博弈论和深度学习结合的智能攻防算法——这是世界上首次把深度学习引入博弈论,他们也借此在德州扑克小实验达成世界领先的水平。

同时,红蓝攻防这种“左右手互搏”的形式也纳入了支付宝安全实验室的日常 AI 演练,让系统在对抗和错误中学习成长,做到在对手“魔高一尺”的时候,让自己的 AI “道高一丈”。

这些正在发生的技术变革,又对“人机共生时代”意味着什么?

“AI 就像是我们的朋友一样,在帮助我们做判断和辅助,成为了一个智能伙伴。”郝景芳提到,AI 帮助大众加固最基础的“安全工事”,人机共生的前景会更开阔明亮。

刹车在哪儿?

对谈的最后,漆远与郝景芳谈起了本场圆桌的名字:好奇心。

在他们眼中,好奇心是探索世界的初心,好奇心是探索过程中疯狂运转的大脑和释放的多巴胺,它推着原始人向前进化,推着孩子去思考和学习,人类对自身和对所有外部世界的好奇都在推动所有领域的科学探索。

但只有好奇心,让 AI 这些先进技术只会“向前冲”,可以吗?

“没有敬畏之心做底线,其实就没有未来。”漆远谈到,一个科研者应有的价值取向,就是好奇心、敬畏心和普惠。

就像汽车有引擎,也会有刹车,路上会有红绿灯,如果 AI 像引擎一样在推动社会的发展,就必须有这些安全系统,否则就有失控的可能。

另一方面,AI 本身又能够提升安全技术,可以使安全“刹车”更智能——AI 和安全,其实是相辅相成的关系。若没有安全性和稳定性的保护机制,再迅猛先进的科技也不过是空中楼阁。

让 AI 变得更有“常识”和“情商”,变得更尊重数据隐私,变得更平衡、更稳定、更抗打击,其实也都是为了安全这同一个目标。

当假新闻层出不穷,当眼见为实不再有意义,技术能给人多少安全感,研发者的价值取向显得尤为重要。

郝景芳感慨道,技术本身并没有善恶之分,但技术能放大人性的恶,也能放大人性的善——就像一把菜刀,成为厨房好物还是成为凶器,选择权在人类手中。

人的成长有欲望的驱使,而人工智能只有人类给它设置的“目标函数”。把“帮助更多人、服务更多、永远不伤害更多人”都写在目标函数里,其实才是真正的共生。

漆远认为给人工智能设定好的目标函数至关重要,长远而言,要把对人的善意和公正写进去—而人工智能的公平性研究也日益重要。这给目标函数就相当于一个公司的使命和愿景,是他们马不停蹄想要前往的目的地。

对漆远和他所在的支付宝而言,这个目的地就写着“普惠”二字。好奇心带来探索,敬畏心带来克制,两方的平衡让技术像自行车一样平稳地向普惠驶去——科技发展至今,其实也沿着这条清晰可见的脉络在行进。

他在圆桌中分享的一个案例,令我们印象深刻。

一位农民在自己 50 岁那年,迎来了生命中的第二个「大件」物品——一台三轮车,第一件是家里的 19 寸老式电视机。

这辆价值一万七千元的三轮车,花去了他信用贷款3万元中的一大半,但他靠三轮车跑运输,不仅把钱按时还上了,还改善了自己和 80 岁母亲的生活。

image.png

这也只是中国绝大多数农户的一个缩影。由于缺乏信用数据积累,没有银行流水、资产证明、抵押物等,他们被传统的金融服务拒之门外,而支付宝一直在借助科技的力量服务这些人群和小微企业们,践行普惠金融的目标。

科技的善恶,其实并不由那些复杂的数据和计算,而是取决于它是否放大了人的善念,是否让普罗大众享受到了科技进步的价值,是否有科技力量落到实处,化作普惠这一盏灯,照亮他们的生活。

image.png

文章来源:https://yqh.aliyun.com/detail/15971

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
机器智能技术
使用钉钉扫一扫加入圈子
+ 订阅

阿里云机器智能研究领域主要围绕机器学习等前沿技术开展理论与应用研究。《机器智能技术》圈子基于阿里巴巴达摩院的技术沉淀,围绕【研究报告】、【前沿技术】、【应用案例】、【行业新闻】、【传奇人物】多个方向为广大开发者贡献干货内容。

官方博客