为拯救爸妈朋友圈,达摩院造了“谣言粉碎机”-阿里云开发者社区

开发者社区> 阿里技术> 正文
登录阅读全文

为拯救爸妈朋友圈,达摩院造了“谣言粉碎机”

简介: 生命不可能从谎言中开出灿烂的鲜花。

image


生命不可能从谎言中开出灿烂的鲜花。

前几天,母上大人给我发了条消息,再三叮嘱帮忙扩散,随手解救癌症患者。

“速转!科学家发现:一味中药48小时可杀死60%癌细胞!”

回复框里,我打了一段长长的反驳文字。在按下发送前沉思良久,为了保住每日的晚饭,我又默默删除了。

image

母上大人的朋友圈,啥都不说了

从那句熟悉的“狼来了”开始,谣言开始在我们生活无孔不入,一些不坏好意的人,把谎言变成一张漂亮的包装纸,裹挟着诈骗、虚荣、不怀好意,肆意横行:

当全民疯抢板蓝根食盐白醋,终日人心惶惶;

当“养生秘闻”“200%理财回报”充斥在朋友圈,无数养老钱血本无归;

当“寒门状元之死”透支人们对世界的信任;
......

人们被迫练就了一身硬邦邦的铠甲,一边斜眉冷视周围的世界,一边草木皆兵地生存。宁可信其有,不可信其无。

然而,总有人想改变这一切。达摩院的科学家们最近在用AI识别谣言的研究上,有了一些小突破。

“谣言粉碎机”,也许离我们并不遥远?

(1)

在了解到这个信息后,我第一时间采访到了达摩院NLP团队的核心成员之一——李泉志,他本科毕业于清华大学,后在美国获得自然语言理解方向的博士学位,目前在达摩院的西雅图办公室工作。

image

李泉志,达摩院智能实验室科学家

在加入达摩院前,他曾是世界级通讯社——路透社重要的“情报官”:通过机器筛选成千上万的网络信息,为数千位一线记者提供可靠线索。

借着这个难得的机会,我“假公济私”,请泉志使用算法鉴定我妈发来的新闻真假,还原“打假”现场。

在泉志的详细说明下,一个令人惊叹的“打假”模型逐渐露出。事实上,这个运算逻辑远比我之前想得要复杂,甚至显得有点“老谋深算”。

泉志告诉我,判断一个新闻真假,要分三个步骤。

首先,在盘根错节的信息里,机器会找到最初的信源,分析其用户画像(专业领域,个人或机构,机构类型,影响力,过去发表的内容类型,是否可信,地域,注册时间,活跃规律等),进而判断此发布者的信誉度。

如果这条新闻带有链接,我们可以再看看链接的域名,是否来自可信网站,比如新华社、政府医药管理局。

接下来,我们拿起听诊器,细细揣摩正文的“心跳声”:

“一味中药48小时可杀死60%癌细胞!”打开正文,我们看看究竟这味中药的成分是哪些?具体对哪些癌细胞起作用?机器会把这些关键的论证提炼为知识点,与知识图谱里的权威知识库做匹配验证。如果毫无联系、自相矛盾,减分。

泉志表示,除了内容不实、上下文逻辑不连贯外,机器还能从行文风格里找到蛛丝马迹。比如:

“多一次转发就多一次活命机会”

“传疯了!晚上一定要关wifi,太吓人了”

......

是的,机器连“标题党”都不放过!假新闻经常会采用夸大性、空洞的说辞来危言耸听。真新闻往往行文严谨、一丝不苟。

如果说前面两步,还算是常规操作。第三步,就是关键:对传播路径的深入分析。

一条谣言在社交网络里引爆,必然有无数的人密集关注。在留言、转发等行为里,有人赞同,有反对,还有质疑,或者只是简单的路过,都是一种态度。

image

机器统计不仅能统计所有用户的态度,更不可思议的是,它会“看人下菜”,区别对待每条发言的分量。

比如,我弟转发了母上发来的新闻,冒着零用钱缩水的危险表示:“假的!昨天食品监督局已经公开辟谣了”——这条反对意见质疑得较为有力,权重提升。

随后,ID为“小旺仔”的用户也在此条新闻下留言,只写了四个字:消息不实。虽然寥寥数字,但是机器一看,不得了,小旺仔的认证信息是该省第一附属医院的医学教授,权重也得提升。

机器会对所有反馈用户进行画像分析:是否是认证用户、过去发表的内容类型、注册时间、活跃规律、是否和事件发生地在同一个地方等,以此来计算用户信誉度。最后根据不同态度的人群比例、各自的信誉度,以及处于传播路径中的位置等信息,计算出此新闻的可信度。

“如果有人转发了小旺仔的留言,表示‘举双爪支持’,系统会不会认为这是对新闻的赞同?”我感觉自己抓到了系统漏洞,有点小激动。

泉志表示这个问题提得非常好,接着干脆地做了否定:“我们的整个传播路径是个神经网络,环环相扣,不会断章取义的。”

以上三步中计算出的信息会输入到神经网络模型中。基于这些信息,模型会综合判断出此新闻是否为谣言。

(2)

这个模型的魅力之处在于,你不必为它编写程序去学习人类的指令:它能完全自主学习训练,就像人脑一样“思考”。随着知识库的日益丰富,它的判断能力会越来越好。

“简直是一位飞速成长的大编辑!”我感叹道。

“这还不是全部”,泉志爽朗笑了,“我们还用了多任务学习,‘一心多用’,让机器在同一时间完成多个复杂任务,判断内容真假、观察传播路径、挖掘用户画像这些都能同时进行。”

在有条不紊的运算机制里,机器就像一位冷峻的解剖师,切开浮夸的表象,梳理每一条新闻的经脉、肌理走向,抽丝剥茧,层层剥开,最终找到事实的内核。

image

泉志接着又透露了一个重要信息——这项技术不仅能控制假新闻源头、防止谣言大规模扩散,它还有一个隐藏的“大招”。

传谣容易,辟谣难。谣言的扩散速度犹如遇到林木的大火,一点即燃,但是当真相出来时,却往往无人问津。

比如,网络曾谣传市面上的香蕉大多泡过药水,许多人从此再没买过香蕉。即使数年后风头过去,还有人表示吃香蕉总觉得有药水味。

这项技术的隐藏”大招“,是可以针对性地为民众辟谣。根据传播路径索引,曾经支持“香蕉浸泡毒液”的人,都可以收到官方的辟谣信息:香蕉浸泡的白色液体不是甲醛,而是符合国家安全标准的保鲜剂,无毒无害;吃酱油不会变黑、开水重复烧也不会有事,交999元每月回报99的“好事”自然更是子虚乌有。

有始有终,皆大欢喜!

(3)

达摩院所研发的“AI谣言粉碎机”,在刚刚结束的SemEval全球语义测试中,创造了假新闻识别准确率的新纪录,达到了前所未有的81%。

SemEval 是自然语言处理领域的国际权威比赛,由国际计算语言学学会举办。假新闻识别是此次比赛的主要项目之一,吸引了哥伦比亚大学、华盛顿大学、艾伦·图灵研究所等20多路顶级高手参与。

赛题是这样的:

主办方向所有参赛者提供社交媒体上470余条新闻、以及一万多条相关的留言、转发等数据。参赛者需要根据这些有限的信息,判断这数百条新闻是真是假。

这些似是而非的新闻涉及政治、娱乐、商业、科技等多个领域,比如——

特朗普的差旅开支远远低于奥巴马;

太阳报:英国女王支持英国脱欧;

震惊了!台风过后,高速公路出现一条大鲨鱼;

美国九成媒体被六家公司控制;

吉萨金字塔能利用隐秘的房间集中电磁能能量;

......

此次比赛桂冠由达摩院NLP首席科学家司罗所属的团队斩获,真假新闻二分类上的准确率高达81%,刷新了本竞赛系列上macro F 、RMSE两项关键性指标的世界记录。

在此之前,达摩院NLP团队曾在机器阅读理解顶级赛事SQuAD上,凭借82.440的精准率打破了历史纪录;在国际顶级机器翻译大赛WMT上,连夺英文-中文翻译、英文-俄语互译、英文-土耳其语互译5项第一。

image

让机器读懂人类语言,并判断人类的表达意图,从而进一步帮助人类实现对信息真假的判断,达摩院的科学家们,从未放弃对技术难题的攻克。

(4)

隔着一万多千米的太平洋,与泉志说再见后,我突然想起了今年春晚的小品《“儿子”来了》:葛优饰演的保健品销售员,用夸张的“床垫”欺骗一对老夫妻。

image

从“狼来了”到“儿子来了”,信任在不知不觉中成了世上最高的门槛。

我们知道天下不会掉馅饼,但当周围人都在转发高额理财新闻时仍会忍不住动摇;

我们本不会勤于研究饭菜的化学中和反应,但万一同时吃了螃蟹和香菇中毒呢;

我们从不担心银行没收存款,但在接到短信“银行卡已被冻结需支付保证金”时虎躯一震……

人类的原始本能告诉我们要相信彼此,然而世界正变得日益庞大和复杂,道德、名声的影响力已不如往昔,传统的信任出现了缝隙。

“谣言粉碎机”技术的背后,是一次史无前例的信任重建。只有假新闻被扼杀在繁衍的温床里,破碎将倾的信任才会被重新扶起顶天立地。

而信任,是爱的最好证明。

image

AI = 爱。

原文发布时间为:2019-02-27
本文作者:孝杨
本文来自云栖社区合作伙伴“阿里技术”,了解相关信息可以关注“ 阿里技术”。

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享: