Facebook要用AI提前探测恐怖主义,到哪一步了?-阿里云开发者社区

开发者社区> 雷锋网> 正文

Facebook要用AI提前探测恐怖主义,到哪一步了?

简介:

Facebook要用AI提前探测恐怖主义,到哪一步了?

图片来源:yotovr

自从被外界批评不足以应付极端主义之后,Facebook发言人周四首次向外公布使用AI来遏制和消除恐怖主义内容的进展情况。

Facebook全球政策管理总监Monika Bickert和反恐怖主义政策经理Brian Fishman日前在一篇文章中表示,Facebook将利用AI来检测有关恐怖主义的视频或内容信息。在发现之后,Facebook将立马删除相关内容,以阻止它们出现在网站上。

“目前,我们正集中利用AI的先进技术都打击与ISIS、基地组织及其相关的恐怖主义内容。在适当的时候,我们希望能将其扩及其他恐怖组织。”Facebook两位发言人对此表示,“当有人试图上传恐怖照片或视频时,我们的系统会将其与ISIS的宣传视频或者在Facebook上出现的其它极端图片和视频进行自动匹配,一旦匹配符合,则会立马删除这些内容。”

除此之外,Facebook还在进行相关实验,对网站上恐怖分子可能使用的语言进行解析。对此前被Facebook禁用的账户,Facebook也将加紧它们被重新启用的管控,并在线识别和删除恐怖主义支持者群集。Facebook还表示,准备扩大技术的应用范围,用在其它App中,包括WhatsApp 和 Instagram。

然而在反恐问题上,技术还不能完全解决问题,还需要人工来处理一些特定状况。雷锋网了解到,Facebook为此还成立了反恐团队,该部门目前已有150名人员,职位有检查官、工程师、执法人员不等。同时,Facebook还与其它一些机构和组织合作,也会定期与执法机关和政府合作。据雷锋网了解,去年12月,Facebook与其它科技企业合作,包括Twitter、微软、谷歌旗下YouTube,创建了一个行业数据库,以记录恐怖分子的数字指纹。

就在5月初,Facebook还向外透露,明年将雇佣3000+的员工,以处理网站上出现的不良内容,还将加大力度删除涉及谋杀、自杀及其它暴力行为的视频。 在这个宣告之前,一名凶手利用Facebook直播了杀人过程,该事件性质极其恶劣,也将Facebook推向了风口浪尖,外界又一次对其在极端主义事件的无力进行了讨伐。

距离上一次的讨伐,尚不足一年,不过上次讨伐的地点直接出现在法庭上。雷锋网(公众号:雷锋网)查阅的资料显示,去年7月,在一起恐怖主义袭击案中,受害人代表律师以“Facebook允许隶属于恐怖组织哈马斯的巴勒斯坦激进分子使用其服务来策划恐怖袭击活动,造成4名美国人丧生和1名美国人受伤的惨剧”为由,将Facebook告上了法庭,并向其提出10亿美元的赔偿。

虽然在该起案件中,Facebook被起诉的理由在法律上站不住脚,但这也推进了Facebook对反恐的重视和投入。于是,就有了今日Facebook发言人向外宣布的进展和成果。

值得注意的是,随着社交媒体影响力的扩大,Facebook目前的月活用户已接近20亿。如此量级,必然会滋生内容审查上的诸多问题。更别说还有许多假新闻、暴力、谋杀等内容。

当然,选择用AI技术对恐怖主义内容进行图片匹配,已经是扎克伯格在2月份发布的Facebook前景信中的一个进展。当时,扎克伯格称,Facebook正在研发AI系统,可自行阅读文本、查看照片和视频。但该系统当时还处在发展初期,尚有一些潜在问题。

以此为例,我们能看到Facebook利用AI解决反恐的步调和决心,这也将激发其他科技巨头在这一块的行动。正如那句话所说,科技发展的终极是让世界变得更加美好。

本文作者:李秀琴

本文转自雷锋网禁止二次转载,原文链接

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

分享:
+ 订阅

秉承“关注智能与未来”的宗旨,持续对全球前沿技术趋势与产品动态进行深入调研与解读。

官网链接