AI审核不靠谱?微软Bing被曝显示儿童色情内容

简介: 微软可能需要像今日头条学习,加强人工审核了。

微软可能需要像今日头条学习,加强人工审核了。

微软在2019年年初就遭遇了不少的危机,今天,据外媒报道,微软的Bing搜索中有一些相关的关键字,正在为恋童癖者提供大量的儿童色情内容,微软回复正在努力修复中。

TB1NFg1Bb2pK1RjSZFsXXaNlXXa.png

安全公司的调研中发现,微软必应搜索不仅仅会在搜索结果中返回裸体儿童照片,如果用户点击这些图片,必应也会在类似图片功能中展示更多非法虐待儿童图像,他们还会向用户推荐其他类似搜索关键词,从而跳转出更多的儿童色情内容。

然而,谷歌的类似搜索却没有像必应这样出现明显的非法图像以及内容。对此,微软必应和人工智能产品副总裁乔迪·里伯斯(Jordi Ribas)表示,“研究人员发现的搜索结果确实违反了网站规则,公司正在努力防止此类事故的发生。”

此前,微软宣布正在通过他们的AI研究成果让必应搜索变得更加智能。去年,他们还通过使用专门的人工智能计算硬件BrainWave,使机器学习模型的性能提高10倍以上,增强了微软必应搜索引擎的功能。

而在儿童色情内容上,微软还开创了PhotoDNA技术,实现儿童性虐图片检测的自动化,让此类非法图片可以由电脑程序而非工程师自动识别。

TB1kPA2BhTpK1RjSZR0XXbEwXXa.png

据了解,PhotoDNA可以将图片转化为常见的黑白格式,还能将图片尺寸调整至指定大小。然后该技术会把图片分成一个个正方形,同时给每一个正方形内存在的特有底纹分配一个数值。这些数值结合在一起以后,就代表一个图像文件的“PhotoDNA签名”。这种独一无二的签名可以被用于与其他在线图片进行比对。

早些时候,微软已经将PhotoDNA技术应用在必应上,用来识别儿童性虐图片,阻止这些照片在网上进一步传播。

现在,必应却被曝出这种负面事件,可以看到这项AI技术似乎并没有预料中的有效,技术并没有过滤掉那些非法色情的内容。

当然,不仅仅是搜索引擎会遇到这种问题,社交平台、内容分发平台也经常被曝出各种性虐色情内容传播,其实这也在某种程度上反映了整个科技行业的现状,当科技公司过于追求营收的增长以及效率,就会忽视对公众利益的保护,比如如何在机器审核和人工审核之间的达到平衡。

相关文章
|
6天前
|
人工智能 机器人
“AI+儿童陪伴”,是噱头还是趋势?
AI陪伴型玩具逐渐成为家庭教育的新选择。它们不仅能够解放忙碌的家长,减轻其负担,还能满足孩子的好奇心,提供寓教于乐的成长环境。然而,AI技术尚未完全成熟,内容的准确性和产品的安全性仍需关注,家长在享受便利的同时,仍需谨慎陪伴。
|
1月前
|
人工智能 自然语言处理 搜索推荐
【通义】AI视界|微软Copilot Studio推出新功能,帮助企业更便捷地构建和部署AI代理
本文介绍了近期科技领域的五大重要动态:马斯克旗下xAI发布首个API,苹果内部研究显示ChatGPT比Siri准确率高25%,微软Copilot Studio推出新功能,霍尼韦尔与谷歌合作引入Gemini AI,浑水创始人建议买入科技七巨头股票。更多资讯请访问【通义】。
|
1月前
|
机器学习/深度学习 人工智能 算法
【通义】AI视界|若未来三年无法盈利,OpenAI或被微软收购!
本文精选了24小时内的重要科技新闻,包括苹果即将发布的全新智能家居战略、OpenAI若未来三年无法盈利或被微软收购的消息、Meta建议网友用AI生成极光照片引发争议,以及黄仁勋对马斯克的高度评价。登录通义官网了解更多功能。
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
详解微软Copilot AI助手:Copilot官网入口_Copilot国内网站入口
微软 Copilot 是一种集成在多种 Microsoft 产品中的人工智能助手,旨在提高工作效率和创造力。它利用强大的机器学习和自然语言处理技术,能够理解用户的需求并提供实时的帮助和建议。以下是对微软 Copilot 的详细介绍。
|
1月前
|
人工智能 自然语言处理 自动驾驶
【通义】AI视界|微软和 OpenAI 将向媒体提供1000万美元资助,推动其使用AI工具
本文概览了近期科技领域的五大热点事件,包括微软与OpenAI联手资助媒体使用AI工具、OpenAI任命前白宫官员为首任首席经济学家、特斯拉FSD系统遭调查、英伟达市值逼近全球第一、以及AMD新一代锐龙9000X3D系列处理器即将上市的消息。更多资讯,请访问通义官网。
|
2月前
|
存储 人工智能 自然语言处理
新手指南:微软ai助手Copilot国内如何使用?
微软 Copilot 是一款强大的 AI 助手,掌握一些技巧可以让你更好地利用它,提高效率和创造力,让你的工作和生活更加精彩!
|
3月前
|
人工智能 iOS开发 UED
详解苹果和微软的AI集成策略
详解苹果和微软的AI集成策略
详解苹果和微软的AI集成策略
|
5月前
|
人工智能 iOS开发 UED
详解苹果和微软的AI集成策略
详解苹果和微软的AI集成策略
|
5月前
|
人工智能 安全
微软发布财务Copilot 旨在用AI来彻底改变电子表格
微软发布财务Copilot 旨在用AI来彻底改变电子表格
|
5月前
|
人工智能 自然语言处理 数据可视化
西门子与微软就跨行业AI采用展开合作
西门子与微软就跨行业AI采用展开合作

热门文章

最新文章