线上XO派对大热!Zoom想用机器学习鉴别裸体,行得通吗?

简介: 线上XO派对大热!Zoom想用机器学习鉴别裸体,行得通吗?

疫情在各国逐渐受控,哈佛最新研究报告,在疫苗和治疗药物问世之前,仍需要采取措施应对病毒的传播,目前,唯一的直接手段就是非药物性干预,社交隔离就是最简单粗暴也是最有效的手段之一。
社交隔离在各国强制执行之后,对社会、经济、教育等都带来了灾难性的影响,但是,线上通讯软件在此种新常态下,带迎来高光时刻,比如Zoom。
Zoom主要为远程会议和授课等提供视频服务,在隔离期间,Zoom已成为了人们交流不可或缺的通讯工具之一。据统计,Zoom平台3月份日活跃用户达2亿多,CEO袁征也提到,平台新用户已覆盖来自20多个国家、9万所学校的师生。
但是,树大招风,林子大了啥鸟都有。
除了那些利用Zoom的远程通讯功能来举办家族派对、进行趣味背景互动和录制娱乐搞怪视频的人,据滚石杂志报道, 还有人将Zoom用作举办性爱派对的虚拟场所,一位主办人表示,他们通过“玩乐派对”和群签到开展“相互取悦的打飞机社交”。
这项活动也受到了Zoom官方的关注,根据Zoom使用政策,用户不能利用这项技术“从事任何涉及损害、淫秽或不雅的活动,特别是此类商业活动”,该政策规定包含“裸体、暴力、色情、露骨的性材料或犯罪活动的展示”。
于是,Zoom也拿出大招对付这类视频,根据官方发言人的说法,Zoom将利用机器学习来鉴别违反平台政策的账户,但对于具体使用什么方法识别违规用户和内容并未做详细说明,不过,发言人补充道,Zoom不会监控公司会议或会议内容。

“我们鼓励用户举报涉嫌违反政策的行为,同时配合各类工具,包括利用机器学习来主动发现存在违规的用户。”Zoom的发言人说道。
线上派对风头正盛,隐私问题依旧被重点关注
上星期六晚上,NSFW举办的“情侣游玩日”(Couples’ PlayDate)进行了长达3个小时的直播,共有45位陌生人通过Zoom进行了观看。
NSFW称自己是提供“性爱和大麻的积极体验”的私人俱乐部,创始人Daniel Saynt认为,这些情侣都是年轻人,很有吸引力,在灯光照明和摄像机角度方面也格外精通。Daniel表示,正是Zoom为他的线上性爱派对的提供了可行之路,“感谢Zoom,我们这代以及未来很多人都将精通让自己更上镜的方法”。
NSFW绝非唯一被迫转移线上的性聚会,在社会隔离期间,转向数字化是才是生存之道:伦敦的性爱俱乐部Killing Kittens举办线上派对,Alexandre Sartre也主持了四次女同性恋性爱派对,全都是在线上进行。
尽管NSFW尝试使用不同的平台,但包括NSFW在内的诸多组织最终都选择了Zoom,在恐慌和焦虑盛行的当下,这些性爱派并非仅仅提供某种形式的生理解放,而是在出于某种心理治疗的目的。
对Zoom的谨慎态度还源于之前暴露出的隐私问题,这对线上性爱派对的参与者来说显得尤为重要。他们表示,曾遇到过有人劫持公共链接来进行骚扰,或者发布种族主义和反犹太主义信息的情况,这让House of Scorpio的创始人Larisa Fuchs感到担忧,这就像是未经参与者同意就擅自录制内容或截图一样。

“在线下活动中,我们会安排一些安全步骤,确保每个人的隐私得到保护。但是在线上,我们无法做出同样的保证,”Fuchs说,“但是这并不代表我允许让客人承担这样的风险。”正因为如此,House of Scorpio在Zoom上举办了一系列的活动,比如Sex Bingo等,但还没有举办过一次线上派对。
其实,针对骚扰和Zoom-bombing (指代闯入视频会议,并显示色情或其他破坏性内容)行为,CEO袁征此前也承认,Zoom在保护用户的隐私和安全方面存在不足,发言人指出公司已在实施一项平台行动计划。
计划包含实施“功能冻结”,即不再新增功能,并发布一份包含关于数据、视频、内容详细信息的透明度报告。此外,Zoom将每周举办在线研讨会,向用户提供最新的隐私和安全更新。
隔离期间,拍摄裸体有着独特的氛围和体验
除了参加性爱派对之外,澳大利亚东海岸纽卡斯尔的音乐家Jackson表示,当你单身并且无法与任何人见面时,电话性爱、手套性爱、裸体交流都是打发时间并宣泄性欲的好方法。
在被隔离之前,26岁的Lindsey就一直从事着裸体摄影的工作,但这些照片并未发送给任何人。她表示:“这些照片一直在囤着,万一什么时候就派上用场了,而且,这也能给自己增加一点乐趣。”
Lindsey绘制了隔离之后的工作表格,包括为自己拍了多少裸照。“我知道还要等一段时间才能再次见到别人,在此同时保持火花也会很有趣。”
26岁的墨尔本作家Joshua发现,分享裸照的人数激增,“可以确认同性恋的裸体在国际上享有特赦,我的收件箱里已经堆满了”。
在Joshua看来,LGBTQ人们对于发送私密照片更放得开,“很多同性恋者在孤立的地区长大,因此很多第一次都是在线进行的,转向Instagram,Grindr和Twitter替代品几乎已经成了他们的第二习性(second nature)”。
他还看到,以检疫为主题的裸照成为大热,从加标签的自拍#stuckathome到软色情,再到带有与之无关的“社交隔离!”的标题。
在隔离区分享裸照的人们已经建立了在线交流空间,比如subreddit r / QuarantineGoneWild,该小组的主持人u / mister_master89表示,在强制隔离时期,拍摄裸体有着独特的氛围和体验。
AI检测尚未成熟,人机合作仍是主流
尽管Zoom尚未透露公司将采取怎样的机器学习框架来审核对性爱派对,但是从文摘菌此前对视频审核师的报道中,可以猜测一二。
在国内,最早2000年左右,就有公司在做AI审核视频的尝试了,但那时,视频审核需要人为设定特征和规则,比如黄颜色皮肤面积分布情况。一直到深度学习得到发展后,视频审核才终于变得“灵活”起来。

根据爱奇艺算法工程师Leo的介绍,视频审核上,目前业内普遍采用的仍然是“人机结合”的方式,并且人工在其中占据着重要比例:
一种AI将相对确定的视频进行分类,然后对部分用户做出推荐,观察用户反应,其中高热视频会人工率先审核;
另一种是AI将视频标记为“good”或“bad”,当审核师遇到标注有“bad”视频时再细致地审核,这也提高了审核效率。
对于AI审核视频,还存在两个技术难点。
一个是算法准确率问题。在业内有句话,“脱离数据集来谈准确率都是耍流氓”,这就是说,用数据集训练出来的AI模型并不都能匹配实际行为,还存在用户行为偏差等诸多影响因素,即使AI审核的准确率达到了99%,考虑到用户上传的视频量,剩下1%的累计量也是惊人的。
另一个难关就是对内容的主观判断。简单来说,不是所有露骨的内容都是色情,也不是所有色情视频都有裸露,再加上视频内容中涉及到的文字、语音等多方面情景混杂,对人来说较容易判断,但对机器而言需要多个算法叠加。
而人机合作的方式,也就表明,后台工作人员将有机会看到这些性爱派对和裸体照片,这就又形成了另一层人为灰色地带,应该如何确保工作人员在面对敏感内容时仍保持清醒的头脑和理性的思考?
Zoom使用机器学习参与性爱派对审核这条路,能走通吗?
相关报道:
https://www.insider.com/zoom-sex-party-machine-learning-to-crack-down-on-nudity-2020-4
https://www.rollingstone.com/culture/culture-features/virtual-orgy-sex-party-zoom-nsfw-982785/
https://www.buzzfeed.com/cameronwilson/coronavirus-send-nudes-quarantine-increase

相关文章
|
机器学习/深度学习 自然语言处理 算法
盘点当下大热的 7 大 Github 机器学习『创新』项目
盘点当下大热的 7 大 Github 机器学习『创新』项目
842 1
盘点当下大热的 7 大 Github 机器学习『创新』项目
|
6月前
|
机器学习/深度学习 存储 搜索推荐
利用机器学习算法改善电商推荐系统的效率
电商行业日益竞争激烈,提升用户体验成为关键。本文将探讨如何利用机器学习算法优化电商推荐系统,通过分析用户行为数据和商品信息,实现个性化推荐,从而提高推荐效率和准确性。
239 14
|
6月前
|
机器学习/深度学习 算法 数据可视化
实现机器学习算法时,特征选择是非常重要的一步,你有哪些推荐的方法?
实现机器学习算法时,特征选择是非常重要的一步,你有哪些推荐的方法?
114 1
|
6月前
|
机器学习/深度学习 算法 搜索推荐
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
Machine Learning机器学习之决策树算法 Decision Tree(附Python代码)
|
6月前
|
机器学习/深度学习 数据采集 算法
解码癌症预测的密码:可解释性机器学习算法SHAP揭示XGBoost模型的预测机制
解码癌症预测的密码:可解释性机器学习算法SHAP揭示XGBoost模型的预测机制
303 0
|
6月前
|
机器学习/深度学习 数据采集 监控
机器学习-特征选择:如何使用递归特征消除算法自动筛选出最优特征?
机器学习-特征选择:如何使用递归特征消除算法自动筛选出最优特征?
896 0
|
6月前
|
机器学习/深度学习 人工智能 算法
探索机器学习中的支持向量机(SVM)算法
【2月更文挑战第20天】 在数据科学与人工智能的领域中,支持向量机(SVM)是一种强大的监督学习算法,它基于统计学习理论中的VC维理论和结构风险最小化原理。本文将深入探讨SVM的核心概念、工作原理以及实际应用案例。我们将透过算法的数学原理,揭示如何利用SVM进行有效的数据分类与回归分析,并讨论其在处理非线性问题时的优势。通过本文,读者将对SVM有更深层次的理解,并能够在实践中应用这一算法解决复杂的数据问题。
80 0
|
6月前
|
机器学习/深度学习 分布式计算 算法
大模型开发:你如何确定使用哪种机器学习算法?
在大型机器学习模型开发中,选择算法是关键。首先,明确问题类型(如回归、分类、聚类等)。其次,考虑数据规模、特征数量和类型、分布和结构,以判断适合的算法。再者,评估性能要求(准确性、速度、可解释性)和资源限制(计算资源、内存)。同时,利用领域知识和正则化来选择模型。最后,通过实验验证和模型比较进行优化。此过程涉及迭代和业务需求的技术权衡。
103 2
|
6月前
|
机器学习/深度学习 数据采集 存储
使用机器学习算法进行文本分类的方法与实践
本文将介绍使用机器学习算法进行文本分类的方法与实践。通过分析文本特征、选择合适的机器学习算法和构建有效的训练模型,可以实现准确和高效的文本分类任务。我们还将探讨如何处理文本数据预处理、特征提取和模型评估等方面的关键问题,以帮助读者更好地应用机器学习技术解决文本分类挑战。
|
6月前
|
机器学习/深度学习 人工智能 算法
利用Python实现简单的机器学习算法——线性回归
本文介绍了如何使用Python语言和相关库,通过实现线性回归算法来进行简单的机器学习模型训练和预测。通过详细的代码示例和解释,帮助读者了解机器学习中的基础概念和实践操作。