High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(一)

简介: High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新

相关报道



image.png

       DeepNude was a deepfakes application which allowed to alter photos of a person to make them appear nude, designed to work on females. Several days after its June 23rd, 2019, release and rapid climb to popularity, the app was permanently shut down over the concerns of potential misuse, although already downloaded copies of the software were continued to be shared.

       On June 23rd, 2019, Windows and Linux application DeepNude, developed by an anonymous person known only as Alberto, was made available for download online (website no longer available).

On June 27th, 2019, Vice Motherboard featured a story on the app, titled "This Horrifying App Undresses a Photo of Any Woman With a Single Click", also talking to the creator of the app.[3] In the following days, multiple news outlets covered the story, including articles by The Verge.


      DeepNude是一款类似deepfake应用程序,它允许修改一个人的照片,使其看起来是裸体的,专为女性设计。该应用于2019年6月23日发布,并迅速走红。几天后,出于对潜在滥用的担忧,该应用程序被永久关闭。

    2019年6月23日,由一位名叫阿尔贝托的匿名人士开发的Windows和Linux应用程序DeepNude可以在网上下载(目前网站不再提供)。2019年6月27日刊登了一篇应用程序,名为“这恐怖的应用脱下衣服的照片与单一点击“任何女人,还跟应用程序的创建者。在接下来的日子里,多个新闻媒体介绍了故事。6月27日,由于访问量过大,官方网站遭遇了一系列的崩溃。在同一天,DeepNude的创建者宣布,由于担心应用程序可能被滥用,该服务已被永久关闭。

      这款应用的免费版本中,输出的图像有一部分被大水印遮住了,50美元的付费版本中去掉了水印。支付额外的50美元可以去除一个较小的“假”水印(如下图所示,左边和右边)。虽然这款应用的下载量还不清楚,但在2019年6月27日,官方的DeepNude网站在关闭前因为高负载经历了一系列崩溃。


      Motherboard联系了DeepNude的创建者,此人化名为“阿尔贝托”(Alberto,匿名)。他表示,该软件基于加州大学伯克利分校研究者开发的开源算法pix2pix创建,并使用1万张女性LUO图加以训练。这一算法与之前的人工智能换脸技术deepfake算法相似,也和无人车技术所使用的算法相似。


     DeepNude使用pix2pix开源算法分析输入图像,识别服装并删除它,用生成的裸体图像替换它。该算法在10000多张女性裸照的数据集上进行训练。


      “阿尔贝托”表示,该软件目前之所以只能用于女性照片,是因为女性LUO体图像更容易在网上找到,但他希望能创建一个男性版本的软件。他还表示,他继续这一实验是出于“有意思”和好奇心。“我不是偷窥狂。我是技术的爱好者,”他说,“继续提升这个算法,最近也是吸取了之前的教训(来自其它创业公司)和经济上的问题,我问我自己是否可以在这个算法上获得经济回报。这就是我创建DeepNude的原因。”


      但Motherboard指出,之前就有deepfake在网络上流传,但这种技术很容易就会成为伤害女性的工具——要么在未经同意的前提下使用女性照片,要么在网上恶意散布SQ内容。而DeepNude相当于deepfake技术的进化版,操作更简单,处理速度更快。所以,带来的危害更大。


  其实,这款软件并非完美无缺。大多数图像,尤其是低分辨率图像,产生了一些视觉伪影。Deepnude完全失败了,因为有些照片使用了奇怪的角度、光线或衣服,这些照片似乎与它使用的神经网络脱节了。当我们给它一张卡通人物杰西卡·兔子的图像时,它会完全扭曲并破坏了图像。


      网友评论:AI的换脸技术、脱衣技术,这件事,在今天可归纳为三句话:火是肯定要火的。乱是一定要乱的。如何监管,大概是不知道的。哦,对了,最后应该说一下如何防止别人做出你的AI换脸、脱衣视频?不要发太多自拍,即使自拍的时候,切记多穿点衣服。

     博主评论:滥用技术的深度拷问,人类在娱乐技术的同时,技术是不是也在嘲弄人类? 新技术不能突破法律底线。AI技术发展使普通人能享受到科技带来的便利,但新技术应该驱动良性的文化创意更新迭代,切忌用到歪路上去,更不能突破底线挑战公序良俗。



基于AI算法的一键脱衣官宣关闭


     6月28日消息 此前,美国科技媒体Motherboard报道,Twitter用户@deepnudeapp 最近开发出一款名叫DeepNude的APP,只要给DeepNude输入一张女性照片,借助神经网络技术,App可以自动“脱掉”女性身上的衣服,显示出裸体。不过在6月28日凌晨,@deepnudeapp 宣布关闭这款App及网站。


image.png


      Hi! DeepNude is offline. Why? Because we did not expect these visits and our servers need reinforcement. We are a small team. We need to fix some bugs and catch our breath. We are working to make DeepNude stable and working. We will be back online soon in a few days. ——06.27


最新的一条消息:


      Here is the brief history, and the end of DeepNude. We created this project for user's entertainment a few months ago. We thought we were selling a few sales every month in a controlled manner. Honestly, the app is not that great, it only works with particular photos. We never thought it would become viral and we would not be able to control the traffic. We greatly underestimated the request.

 我们在几个月前创建了这个娱乐项目。我们以为这款应用的传播也在我们可控范围内。事实上,这款应用并不是很完善,它只适用于特定的照片。我们从没想过它会像病毒一样传播开来,以至于我们也无法控制,我们大大低估了用户对这个应用的需求。


      Despite the safety measures adopted (watermarks) if 500,000 people use it, the probability that people will misuse it is too high. We don't want to make money this way. Surely some copies of DeepNude will be shared on the web, but we don't want to be the ones who sell it. Downloading the software from other sources or sharing it by any other means would be against the terms of our website. From now on, DeepNude will not release other versions and does not grant anyone its use. Not even the licenses to activate the Premium version.

 尽管采用了安全措施(加水印),但要是有50万人使用它,人们滥用它的可能性就太高了。我们不想用这种方式赚钱。这款应用(制造出来)的一些裸体的副本会在网上被分享,我们不想成为出售这些“作品”的人。另外从其他来源下载或以任何其他方式共享本软件(生成的作品)将违反本网站的条款。从现在开始,DeepNude将不会发布其他版本,也不会授权任何人使用,激活高级版本许可也将停止。

      People who have not yet upgraded will receive a refund. The world is not yet ready for DeepNude.

      尚未升级的用户将获得退款。


相关文章
|
20天前
|
机器学习/深度学习 人工智能 监控
探索人工智能的伦理困境:我们如何确保AI的道德发展?
在人工智能(AI)技术飞速发展的今天,其伦理问题也日益凸显。本文将探讨AI伦理的重要性,分析当前面临的主要挑战,并提出相应的解决策略。我们将通过具体案例和代码示例,深入理解如何在设计和开发过程中嵌入伦理原则,以确保AI技术的健康发展。
29 11
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
深入理解人工智能中的深度学习技术及其最新进展
深入理解人工智能中的深度学习技术及其最新进展
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
深入理解人工智能中的深度学习技术及其最新进展
深入理解人工智能中的深度学习技术及其最新进展
|
1月前
|
人工智能 自然语言处理 自动驾驶
技术与人性:探索人工智能伦理的边界####
本文深入探讨了人工智能技术飞速发展背景下,伴随而来的伦理挑战与社会责任。不同于传统摘要直接概述内容,本文摘要旨在引发读者对AI伦理问题的关注,通过提出而非解答的方式,激发对文章主题的兴趣。在智能机器逐渐融入人类生活的每一个角落时,我们如何确保技术的善意使用,保护个人隐私,避免偏见与歧视,成为亟待解决的关键议题。 ####
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
深入探讨人工智能中的深度学习技术##
在本文中,我们将深入探讨深度学习技术的原理、应用以及未来的发展趋势。通过分析神经网络的基本结构和工作原理,揭示深度学习如何在图像识别、自然语言处理等领域取得突破性进展。同时,我们还将讨论当前面临的挑战和未来的研究方向,为读者提供全面的技术洞察。 ##
|
18天前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能与未来医疗:AI技术在疾病诊断中的应用前景####
本文探讨了人工智能(AI)在现代医疗领域,尤其是疾病诊断方面的应用潜力和前景。随着技术的不断进步,AI正逐渐改变传统医疗模式,提高诊断的准确性和效率。通过分析当前的技术趋势、具体案例以及面临的挑战,本文旨在为读者提供一个全面的视角,理解AI如何塑造未来医疗的面貌。 ####
|
机器学习/深度学习 人工智能 自然语言处理
High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)
High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新
High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(二)
|
6天前
|
机器学习/深度学习 人工智能 自然语言处理
转载:【AI系统】AI的领域、场景与行业应用
本文概述了AI的历史、现状及发展趋势,探讨了AI在计算机视觉、自然语言处理、语音识别等领域的应用,以及在金融、医疗、教育、互联网等行业中的实践案例。随着技术进步,AI模型正从单一走向多样化,从小规模到大规模分布式训练,企业级AI系统设计面临更多挑战,同时也带来了新的研究与工程实践机遇。文中强调了AI基础设施的重要性,并鼓励读者深入了解AI系统的设计原则与研究方法,共同推动AI技术的发展。
转载:【AI系统】AI的领域、场景与行业应用
|
6天前
|
人工智能 缓存 异构计算
云原生AI加速生成式人工智能应用的部署构建
本文探讨了云原生技术背景下,尤其是Kubernetes和容器技术的发展,对模型推理服务带来的挑战与优化策略。文中详细介绍了Knative的弹性扩展机制,包括HPA和CronHPA,以及针对传统弹性扩展“滞后”问题提出的AHPA(高级弹性预测)。此外,文章重点介绍了Fluid项目,它通过分布式缓存优化了模型加载的I/O操作,显著缩短了推理服务的冷启动时间,特别是在处理大规模并发请求时表现出色。通过实际案例,展示了Fluid在vLLM和Qwen模型推理中的应用效果,证明了其在提高模型推理效率和响应速度方面的优势。
云原生AI加速生成式人工智能应用的部署构建
|
6天前
|
机器学习/深度学习 人工智能 物联网
AI赋能大学计划·大模型技术与应用实战学生训练营——电子科技大学站圆满结营
12月05日,由中国软件行业校园招聘与实习公共服务平台携手阿里魔搭社区共同举办的AI赋能大学计划·大模型技术与产业趋势高校行AIGC项目实战营·电子科技大学站圆满结营。
AI赋能大学计划·大模型技术与应用实战学生训练营——电子科技大学站圆满结营