High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(一)

简介: High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新

相关报道



image.png

       DeepNude was a deepfakes application which allowed to alter photos of a person to make them appear nude, designed to work on females. Several days after its June 23rd, 2019, release and rapid climb to popularity, the app was permanently shut down over the concerns of potential misuse, although already downloaded copies of the software were continued to be shared.

       On June 23rd, 2019, Windows and Linux application DeepNude, developed by an anonymous person known only as Alberto, was made available for download online (website no longer available).

On June 27th, 2019, Vice Motherboard featured a story on the app, titled "This Horrifying App Undresses a Photo of Any Woman With a Single Click", also talking to the creator of the app.[3] In the following days, multiple news outlets covered the story, including articles by The Verge.


      DeepNude是一款类似deepfake应用程序,它允许修改一个人的照片,使其看起来是裸体的,专为女性设计。该应用于2019年6月23日发布,并迅速走红。几天后,出于对潜在滥用的担忧,该应用程序被永久关闭。

    2019年6月23日,由一位名叫阿尔贝托的匿名人士开发的Windows和Linux应用程序DeepNude可以在网上下载(目前网站不再提供)。2019年6月27日刊登了一篇应用程序,名为“这恐怖的应用脱下衣服的照片与单一点击“任何女人,还跟应用程序的创建者。在接下来的日子里,多个新闻媒体介绍了故事。6月27日,由于访问量过大,官方网站遭遇了一系列的崩溃。在同一天,DeepNude的创建者宣布,由于担心应用程序可能被滥用,该服务已被永久关闭。

      这款应用的免费版本中,输出的图像有一部分被大水印遮住了,50美元的付费版本中去掉了水印。支付额外的50美元可以去除一个较小的“假”水印(如下图所示,左边和右边)。虽然这款应用的下载量还不清楚,但在2019年6月27日,官方的DeepNude网站在关闭前因为高负载经历了一系列崩溃。


      Motherboard联系了DeepNude的创建者,此人化名为“阿尔贝托”(Alberto,匿名)。他表示,该软件基于加州大学伯克利分校研究者开发的开源算法pix2pix创建,并使用1万张女性LUO图加以训练。这一算法与之前的人工智能换脸技术deepfake算法相似,也和无人车技术所使用的算法相似。


     DeepNude使用pix2pix开源算法分析输入图像,识别服装并删除它,用生成的裸体图像替换它。该算法在10000多张女性裸照的数据集上进行训练。


      “阿尔贝托”表示,该软件目前之所以只能用于女性照片,是因为女性LUO体图像更容易在网上找到,但他希望能创建一个男性版本的软件。他还表示,他继续这一实验是出于“有意思”和好奇心。“我不是偷窥狂。我是技术的爱好者,”他说,“继续提升这个算法,最近也是吸取了之前的教训(来自其它创业公司)和经济上的问题,我问我自己是否可以在这个算法上获得经济回报。这就是我创建DeepNude的原因。”


      但Motherboard指出,之前就有deepfake在网络上流传,但这种技术很容易就会成为伤害女性的工具——要么在未经同意的前提下使用女性照片,要么在网上恶意散布SQ内容。而DeepNude相当于deepfake技术的进化版,操作更简单,处理速度更快。所以,带来的危害更大。


  其实,这款软件并非完美无缺。大多数图像,尤其是低分辨率图像,产生了一些视觉伪影。Deepnude完全失败了,因为有些照片使用了奇怪的角度、光线或衣服,这些照片似乎与它使用的神经网络脱节了。当我们给它一张卡通人物杰西卡·兔子的图像时,它会完全扭曲并破坏了图像。


      网友评论:AI的换脸技术、脱衣技术,这件事,在今天可归纳为三句话:火是肯定要火的。乱是一定要乱的。如何监管,大概是不知道的。哦,对了,最后应该说一下如何防止别人做出你的AI换脸、脱衣视频?不要发太多自拍,即使自拍的时候,切记多穿点衣服。

     博主评论:滥用技术的深度拷问,人类在娱乐技术的同时,技术是不是也在嘲弄人类? 新技术不能突破法律底线。AI技术发展使普通人能享受到科技带来的便利,但新技术应该驱动良性的文化创意更新迭代,切忌用到歪路上去,更不能突破底线挑战公序良俗。



基于AI算法的一键脱衣官宣关闭


     6月28日消息 此前,美国科技媒体Motherboard报道,Twitter用户@deepnudeapp 最近开发出一款名叫DeepNude的APP,只要给DeepNude输入一张女性照片,借助神经网络技术,App可以自动“脱掉”女性身上的衣服,显示出裸体。不过在6月28日凌晨,@deepnudeapp 宣布关闭这款App及网站。


image.png


      Hi! DeepNude is offline. Why? Because we did not expect these visits and our servers need reinforcement. We are a small team. We need to fix some bugs and catch our breath. We are working to make DeepNude stable and working. We will be back online soon in a few days. ——06.27


最新的一条消息:


      Here is the brief history, and the end of DeepNude. We created this project for user's entertainment a few months ago. We thought we were selling a few sales every month in a controlled manner. Honestly, the app is not that great, it only works with particular photos. We never thought it would become viral and we would not be able to control the traffic. We greatly underestimated the request.

 我们在几个月前创建了这个娱乐项目。我们以为这款应用的传播也在我们可控范围内。事实上,这款应用并不是很完善,它只适用于特定的照片。我们从没想过它会像病毒一样传播开来,以至于我们也无法控制,我们大大低估了用户对这个应用的需求。


      Despite the safety measures adopted (watermarks) if 500,000 people use it, the probability that people will misuse it is too high. We don't want to make money this way. Surely some copies of DeepNude will be shared on the web, but we don't want to be the ones who sell it. Downloading the software from other sources or sharing it by any other means would be against the terms of our website. From now on, DeepNude will not release other versions and does not grant anyone its use. Not even the licenses to activate the Premium version.

 尽管采用了安全措施(加水印),但要是有50万人使用它,人们滥用它的可能性就太高了。我们不想用这种方式赚钱。这款应用(制造出来)的一些裸体的副本会在网上被分享,我们不想成为出售这些“作品”的人。另外从其他来源下载或以任何其他方式共享本软件(生成的作品)将违反本网站的条款。从现在开始,DeepNude将不会发布其他版本,也不会授权任何人使用,激活高级版本许可也将停止。

      People who have not yet upgraded will receive a refund. The world is not yet ready for DeepNude.

      尚未升级的用户将获得退款。


相关文章
|
15天前
|
人工智能 JavaScript API
【HarmonyOS NEXT+AI】问答03:找不到DevEco Studio Cangjie Plugin下载链接?
本文针对学员在“HarmonyOS NEXT+AI大模型打造智能助手APP(仓颉版)”课程中提出的问题进行解答:为何无法在华为开发者社区官网找到DevEco Studio Cangjie Plugin下载链接。文中详细介绍了Cangjie Plugin的功能及获取方式,包括STS和Canary版本的申请流程,并提供了学习仓颉编程语言的资源与建议。对于普通开发者,STS版本是当前首选;同时,通过课程与官方教程,可快速掌握仓颉语言核心语法及API,助力开发HarmonyOS NEXT AI智能助手应用。
43 3
【HarmonyOS NEXT+AI】问答03:找不到DevEco Studio Cangjie Plugin下载链接?
|
15天前
|
机器学习/深度学习 人工智能 自然语言处理
人工智能技术的探讨
人工智能的概念,人工智能的发展,人工智能的各种学派,人工智能的应用领域
49 4
|
1月前
|
人工智能 语音技术
推动人工智能技术和产业变革,啥是核心驱动力?生成式人工智能认证(GAI认证)揭秘答案
人工智能(AI)正以前所未有的速度重塑世界,其发展离不开领军人才与创新生态的支持。文章探讨了AI领军人才的核心特质及培养路径,强调构建产学研深度融合的创新生态,并通过教育变革与GAI认证提升全民AI素养,为技术与产业变革提供持续动力。这不仅是推动社会高质量发展的关键,也为个人与企业带来了更多机遇。
|
22天前
|
机器学习/深度学习 人工智能 自然语言处理
生成式人工智能的价值回归:重塑技术、社会与个体的发展轨迹
生成式人工智能(Generative AI)正以前所未有的速度重塑社会面貌。它从单一决策工具转变为创造性生产力引擎,推动知识生产、艺术创作与科学研究的发展。同时,其广泛应用引发社会生产力和生产关系的深刻变革,带来就业结构变化与社会公平挑战。此外,生成式AI还面临伦理法律问题,如透明性、责任归属及知识产权等。培生公司推出的生成式AI认证项目,旨在培养专业人才,促进技术与人文融合,助力技术可持续发展。总体而言,生成式AI正从工具属性向赋能属性升华,成为推动社会进步的新引擎。
|
4月前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
眼疾识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了4种常见的眼疾图像数据集(白内障、糖尿病性视网膜病变、青光眼和正常眼睛) 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,实现用户上传一张眼疾图片识别其名称。
308 5
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
|
1月前
|
人工智能 物联网 编译器
【01】优雅草星云物联网AI智控系统从0开发鸿蒙端适配完成流程-初始化鸿蒙编译器deveco studio项目结构-UI设计图切片下载-优雅草卓伊凡
【01】优雅草星云物联网AI智控系统从0开发鸿蒙端适配完成流程-初始化鸿蒙编译器deveco studio项目结构-UI设计图切片下载-优雅草卓伊凡
52 11
【01】优雅草星云物联网AI智控系统从0开发鸿蒙端适配完成流程-初始化鸿蒙编译器deveco studio项目结构-UI设计图切片下载-优雅草卓伊凡
|
18天前
|
人工智能 自然语言处理 API
MCP与A2A协议比较:人工智能系统互联与协作的技术基础架构
本文深入解析了人工智能领域的两项关键基础设施协议:模型上下文协议(MCP)与代理对代理协议(A2A)。MCP由Anthropic开发,专注于标准化AI模型与外部工具和数据源的连接,降低系统集成复杂度;A2A由Google发布,旨在实现不同AI代理间的跨平台协作。两者虽有相似之处,但在设计目标与应用场景上互为补充。文章通过具体示例分析了两种协议的技术差异及适用场景,并探讨了其在企业工作流自动化、医疗信息系统和软件工程中的应用。最后,文章强调了整合MCP与A2A构建协同AI系统架构的重要性,为未来AI技术生态系统的演进提供了方向。
284 4
|
2月前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的【害虫识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
害虫识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了12种常见的害虫种类数据集【"蚂蚁(ants)", "蜜蜂(bees)", "甲虫(beetle)", "毛虫(catterpillar)", "蚯蚓(earthworms)", "蜚蠊(earwig)", "蚱蜢(grasshopper)", "飞蛾(moth)", "鼻涕虫(slug)", "蜗牛(snail)", "黄蜂(wasp)", "象鼻虫(weevil)"】 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Djan
147 1
基于Python深度学习的【害虫识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
|
2月前
|
人工智能 算法 搜索推荐
人工智能技术对未来就业的影响
人工智能大模型技术正在重塑全球就业市场,但其核心是"增强"而非"取代"人类工作。虽然AI在数据处理、模式识别等标准化任务上表现出色,但在创造力、情感交互和复杂决策等人类专属领域仍存在明显局限。各行业呈现差异化转型:IT领域人机协同编程成为常态,金融业基础分析岗位减少但复合型人才需求激增,医疗行业AI辅助诊断普及但治疗决策仍依赖医生,制造业工人转向技术管理,创意产业中人类聚焦高端设计。未来就业市场将形成人机协作新生态,要求个人培养创造力、情商等AI难以替代的核心能力,企业重构工作流程。AI时代将推动人类向更高价值的认知活动跃升,实现人机优势互补的协同发展。
499 2
|
3月前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
蘑菇识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了9种常见的蘑菇种类数据集【"香菇(Agaricus)", "毒鹅膏菌(Amanita)", "牛肝菌(Boletus)", "网状菌(Cortinarius)", "毒镰孢(Entoloma)", "湿孢菌(Hygrocybe)", "乳菇(Lactarius)", "红菇(Russula)", "松茸(Suillus)"】 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,
180 11
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能