High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新(一)

简介: High&NewTech:人工智能技术滥用之DeepNude技术(从下载致系统宕机→最后被禁用)而引发的AI道德底线的深度拷问—191017再次更新

相关报道



image.png

       DeepNude was a deepfakes application which allowed to alter photos of a person to make them appear nude, designed to work on females. Several days after its June 23rd, 2019, release and rapid climb to popularity, the app was permanently shut down over the concerns of potential misuse, although already downloaded copies of the software were continued to be shared.

       On June 23rd, 2019, Windows and Linux application DeepNude, developed by an anonymous person known only as Alberto, was made available for download online (website no longer available).

On June 27th, 2019, Vice Motherboard featured a story on the app, titled "This Horrifying App Undresses a Photo of Any Woman With a Single Click", also talking to the creator of the app.[3] In the following days, multiple news outlets covered the story, including articles by The Verge.


      DeepNude是一款类似deepfake应用程序,它允许修改一个人的照片,使其看起来是裸体的,专为女性设计。该应用于2019年6月23日发布,并迅速走红。几天后,出于对潜在滥用的担忧,该应用程序被永久关闭。

    2019年6月23日,由一位名叫阿尔贝托的匿名人士开发的Windows和Linux应用程序DeepNude可以在网上下载(目前网站不再提供)。2019年6月27日刊登了一篇应用程序,名为“这恐怖的应用脱下衣服的照片与单一点击“任何女人,还跟应用程序的创建者。在接下来的日子里,多个新闻媒体介绍了故事。6月27日,由于访问量过大,官方网站遭遇了一系列的崩溃。在同一天,DeepNude的创建者宣布,由于担心应用程序可能被滥用,该服务已被永久关闭。

      这款应用的免费版本中,输出的图像有一部分被大水印遮住了,50美元的付费版本中去掉了水印。支付额外的50美元可以去除一个较小的“假”水印(如下图所示,左边和右边)。虽然这款应用的下载量还不清楚,但在2019年6月27日,官方的DeepNude网站在关闭前因为高负载经历了一系列崩溃。


      Motherboard联系了DeepNude的创建者,此人化名为“阿尔贝托”(Alberto,匿名)。他表示,该软件基于加州大学伯克利分校研究者开发的开源算法pix2pix创建,并使用1万张女性LUO图加以训练。这一算法与之前的人工智能换脸技术deepfake算法相似,也和无人车技术所使用的算法相似。


     DeepNude使用pix2pix开源算法分析输入图像,识别服装并删除它,用生成的裸体图像替换它。该算法在10000多张女性裸照的数据集上进行训练。


      “阿尔贝托”表示,该软件目前之所以只能用于女性照片,是因为女性LUO体图像更容易在网上找到,但他希望能创建一个男性版本的软件。他还表示,他继续这一实验是出于“有意思”和好奇心。“我不是偷窥狂。我是技术的爱好者,”他说,“继续提升这个算法,最近也是吸取了之前的教训(来自其它创业公司)和经济上的问题,我问我自己是否可以在这个算法上获得经济回报。这就是我创建DeepNude的原因。”


      但Motherboard指出,之前就有deepfake在网络上流传,但这种技术很容易就会成为伤害女性的工具——要么在未经同意的前提下使用女性照片,要么在网上恶意散布SQ内容。而DeepNude相当于deepfake技术的进化版,操作更简单,处理速度更快。所以,带来的危害更大。


  其实,这款软件并非完美无缺。大多数图像,尤其是低分辨率图像,产生了一些视觉伪影。Deepnude完全失败了,因为有些照片使用了奇怪的角度、光线或衣服,这些照片似乎与它使用的神经网络脱节了。当我们给它一张卡通人物杰西卡·兔子的图像时,它会完全扭曲并破坏了图像。


      网友评论:AI的换脸技术、脱衣技术,这件事,在今天可归纳为三句话:火是肯定要火的。乱是一定要乱的。如何监管,大概是不知道的。哦,对了,最后应该说一下如何防止别人做出你的AI换脸、脱衣视频?不要发太多自拍,即使自拍的时候,切记多穿点衣服。

     博主评论:滥用技术的深度拷问,人类在娱乐技术的同时,技术是不是也在嘲弄人类? 新技术不能突破法律底线。AI技术发展使普通人能享受到科技带来的便利,但新技术应该驱动良性的文化创意更新迭代,切忌用到歪路上去,更不能突破底线挑战公序良俗。



基于AI算法的一键脱衣官宣关闭


     6月28日消息 此前,美国科技媒体Motherboard报道,Twitter用户@deepnudeapp 最近开发出一款名叫DeepNude的APP,只要给DeepNude输入一张女性照片,借助神经网络技术,App可以自动“脱掉”女性身上的衣服,显示出裸体。不过在6月28日凌晨,@deepnudeapp 宣布关闭这款App及网站。


image.png


      Hi! DeepNude is offline. Why? Because we did not expect these visits and our servers need reinforcement. We are a small team. We need to fix some bugs and catch our breath. We are working to make DeepNude stable and working. We will be back online soon in a few days. ——06.27


最新的一条消息:


      Here is the brief history, and the end of DeepNude. We created this project for user's entertainment a few months ago. We thought we were selling a few sales every month in a controlled manner. Honestly, the app is not that great, it only works with particular photos. We never thought it would become viral and we would not be able to control the traffic. We greatly underestimated the request.

 我们在几个月前创建了这个娱乐项目。我们以为这款应用的传播也在我们可控范围内。事实上,这款应用并不是很完善,它只适用于特定的照片。我们从没想过它会像病毒一样传播开来,以至于我们也无法控制,我们大大低估了用户对这个应用的需求。


      Despite the safety measures adopted (watermarks) if 500,000 people use it, the probability that people will misuse it is too high. We don't want to make money this way. Surely some copies of DeepNude will be shared on the web, but we don't want to be the ones who sell it. Downloading the software from other sources or sharing it by any other means would be against the terms of our website. From now on, DeepNude will not release other versions and does not grant anyone its use. Not even the licenses to activate the Premium version.

 尽管采用了安全措施(加水印),但要是有50万人使用它,人们滥用它的可能性就太高了。我们不想用这种方式赚钱。这款应用(制造出来)的一些裸体的副本会在网上被分享,我们不想成为出售这些“作品”的人。另外从其他来源下载或以任何其他方式共享本软件(生成的作品)将违反本网站的条款。从现在开始,DeepNude将不会发布其他版本,也不会授权任何人使用,激活高级版本许可也将停止。

      People who have not yet upgraded will receive a refund. The world is not yet ready for DeepNude.

      尚未升级的用户将获得退款。


相关文章
|
2天前
|
机器学习/深度学习 存储 人工智能
AI与未来医疗:技术的飞跃与挑战
在当今科技迅速发展的时代,人工智能(AI)正以前所未有的速度渗透到各行各业。特别是在医疗领域,AI的潜力和应用前景令人瞩目。本文将探讨AI在未来医疗中的角色,分析其带来的变革与挑战,并展望未来的发展方向。
|
8天前
|
机器学习/深度学习 人工智能 算法
植物病害识别系统Python+卷积神经网络算法+图像识别+人工智能项目+深度学习项目+计算机课设项目+Django网页界面
植物病害识别系统。本系统使用Python作为主要编程语言,通过收集水稻常见的四种叶片病害图片('细菌性叶枯病', '稻瘟病', '褐斑病', '稻瘟条纹病毒病')作为后面模型训练用到的数据集。然后使用TensorFlow搭建卷积神经网络算法模型,并进行多轮迭代训练,最后得到一个识别精度较高的算法模型,然后将其保存为h5格式的本地模型文件。再使用Django搭建Web网页平台操作界面,实现用户上传一张测试图片识别其名称。
55 21
植物病害识别系统Python+卷积神经网络算法+图像识别+人工智能项目+深度学习项目+计算机课设项目+Django网页界面
|
7天前
|
机器学习/深度学习 算法 TensorFlow
交通标志识别系统Python+卷积神经网络算法+深度学习人工智能+TensorFlow模型训练+计算机课设项目+Django网页界面
交通标志识别系统。本系统使用Python作为主要编程语言,在交通标志图像识别功能实现中,基于TensorFlow搭建卷积神经网络算法模型,通过对收集到的58种常见的交通标志图像作为数据集,进行迭代训练最后得到一个识别精度较高的模型文件,然后保存为本地的h5格式文件。再使用Django开发Web网页端操作界面,实现用户上传一张交通标志图片,识别其名称。
37 6
交通标志识别系统Python+卷积神经网络算法+深度学习人工智能+TensorFlow模型训练+计算机课设项目+Django网页界面
|
3天前
|
机器学习/深度学习 人工智能 算法
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
文本分类识别系统。本系统使用Python作为主要开发语言,首先收集了10种中文文本数据集("体育类", "财经类", "房产类", "家居类", "教育类", "科技类", "时尚类", "时政类", "游戏类", "娱乐类"),然后基于TensorFlow搭建CNN卷积神经网络算法模型。通过对数据集进行多轮迭代训练,最后得到一个识别精度较高的模型,并保存为本地的h5格式。然后使用Django开发Web网页端操作界面,实现用户上传一段文本识别其所属的类别。
16 1
【新闻文本分类识别系统】Python+卷积神经网络算法+人工智能+深度学习+计算机毕设项目+Django网页界面平台
|
1天前
|
存储 人工智能 算法
AI伦理学:建立可信的智能系统框架
【9月更文挑战第26天】随着AI技术的迅猛发展,其在各领域的应用日益广泛,但也带来了算法偏见、数据隐私泄露、就业替代等伦理和法律挑战。本文探讨AI伦理学的核心议题,包括数据隐私保护、算法公平性与透明度、机器决策责任归属及对就业市场的影响,并提出建立可信智能系统框架的建议,如强化法律法规、技术创新、建立监督机制、行业自律和公众教育,以确保AI技术的可持续发展和社会接受。
|
4天前
|
机器学习/深度学习 人工智能 搜索推荐
AI与未来医疗:革命性的技术,守护人类健康
本文探讨了人工智能在医疗领域的应用及其对未来的深远影响。通过具体案例和深入分析,我们了解到AI如何提升医疗诊断的准确性、优化治疗方案以及改善患者管理。从医学影像分析到个性化治疗,再到医疗机器人的应用,AI正在全方位地改变医疗行业。同时,我们也讨论了这一技术带来的挑战和伦理问题,并提出了相应的对策。总之,AI在医疗领域的广泛应用不仅为医生提供了有力支持,也显著提高了患者的生活质量。
|
1天前
|
机器学习/深度学习 人工智能 监控
人工智能与未来医疗:革命性技术的崛起##
本文探讨了人工智能在医疗领域的应用及其带来的变革。通过分析AI在疾病诊断、个性化治疗、药物研发和患者管理等方面的作用,揭示了这一技术如何提高医疗效率、降低成本并改善患者体验。文章还讨论了当前面临的挑战及未来发展的前景。 ##
|
2天前
|
机器学习/深度学习 人工智能 算法
探索人工智能技术在医疗领域的应用
随着科技的不断发展,人工智能(AI)技术在各个领域中的应用越来越广泛。本文将探讨人工智能在医疗领域的应用及其带来的变革,从医学影像分析到辅助诊断和个性化治疗方案的制定,通过案例分析展示其潜力与挑战,并展望未来的发展方向。
|
4天前
|
人工智能 搜索推荐 算法
AI技术如何重塑未来医疗行业
本文探讨了人工智能 (AI) 在医疗行业中的应用及其对未来的深远影响。通过分析AI在疾病诊断、个性化治疗及医疗管理中的具体作用,揭示了AI技术如何提升医疗服务的效率和质量。同时,文章也讨论了在广泛应用AI过程中需要面对的伦理与法律问题。
17 3
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
探索AI技术在自然语言处理中的应用
【9月更文挑战第22天】本文将探讨AI技术在自然语言处理(NLP)领域的应用,包括文本挖掘、情感分析、机器翻译等方面。我们将通过实例和代码示例,展示如何使用Python和相关库实现这些功能。