防不胜防：正经AI研究何以变成了计算机生成色情作品？

本是古典何须时尚 2022-12-27 12:38 77阅读 0赞

![format_png][]

全文共**1794**字，预计学习时长**5**分钟

![format_png 1][]

图源：unsplash

十年前，一些最基本的人工智能算法（比如图像识别）需要数据中心通常具备的那种计算能力才能使用。而如今，这些工具在智能手机上就可以使用，并且功能更强大、更精密。

像核能或火箭推进一样，人工智能也被视为一种“两用”技术，也就是说，它既能带来好处，又能造成危害。

不久前，Vice报道了人工智能最新造成的一个危害案例：编码人员正用性虐待图像训练算法制作色情作品。这篇报道详细披露了这名匿名博士生是如何将未经双方同意的图像编译为数据集，并结合现有算法生成自定义视频的。

用人工智能生成色情作品的创作者将这些作品发布在Pornhub、OnlyFans等平台上。他向Vice透露自己使用了StyleGAN2，一种由Nvidia构建的开源算法。如果你曾经在网上看到过极其逼真的假人脸（比如ThisPersonDoesNotExist.com网站），那么它们很有可能是由StyleGAN2生成的。

这项技术并不是一夜之间就出现的。从某些最早的现代图像生成算法出现，到这种人工智能生成色情作品现象的发生，都是有迹可循的。

![format_png 2][]

图源：Getty Images

向生成对抗网络（GAN）的飞跃

2014年，图像生成算法的能力突飞猛进，生成对抗网络（GAN）应运而生。这是一个名叫伊恩·古德费洛（Ian Goodfellow）的人工智能研究员在酒吧和别人争论时所想到的，即让算法之间相互竞争，从而产生最佳结果。

生成图像需要“生成器”和“鉴别器”。生成器生成图像，而鉴别器将根据其训练时接触到的真实图像来判断该图像是真是假。鉴别器只会接受最真实的图像，从而确保最终结果是人工智能生成图像中的精品。

让技术变得有用

古德费洛对生成对抗网络的最初研究在行业基准测试中表现良好，但他创建的许多图像看起来仍然像是让人难以接受的一团乱麻（以抽象和非人性的方式来表达创建者的想法）。

2016年，其他研究人员已经开始试验这项技术，并找到了制作逼真图像的方法，尽管分辨率很低。当时，有一篇出色的论文描述了研究人员是如何生成逼真的卧室图像的，以及初次尝试生成人脸的过程。

这项研究再次表明，生成对抗网络能够以训练时接触到的数据为基础进行调适。这种技术能够生成逼真的卧室图像，同样也能生成逼真的人脸图像，这意味着生成对抗网络实际上能够识别各种不同类型图像中的图案。

深度伪造变得越来越普及

以生成对抗网络架构为基础，目前有多种免费的开源方法来合成人脸。随着亚马逊云服务（AWS）和谷歌云（Google Cloud）这样的云服务变得越来越容易访问，训练这些算法的能力也变得越来越容易获得。

在人工智能研究领域中，最有名的是Nvidia团队开发的StyleGAN。它于2018年12月发布，虽然它能够生成不可思议的高质量假脸图像，但这些图像上仍然会出现奇怪的模糊画面和数字伪像。之后不到一年的时间内，Nvidia团队发布了StyleGAN2。

为防止形成这些模糊画面和伪像，并提高图像的保真度，该版本修复了算法的体系结构，这些算法能够适应不同的领域。通过使用色情图像（不仅仅在面部图像上）训练算法，该系统能够生成一些它可能从未打算生成的东西。

通过DeepFaceLab和Wav2Lip等开源项目，生成对抗网络也已经被用来专门从事深度伪造。想要使用这些服务确实很容易：从Wav2Lip项目的网站上可以了解到，如何用一行代码实现视频人物与任何音频文件自动对上口型。

这些技术仍处在起步阶段，但它们将变得更加精密、更有说服力。某些应用确实很有趣，但目前看来，这些算法更容易被某些别有用心之人利用去做一些坏事。如果不采取措施，深度伪造的危害可能超过其微不足道的娱乐价值。

![format_png 3][]

**推荐阅读专题**

[![format_png 4][]][format_png 4 1]

[![format_png 5][]][format_png 5 1]

[![format_png 6][]][format_png 6 1]

[![format_png 7][]][format_png 7 1]

![format_png 8][]

**留言点赞发个朋友圈**

**我们一起分享AI学习与发展的干货**

编译组：周果、蔡雪莲

相关链接：

https://onezero.medium.com/how-academic-a-i-research-morphed-into-computer-generated-porn-1fa825a25097

如转载，请后台留言，遵守转载规范

**推荐文章阅读**

[ACL2018论文集50篇解读][ACL2018_50]

[EMNLP2017论文集28篇论文解读][EMNLP2017_28]

[2018年AI三大顶会中国学术成果全链接][2018_AI]

[ACL2017论文集：34篇解读干货全在这里][ACL2017_34]

[10篇AAAI2017经典论文回顾][10_AAAI2017]

**长按识别二维码可添加关注**

**读芯君爱你**

![format_png 9][]

[format_png]: /images/20221120/c27ee2c2422543cdb0daf45d3355dec4.png
[format_png 1]: /images/20221120/23fc7db8c0ac48f0b1ec38b319e984f8.png
[format_png 2]: /images/20221120/d85845fd5b934aa9a18a5fb51e043cb8.png
[format_png 3]: /images/20221120/2f6069818c5a43ec97555cbea7b60f72.png
[format_png 4]: /images/20221120/54f48663a8234201abd4eccf9adcb22d.png
[format_png 4 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ec4ddf397d2bb194670056d7ed973cf4349656e20d98bd139d8a5d99526a799fb243f8d&idx=1&mid=2247493138&scene=21&sn=d2fa895e71260f2576fa952cf2487522#wechat_redirect
[format_png 5]: /images/20221120/18f143ff261849e68288d8e6415c2bbe.png
[format_png 5 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ed9ddf397cf9a7136dfb1352cf9fb1127b3061293cf716f8ee95b4560e694fce20a1e24&idx=2&mid=2247493135&scene=21&sn=5711dc1074411b7e45b40eb34fecc648#wechat_redirect
[format_png 6]: /images/20221120/4284e81aa7b0442981f71d57b75495e0.png
[format_png 6 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ec4ddf397d28ed77a111732be52384c9be414e0aad59c570ada6b29278755d066ae2090&idx=2&mid=2247493138&scene=21&sn=e45fe93b00342ba9eac222f24369d036#wechat_redirect
[format_png 7]: /images/20221120/e2a42237472e4204bc8165e7b4090e6f.png
[format_png 7 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ed9ddf397cfbc27f47a160ee926a706f1b3151c53f707c8f221fde0ea51446aabe2148d&idx=1&mid=2247493135&scene=21&sn=cce4cc400933c960a3200fd0dfa4d0a7#wechat_redirect
[format_png 8]: /images/20221120/9024a4609e944780a3799e76b5c4cb51.png
[ACL2018_50]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87ee2addf0673cae27c598a097f5addad5d81b2ed766e570f20fc0fb12b77c5cf34098022e&idx=1&lang=zh_CN&mid=2247489276&scene=21&sn=98e22e2b69478303f1f1a0a51e712570&token=192322725#wechat_redirect
[EMNLP2017_28]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87eaadddf063bb3ab4ec5af616612a45f8d4fe9a5ad558f66278478296060253c1564bd05c&idx=1&lang=zh_CN&mid=2247488123&scene=21&sn=a55185f3a693f7a5d85b1abe3dd36177&token=140500370#wechat_redirect
[2018_AI]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87f6ebddf07ffd8e84bcc18d7122f894b6cf5dc967daad9c2e122edb22968fd6f589d6852f&idx=1&mid=2247487037&scene=21&sn=37cd38b305aa874c29d764361c88a202#wechat_redirect
[ACL2017_34]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87f59addf07c8c2480dd46784a431612d099d3d0531449aa8e64f68b3ba340363578d95659&idx=1&mid=2247486796&scene=21&sn=a8ae95efbf16985a259c4cd66bf919f2#wechat_redirect
[10_AAAI2017]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&idx=1&lang=zh_CN&mid=2247487100&scene=21&sn=3bd640ec4f00c5104664687194dd9a51&token=77118319#wechat_redirect
[format_png 9]: /images/20221120/b62235228ac94033a47e7c9ba1b15603.png

发表评论取消回复

表情：

评论列表（有 0 条评论，77人围观）

还没有评论，来说两句吧...

相关阅读

相关分布式ID生成研究

Snowflake算法 snowflake是Twitter开源的分布式ID生成算法，保证业务集群中所有机器在某个时间点都能生成一个64 bits的唯一ID（long）...

Love The Way You Lie/ 2024年04月17日 19:36/ 0 赞/ 85 阅读

相关 ai自动生成音乐

介绍 ai自动生成音乐 -------------------- 方法登录网站： [ https://tuneflow.com/editor][

小灰灰/ 2023年10月12日 00:28/ 0 赞/ 89 阅读

相关苹果公开了其AI研究的第一个大图像数据集

![图片][2d2e1181d2f6c42a5d923b5be8873082.png] 来啦来啦，苹果近日公开了其AI研究的第一个大图像数据集，带有1.9TB标签的74K高分

不念不忘少年蓝@/ 2022年12月29日 06:59/ 0 赞/ 102 阅读

相关防不胜防：正经AI研究何以变成了计算机生成色情作品？

![format_png][] 全文共1794字，预计学习时长5分钟 ![format_png 1][] 图源：unsplash 十年前，一些最基本的人工智能算法

本是古典何须时尚/ 2022年12月27日 12:38/ 0 赞/ 78 阅读

相关 1.计算机技术在音乐作品中的使用,计算机技术在音乐创作中的应用研究

摘要：计算机音乐技术是现代化计算机技术及其它音频处理设备基于音乐本体相互结合而成的产物。这一技术的发展开辟了音乐领域的纪元。在它的推动下,音乐创作理论及手法、音频制作技术开

电玩女神/ 2022年10月12日 12:53/ 0 赞/ 195 阅读

相关研究计算机英语,高职计算机英语多方法结合研究

一、计算机英语教学特点计算机英语的特点是专业词汇量大，语法结构严谨，长句难以分析。高职院校中的学生往往英语底子薄，基础弱，没有经过系统的专业阅读翻译训练。这些特点要求高职院

Love The Way You Lie/ 2022年10月09日 12:03/ 0 赞/ 201 阅读

相关国内AI研究「顶不了天、落不了地」，到底什么是基础研究？

> 谷歌 AlphaFold 2 在蛋白质结构预测方面取得的一系列重要成果引发了广大科研人员对国内 AI 研究现状的思考，中国工程院院士李国杰、中科院计算所研究员 & 博士生导

╰+攻爆jí腚メ/ 2022年09月04日 05:40/ 0 赞/ 2 阅读

相关 eclipse 空格变成了“=”问题

1.先找到相关的插件打开Plug-ins View找到插件org.eclipse.jface.text,右键点击,选择import as Source Proj

╰+攻爆jí腚メ/ 2022年07月28日 10:57/ 0 赞/ 234 阅读

相关 CU 的文章何以无故没了？

好久没写博文，今天突然想看一下以前写的一篇文章，找了半天，还不敢相信，搜索确认了一下，这篇文章居然，真的......没了! 题目是有关CFS算法的分析，记得当时被转载很多，

分手后的思念是犯贱/ 2022年06月18日 03:51/ 0 赞/ 224 阅读

相关我们何以生存

现在各行各业的竞争都异常激烈，人们在此中环境下生存无异于在刀山火海中谋生。如果您不幸在大都市谋生，更尤似在风口浪尖，如何在这样的环境求生存，求发展成为当今社会中每个人，每个

不念不忘少年蓝@/ 2021年11月10日 04:36/ 0 赞/ 342 阅读