B 站 CEO 的身份证被上传到 GitHub 了？

客官°小女子只卖身不卖艺 2022-09-11 05:08 182阅读 0赞

![0D5F937FE12312312D81F17F.jpg][]

程序员的成长之路

互联网/程序员/技术/资料共享

[关注][Link 1]

阅读本文大概需要 2.8 分钟。

来自：量子位

AI 自动补全代码，结果补出来了一张别人的身份证？

GitHub Copilot 又出神操作了。

有人在推特上晒图，表示自己在使用 GitHub Copilot 时，它竟然给补全出了一张身份证信息出来。

![6f391b459a6ea8605e18fcc68e3af407.png][]

输入 B 站 CEO 陈睿的信息后，下方竟然自动补出了**身份证号**。

这操作确实够吓人的。

网友就表示：恐成社工库利器啊！

![8089c8875d3198e8f638079eecfa0712.png][]

不过恐慌之际，眼尖的网友们很快发现了问题：

显示的身份证号其实是**假的**，其中出生年份和校验位明显都是错的。

陈睿应该是 1978 年生，而这里的证件号上显示为 1988。

> 叔叔我啊，变年轻了

![b349f4dbb87374092325f0ac9ceacc49.png][]

也就是说，这串所谓的身份证号，其实是 GitHub Copilot 自动生成的**假数据**。

这让人们提起来的心稍微放下了一些。

但是原本是生成代码的 GitHub Copilot，怎么会生成个人隐私信息呢？

## ** ** ##

## **吃了的，不经意又吐出来** ##

这和 GitHub Copilot 的工作原理有一定关系。

GitHub Copilot 由 **Codex** 模型支持，它可以看做是 GPT-3 的升级版，既能看懂代码、也能看懂自然语言。

**一方面**，GitHub Copilot 为了能看懂注释，需要接受像 GPT-3 一样的语言训练。

语言模型在生成结果时，往往会随机表现出某些训练数据的特征。

也就是模型 “记住了” 见过的数据信息，处理任务时，把它 “吃进去” 的训练数据又 “吐了出来”。

而对于 GPT-3、BERT 这些超大型语言模型来说，训练数据集的来源往往包罗万象，大部分是从**网络公共信息**中抓取，其中免不了**个人敏感信息**，比如姓名、地址、身份证号等等。

有人就表示，b 站高层的个人信息可能早就被人恶意曝光了。

![5d8ab2141d529900d0965d8c2cd80d12.png][]

这一次很可能是 GitHub Copilot 在生成结果时，随机表现出了一些训练数据的特征，这部分数据刚好来自陈睿的隐私信息。

事实上，GitHub 的 CEO Nat Friedman 也回应过类似的问题。

他表示 GitHub Copilot 给出的隐私信息都是**假的**，是通过训练数据合成而来。

而前不久曝出的 Copilot 抄袭大神代码、原版注释一事，直接让 Nat 这番回应啪啪打脸。

自动生成的代码不仅和原版一样，连 “what the fuck” 那句注释也用上了。

###### **![bac598598238b6f3e794f4aab3b604d9.gif][]** ######

###### **△**GitHub Copilot 复刻 Quake 代码 ######

**另一方面**，GitHub Copilot 是由数十亿行**公开代码**训练的。

有人认为，这可能是训练集中的原始代码就违反了相关隐私条款。

GitHub Copilot 受到错误代码的影响，意外把陈睿的个人信息从数据集里套了出来。

![f1e9d80609e2365a84afad53905c055c.png][]

虽然这次情况可能只是个意外，但是也暴露了 GitHub Copilot 在安全隐私上存在许多风险。

有网友就对 GitHub Copilot 的敏感信息处理，表示担忧：

> 倒是说会对敏感信息处理，但是我觉得总会有漏的。

![663d2a4bb4b3696cff6b3cab088e027f.png][]

小米开源技术委员会主席、小米副总裁崔宝秋则表示，这提醒了用户要注意自己的安全隐私保护，个人数据要记得匿名化。

![20a1998d609a53b122662719e3439116.png][]

## ** ** ##

## **GitHub Copilot 争议不断** ##

事实上，GitHub Copilot 从上线以来就争议不断：

直接照抄源代码、没有开源许可证；

由公共代码库训练，却要以付费商品上线；

……

除了安全隐私上的风险，openAI 还发现 GitHub Copilot 的模型 Codex 与 GPT-3 一样，会生成带有种族主义或其他伦理问题的结果。

最近，自由软件基金会（Free Software Foundation，FSF）也发出了抗议，他们表示使用 GitHub Copilot 必须运行 Visual Studio IDE 或 Visual Studio Code 这种付费软件，侵犯了用户的权益。

![4902a53561d3a6f9ccd7297134acb1d6.png][]

为此，FSF 正在向大众征集 GitHub Copilot 在版权、法律等问题的投稿。

对于这一抗议，GitHub 方面则表示愿意对任何问题持开放态度。

“这是一个全新的领域，我们渴望与开发者就这些话题进行讨论，并引领行业为训练人工智能模型制定适当的标准。”

参考链接：  
\[1\]https://twitter.com/DeltonDing/status/1423651446340259840  
\[2\]https://venturebeat.com/2021/07/08/openai-warns-ai-behind-githubs-copilot-may-be-susceptible-to-bias/  
\[3\]https://www.infoworld.com/article/3627319/github-copilot-is-unacceptable-and-unjust-says-free-software-foundation.html

<END>

**推荐阅读：**

[如何写出让同事无法维护的代码？][Link 2]

[Jmeter 压力测试中关于 Http 的那些事儿][Jmeter _ Http]

**互联网初中高级大厂面试题(9个G)**

内容包含Java基础、JavaWeb、MySQL性能优化、JVM、锁、百万并发、消息队列、高性能缓存、反射、Spring全家桶原理、微服务、Zookeeper、数据结构、限流熔断降级......等技术栈！

⬇戳阅读原文领取！                                       朕已阅 ![f72feca7d6f34906e84b427c6092c56a.gif][]

[0D5F937FE12312312D81F17F.jpg]: /images/20220828/dd3920f88d2a496d88082ec5788ee89a.png
[Link 1]: https://mp.weixin.qq.com/s?__biz=MzUyNDkzNzczNQ%3D%3D&chksm=fa24f0bacd5379ac93d74ffebac826d2401fd494f82e900e5102a8bf968f108e4ec72a4ad548&idx=3&lang=zh_CN&mid=2247487442&scene=21&sn=61e758d4bf9f15a3419fd028146469a3&token=1854383306#wechat_redirect
[6f391b459a6ea8605e18fcc68e3af407.png]: /images/20220828/0e49204c814e4a2087e16fa932586095.png
[8089c8875d3198e8f638079eecfa0712.png]: /images/20220828/6b11dd9be9904ba29a69270a5f60937d.png
[b349f4dbb87374092325f0ac9ceacc49.png]: /images/20220828/b4cc3456bba84dfd95b95fdbd12fe6e1.png
[5d8ab2141d529900d0965d8c2cd80d12.png]: /images/20220828/89748e224f8d4f9396c0afbdf3e7db3e.png
[bac598598238b6f3e794f4aab3b604d9.gif]: /images/20220828/98decbb306fc4ba5a7e429f24fa9897e.png
[f1e9d80609e2365a84afad53905c055c.png]: /images/20220828/e6c80ec36fed4ca2957a168e087be226.png
[663d2a4bb4b3696cff6b3cab088e027f.png]: /images/20220828/53840392b7b64a1bbea3e960af0d2a2a.png
[20a1998d609a53b122662719e3439116.png]: /images/20220828/eb8bb976a6864c28b1e22a308330c59f.png
[4902a53561d3a6f9ccd7297134acb1d6.png]: /images/20220828/a089c4418342492cbc5cef4893cdbaef.png
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzUyNDkzNzczNQ%3D%3D&chksm=fa2752e4cd50dbf25d9fe73a4dfba04abf8ec4efcf4d28f441e7998bbc69a7eb78a309e12683&idx=1&mid=2247511436&scene=21&sn=1a7350e1a2f7f27899f2e5028a4e499e#wechat_redirect
[Jmeter _ Http]: http://mp.weixin.qq.com/s?__biz=MzUyNDkzNzczNQ%3D%3D&chksm=fa2752e4cd50dbf2fb0d6bf36e085e1e6dd62da39089ac84a57ae285734e72920be3f5c472a8&idx=2&mid=2247511436&scene=21&sn=81bd610e7c46815b4549ace9166af76b#wechat_redirect
[f72feca7d6f34906e84b427c6092c56a.gif]: /images/20220828/103c84f4d2a145b9829ee5499b2fe842.png