翟天临的噩梦：怎样用Python检测抄袭行为？

朱雀 2022-12-23 11:25 163阅读 0赞

![format_png][]

全文共**3168**字，预计学习时长**8**分钟

![format_png 1][]

图源：Google

本教程将介绍如何使用机器学习技术（如word2vec和余弦相似度等），在Python中用几行代码制作抄袭检测器。搭建完成后，抄袭检测器将会从文件中载入学生们的作业，然后通过计算相似度来判断学生有无相互抄袭行为。

要求

本教程需要在计算机上安装scikit-learn。

安装

pip install -Uscikit-learn

怎样分析文本？

如你所知，电脑只能理解0和1。首先需要将文本转换成数字再对文本数据进行计算。

词嵌入

将文本数据转换为数字阵列的过程通常称为词嵌入（word embedding），我们将使用sci-kit-learn内置功能来完成此任务。

将文本数据转换为矢量不是随机过程，而是遵循某些算法，从而将单词表示为空间中的位置。这一点将通过使用scikit-learn内置功能来实现。

怎样检测文档的相似性？

这里需要使用向量、点积的基本概念来确定两个文本的相似度，也就是计算学生的文本作业的向量代表之间的余弦相似度值。

![format_png 2][]

此外还需要学生作业中的样本文档来测试模型。文本文件必须与脚本位于同一目录中，扩展名为“.txt”。文件目录如下：

. ├──app.py ├── fatma.txt ├── image.png ├── john.txt └──juma.txt

一起来搭建抄袭探测器

·        首先载入所有必要的模块

import os from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.metrics.pairwise import cosine_similarity

使用OS模块加载文本文件的路径，然后使用TfidfVectorizer对文本数据和余弦相似度执行词嵌入，来计算是否存在抄袭。

·        用列表推导式（List Comprehension）读取所有文本文件

接下来使用列表推导式来加载项目目录中所有的路径文件，如下：

student_files =[doc for doc in os.listdir() if doc.endswith( .txt )]

·        使用Lambda功能来向量化并计算相似性。

需要创建两个lambda函数，一个用来将文本转换成数字数组，另一个用来计算它们的相似性。

vectorize =lambda Text: TfidfVectorizer().fit_transform(Text).toarray()similarity = lambda doc1, doc2:cosine_similarity([doc1, doc2])

·        将文本数据向量化

加入下列两行代码，将加载的学生文件向量化：

vectors =vectorize(student_notes)s_vectors = list(zip(student_files,vectors))

创造一个计算相似性的功能。下面是脚本的主要功能，负责管理计算学生之间相似度的整个过程。

def check_plagiarism():     plagiarism_results = set()     global s_vectors     for student_a, text_vector_a in s_vectors:         new_vectors=s_vectors.copy()         current_index = new_vectors.index((student_a,text_vector_a))         del new_vectors[current_index]         for student_b , text_vector_b in new_vectors:             sim_score =similarity(text_vector_a, text_vector_b)[0][1]             student_pair= sorted((student_a, student_b))             score = (student_pair[0], student_pair[1],sim_score)             plagiarism_results.add(score)     return plagiarism_results Let’s print plagiarism results for data in check_plagiarism():     print(data)

·        最终代码

完成上述所有操作后会得到如下脚本，可以检测学生作业中是否存在抄袭行为。

import os from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.metrics.pairwise import cosine_similarity
    student_files = [doc for doc in os.listdir() if doc.endswith( .txt )] student_notes=[open(File).read() for File in student_files]
    vectorize = lambda Text:TfidfVectorizer().fit_transform(Text).toarray() similarity = lambda doc1, doc2: cosine_similarity([doc1,doc2])
    vectors = vectorize(student_notes) s_vectors= list(zip(student_files, vectors))
    def check_plagiarism():     plagiarism_results = set()     global s_vectors     for student_a, text_vector_a in s_vectors:         new_vectors=s_vectors.copy()         current_index = new_vectors.index((student_a,text_vector_a))         del new_vectors[current_index]         for student_b , text_vector_b in new_vectors:             sim_score =similarity(text_vector_a, text_vector_b)[0][1]             student_pair= sorted((student_a, student_b))             score = (student_pair[0], student_pair[1],sim_score)             plagiarism_results.add(score)         return plagiarism_results
    for data in check_plagiarism():     print(data)

·        输出：

运行上述app.py，结果如下：

$ python app.py#
    __________RESULT ___________ ( john.txt ,  juma.txt , 0.5465972177348937)( fatma.txt ,  john.txt , 0.14806887549598566)( fatma.txt ,  juma.txt , 0.18643448370323362)

抄袭检测器完成啦！老师们用起来，广大中小学生们的美梦就此结束了。

![format_png 3][]

**推荐阅读专题**

[![format_png 4][]][format_png 4 1]

[![format_png 5][]][format_png 5 1]

[![format_png 6][]][format_png 6 1]

[![format_png 7][]][format_png 7 1]

![format_png 8][]

**留言点赞发个朋友圈**

**我们一起分享AI学习与发展的干货**

编译组：岳馨妍、欧舒蔓

相关链接：

https://hackernoon.com/how-to-detect-plagiarism-in-text-using-python-zn213tw7

如转载，请后台留言，遵守转载规范

**推荐文章阅读**

[ACL2018论文集50篇解读][ACL2018_50]

[EMNLP2017论文集28篇论文解读][EMNLP2017_28]

[2018年AI三大顶会中国学术成果全链接][2018_AI]

[ACL2017论文集：34篇解读干货全在这里][ACL2017_34]

[10篇AAAI2017经典论文回顾][10_AAAI2017]

**长按识别二维码可添加关注**

**读芯君爱你**

![format_png 9][]

[format_png]: /images/20221120/a68f372f2e45405bab14e343f54da436.png
[format_png 1]: /images/20221120/9a7105a1be0b4d7d9238bb4b8f5211b0.png
[format_png 2]: /images/20221120/f15a4aa461e14eabb4020c70dbc48884.png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9qTmIwbXlnYjh4Q2RpY21XYTlpY3kwczZ0Mkd5aWJVdDhZRWZnSGx2ekM4eTA5VlhQVVNIMWIwOGdnbW1oczVBNVlPMm5SY1ZpY2I4bU1GMjNnRG9XV1I4Z1EvNjQw?x-oss-process=image/format,png
[format_png 4]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4a0czZ0ExUVNleW1zeGduNVdpYmJSeHNOSGdVbmhOWkZDU3ZZdm4wM0s3TXRnV2xoYUJXU214Y29mamxNbmljZ1Bud2p0R0QwbGFiZGxnLzY0MA?x-oss-process=image/format,png
[format_png 4 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ec4ddf397d2bb194670056d7ed973cf4349656e20d98bd139d8a5d99526a799fb243f8d&idx=1&mid=2247493138&scene=21&sn=d2fa895e71260f2576fa952cf2487522#wechat_redirect
[format_png 5]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4azV1aWJCSWpWWkR3MGhqY1ZQTVNtQU5Ld1RwOXJ0VzhSSVA5WjNPalpPV0x5cWxiTm1tSWRQdGNETWlhRzlHUzAxSUN6UmVMaWNYTElpYWcvNjQw?x-oss-process=image/format,png
[format_png 5 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ed9ddf397cf9a7136dfb1352cf9fb1127b3061293cf716f8ee95b4560e694fce20a1e24&idx=2&mid=2247493135&scene=21&sn=5711dc1074411b7e45b40eb34fecc648#wechat_redirect
[format_png 6]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4bE9NdXV6UHFKcmlidkNQekNWWVV4VHRSMWljNVBpYnhKaWJXaWNlTm1DZDVNdm1pYzFWcHgzSWdyODFHUmlhbk9pYmFZcUN0N1FkaHl0eWhpYkNSZy82NDA?x-oss-process=image/format,png
[format_png 6 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ec4ddf397d28ed77a111732be52384c9be414e0aad59c570ada6b29278755d066ae2090&idx=2&mid=2247493138&scene=21&sn=e45fe93b00342ba9eac222f24369d036#wechat_redirect
[format_png 7]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9QTFNBaHVFbEZ4blZ2QTBrSmdXbTVqR1JBbXhSYUw5amx4SmFDQnhvMTdjeDU3OXdWVWNPRUxlNEZrUGt4YXVQRGVCUHdSSWZMM2xLaWFhQ3VwNWZOaWNRLzY0MA?x-oss-process=image/format,png
[format_png 7 1]: http://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea841ed9ddf397cfbc27f47a160ee926a706f1b3151c53f707c8f221fde0ea51446aabe2148d&idx=1&mid=2247493135&scene=21&sn=cce4cc400933c960a3200fd0dfa4d0a7#wechat_redirect
[format_png 8]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2pwZy9QTFNBaHVFbEZ4bXl1ZjA0ckNGWE8walI5MGNTdnNUaWFsZkNpY3duUGhoRExrajJKdmFNVHEzRHNaN25ZZ1gyNWxueGd2THh5WWhDMktMNmlheUJjUHpsdy82NDA?x-oss-process=image/format,png
[ACL2018_50]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87ee2addf0673cae27c598a097f5addad5d81b2ed766e570f20fc0fb12b77c5cf34098022e&idx=1&lang=zh_CN&mid=2247489276&scene=21&sn=98e22e2b69478303f1f1a0a51e712570&token=192322725#wechat_redirect
[EMNLP2017_28]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87eaadddf063bb3ab4ec5af616612a45f8d4fe9a5ad558f66278478296060253c1564bd05c&idx=1&lang=zh_CN&mid=2247488123&scene=21&sn=a55185f3a693f7a5d85b1abe3dd36177&token=140500370#wechat_redirect
[2018_AI]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87f6ebddf07ffd8e84bcc18d7122f894b6cf5dc967daad9c2e122edb22968fd6f589d6852f&idx=1&mid=2247487037&scene=21&sn=37cd38b305aa874c29d764361c88a202#wechat_redirect
[ACL2017_34]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&chksm=ea87f59addf07c8c2480dd46784a431612d099d3d0531449aa8e64f68b3ba340363578d95659&idx=1&mid=2247486796&scene=21&sn=a8ae95efbf16985a259c4cd66bf919f2#wechat_redirect
[10_AAAI2017]: https://mp.weixin.qq.com/s?__biz=MzI2NjkyNDQ3Mw%3D%3D&idx=1&lang=zh_CN&mid=2247487100&scene=21&sn=3bd640ec4f00c5104664687194dd9a51&token=77118319#wechat_redirect
[format_png 9]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X2dpZi9RR2o3V0YzbFIwUnhhOU42aEo4eFFwdnNaR2ljR09LSXBpYWtCOXlQQjl3RlFvMWliYVB3ZU9qcDFkYndpYWUzdXg4OERXRWg1dExFcHo2S0pqemNVSDVwOWcvNjQw?x-oss-process=image/format,png