Python爬取姜子牙网上影评，实现词云图

本是古典何须时尚 2022-12-12 02:20 175阅读 0赞

## 前言 ##

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

PS：如有需要Python学习资料的小伙伴可以加点击下方链接自行获取

[python免费学习资料以及群交流解答点击即可加入][python]

## 相关环境配置 ##

*  python 3.6
 *  pycharm
 *  requests
 *  parsel
 *  wordcloud
 *  jieba

相关模块pip安装即可  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center]  
国庆假期原本小编也是去看了这部电影的，看完之后总体而言还是比较失望的，动画效果是真的好，但是剧情太拉垮了~  
网上很多影评好评都是给的动画特效，差评都是给的剧情方面~

言归正传~咱们今天爬取一下豆瓣影评，看看各大网友都是什么样的看法吧

## 目标网页 ##

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 1]  
豆瓣网是静态网页，网站上面的数据都是有再网页源代码有的，请求网页，返回response数据，然后解析数据，保存数据就OK了，一气呵成，对于静态网页就不过多的说明了，还是比较简单的~

## 影评爬虫代码 ##

import requests
    import parsel
    import time
    for page in range(0, 3000, 20):
        time.sleep(1)
        url = 'https://movie.douban.com/subject/25907124/reviews'
    
        headers = { 
          'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9',
          'Host': 'movie.douban.com',
          'Referer': 'https: // movie.douban.com / subject / 26754233 / reviews?start = 140',
          'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36',
        }
    
        response = requests.get(url=url, headers=headers)
        selector = parsel.Selector(response.text)
        data = selector.css('#content .article .review-list .short-content::text').getall()
        for i in data:
            a = i.strip().replace('\n', '').replace(')', '').replace('(', '')
            with open('姜子牙影评' + '.txt', mode='a', encoding='utf-8') as f:
                f.write(a)
                f.write('\n')
                print(a)

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 2]

## 词云代码 ##

import jieba
    import wordcloud
    import imageio
    # 导入imageio库中的imread函数，并用这个函数读取本地图片，作为词云形状图片
    py = imageio.imread(r"D:\python\demo\姜子牙豆瓣影评\四不象.png")
    # 读取文件内容
    f = open(r'D:\python\demo\姜子牙豆瓣影评\姜子牙影评.txt', encoding='utf-8')
    txt = f.read()
    # print(txt)
    # jiabe 分词 分割词汇
    txt_list = jieba.lcut(txt)
    string = ' '.join(txt_list)
    # 词云图设置
    wc = wordcloud.WordCloud(
            width=1000,         # 图片的宽
            height=700,         # 图片的高
            background_color='white',   # 图片背景颜色
            font_path='msyh.ttc',    # 词云字体
            mask=py,     # 所使用的词云图片
            scale=15,
            stopwords={ ' ', '没有', '真的', '还是', '就是', '如果', '不是', '什么', '一个', '这部', '但是', '觉得', '有点', '虽然', '我们'},
            # contour_width=5,
            # contour_color='red' # 轮廓颜色
    )
    # 给词云输入文字
    wc.generate(string)
    # 词云图保存图片地址
    wc.to_file(r'D:\python\demo\姜子牙豆瓣影评\out.png')

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 3]  
![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 4]

[python]: https://jq.qq.com/?_wv=1027&k=kQrKxXXR
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center]: /images/20221123/ff8edaf9b1174ac29e920d2f40e066c4.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221123/35a5675c99ef4c23a2896d61590a6b99.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 2]: /images/20221123/770c183a53e84df29435424690cb5267.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 3]: /images/20221123/52ab2f1afa074109ac35e7b370653ebe.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2ZlaTM0Nzc5NTc5MA_size_16_color_FFFFFF_t_70_pic_center 4]: /images/20221123/6d431a2b7ca84c299a45863857f5adda.png