Python爬虫新手入门教学（五）：爬取B站视频弹幕

港控/mmm° 2023-01-11 09:12 262阅读 0赞

# 前言 #

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

**Python爬虫、数据分析、网站开发等案例教程视频免费在线观看**

https://space.bilibili.com/523606542

# ![a2b6984089fbb14c9cf0ff607a09682a.png][] #

# 前文内容 #

[Python爬虫新手入门教学（一）：爬取豆瓣电影排行信息][Python]

[Python爬虫新手入门教学（二）：爬取小说][Python 1]

[Python爬虫新手入门教学（三）：爬取链家二手房数据][Python 2]

[Python爬虫新手入门教学（四）：爬取前程无忧招聘信息][Python 3]

# 基本开发环境 #

*  Python 3.6
 *  Pycharm

# 相关模块的使用 #

*  requests
 *  re

安装Python并添加到环境变量，pip安装需要的相关模块即可。

# 一、明确需求 #

找一个弹幕比较多的视频爬取

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B]

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 1]

# 二、网页数据分析 #

以前的B站弹幕视频，点击查看历史的弹幕，会给你返回一个json数据，包含了所有的弹幕内容。  
现在点击历史弹幕数据，同样是有数据加载出来，但是里面的都是乱码了。

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 2]

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 3]

请求这个链接还是会得到想要的数据内容。

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 4]

只需要使用正则表达匹配中文字符就可以匹配出来

# 三、解析数据并多页爬取 #

弹幕分页是根据日期来的，当点击 **2021-01-01** 的使用，返回的给我的数据并不是弹幕数据，而是所有的日期。

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 5]

那么看到这里有人就会问了，那我想要爬取 **2021-01-01** 的弹幕数据怎么办？

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 6]

这两个的url地址是不一样的，**seg.so** 才是弹幕数据url地址。

返回的数据是json数据，根据字典键值对取值就可以得到相关数据。

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 7]

# 四、保存数据（数据持久化） #

def main(html_url):
        data = get_date(html_url)
        for date in data:
            url = f'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
            html_data = get_response(url).text
            result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
            for i in result:
                with open('B站弹幕.txt', mode='a', encoding='utf-8') as f:
                    f.write(i)
                    f.write('\n')

![Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B 8]

# 五、完整代码 #

import requests
    import re
    
    
    def get_response(html_url):
        headers = {
            'cookie': '你自己的cookie',
            'origin': 'https://www.bilibili.com',
            'referer': 'https://www.bilibili.com/video/BV19E41197Kc',
            'user-agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36',
        }
        response = requests.get(url=html_url, headers=headers)
        return response
    
    
    def get_date(html_url):
        response = get_response(html_url)
        json_data = response.json()
        date = json_data['data']
        print(date)
        return date
    
    
    def save(content):
        for i in content:
            with open('B站弹幕.txt', mode='a', encoding='utf-8') as f:
                f.write(i)
                f.write('\n')
                print(i)
    
    
    def main(html_url):
        data = get_date(html_url)
        for date in data:
            url = f'https://api.bilibili.com/x/v2/dm/web/history/seg.so?type=1&oid=120004475&date={date}'
            html_data = get_response(url).text
            result = re.findall(".*?([\u4E00-\u9FA5]+).*?", html_data)
            save(result)
    
    
    if __name__ == '__main__':
        one_url = 'https://api.bilibili.com/x/v2/dm/history/index?type=1&oid=120004475&month=2021-01'
        main(one_url)

# 总结 #

**1、需要登陆才能查看历史弹幕，爬取时需要携带cookie**

**2、可以保存到Excel里面，本文是保存txt文本**

**3、保存数据之后可以做词云分析下篇文章再说吧**

[a2b6984089fbb14c9cf0ff607a09682a.png]: /images/20221119/3dcad5e29edc4df18323c217be50ff4f.png
[Python]: https://blog.csdn.net/m0_48405781/article/details/113055904
[Python 1]: https://blog.csdn.net/m0_48405781/article/details/113118597
[Python 2]: https://blog.csdn.net/m0_48405781/article/details/113140580
[Python 3]: https://blog.csdn.net/m0_48405781/article/details/113179478
[Python_B]: /images/20221119/07ff14f505684303847d82c3fa1e2deb.png
[Python_B 1]: /images/20221119/042520f86c5440269e28f57e21f683bb.png
[Python_B 2]: /images/20221119/8231b63b2f574d27b09e6a7e3e01fb3b.png
[Python_B 3]: /images/20221119/051e48a2bc2f464f8544463acdaa90a4.png
[Python_B 4]: /images/20221119/b1c2a19ab10d404e82907b47824ec99a.png
[Python_B 5]: /images/20221119/633d8e551682409ea5274fa70d9c155c.png
[Python_B 6]: /images/20221119/4bdadc7c730a432b960f1a71d2456a13.png
[Python_B 7]: /images/20221119/94b6b079423e4c6cb8610690ccac0381.png
[Python_B 8]: /images/20221119/eac6049aea544317a5070cc49ef13489.png