Python爬虫新手入门教学（十）：爬取彼岸4K超清壁纸

Dear 丶 2022-10-24 13:22 375阅读 0赞

# 前言 #

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

**Python爬虫、数据分析、网站开发等案例教程视频免费在线观看**

https://space.bilibili.com/523606542

# ![a2b6984089fbb14c9cf0ff607a09682a.png][] #

# 前文内容 #

[Python爬虫新手入门教学（一）：爬取豆瓣电影排行信息][Python]

[Python爬虫新手入门教学（二）：爬取小说][Python 1]

[Python爬虫新手入门教学（三）：爬取链家二手房数据][Python 2]

[Python爬虫新手入门教学（四）：爬取前程无忧招聘信息][Python 3]

[Python爬虫新手入门教学（五）：爬取B站视频弹幕][Python_B]

[Python爬虫新手入门教学（六）：制作词云图][Python 4]

[Python爬虫新手入门教学（七）：爬取腾讯视频弹幕][Python 5]

[Python爬虫新手入门教学（八）：爬取论坛文章保存成PDF][Python_PDF]

[Python爬虫新手入门教学（九）：多线程爬虫案例讲解][Python 6]

# 基本开发环境 #

*  Python 3.6
 *  Pycharm

# 相关模块的使用 #

*  re
 *  requests

安装Python并添加到环境变量，pip安装需要的相关模块即可。

# 一、明确需求 #

彼岸的壁纸，在我觉得是真的好看。虽然可以免费下载，但是对于有条件的小伙伴，还是可以支持一下付费的，毕竟不贵，只需要30元就可以全站无限制下载了。

![3400228d933ffc771da004fbfcec77e2.png][]

# 二、网页数据分析 #

一步一步点击图片进去可以发现详情页的url地址是有由 **图片ID** 以及 **图片分辨率** 组成。

![557a87d56b260aa5dbeba0c4b835f5c0.png][]

再次点击，之后可以看到图片的真实地址。如果你只是想要找一张壁纸图片的话，这样保存图片之后就高清的壁纸了。

![0fe4eafa1bf2384a9d0bbe894c89552d.png][]

如果是要爬取图片的话，在详情页的中是有图片链接的。

![d283ea74e3d46a3d40071ee5c07d16aa.png][]

所以只需要在列表页中，获取图片的 ID 就可以了，因为我们爬取的本身就是 1920\*1080的分辨率，所以这个分辨率的是固定的。只要获取 图片ID然后拼接url就可以了。

![cd6df305a82f1648ef2267e423d17040.png][]

**这里需要注意一个问题：**

每页的数据当中，是有两个我们不需要的内容。

![c79a099bd122a608465ac0785d2b46d2.png][]

![6d2e5ec68d73b59f56af2870140e9a44.png][]

我们所需要的数据是附带 标题的，不需要的则是没有标题，所以可以根据这个进行一个判断。

# 三、代码实现 #

**获取网页数据**

def get_response(html_url):
        """获取网页数据"""
        headers = {
            'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
        }
        response = requests.get(url=html_url, headers=headers)
        return response

**获取每张壁纸的ID**

def main(html_url):
        """获取图片ID"""
        response = get_response(html_url)
        selector = parsel.Selector(response.text)
        image_info = selector.css('.list ul li')
        for link in image_info:
            image_title = link.css('a::attr(title)').get()
            # 进行简单的判断，如果有标题就获取ID 
            if image_title:
                id_info = link.css('a::attr(href)').get()
                # /desk/23177.htm
                image_id = id_info.replace('.htm', '').split('/')[-1]

**获取每张壁纸的url地址**

def get_image_url(image_id):
        """获取图片的真实url地址"""
        page_url = f'http://www.netbian.com/desk/{image_id}-1920x1080.htm'
        response = get_response(page_url)
        selector = parsel.Selector(response.text)
        image_url = selector.css('#endimg a::attr(href)').get()
        return image_url

**保存壁纸**

def save(image_url, title):
        filename = 'images\\' + title + '.jpg'
        image_content = get_response(image_url).content
        with open(filename, mode='wb') as f:
            f.write(image_content)
            print('正在保存：', title)

**当我写完代码，运行的时候发现了一个问题**

![714206ba9e72a1c5b410e5f969f93dea.png][]

![581edcbf1ff5aabeefb2f78f91ccacbe.png][]

图片是能保存下来，但是它乱码了，所以需要在获取网页数据的函数里面加一行代码

# 万能的转码方式
    response.encoding = response.apparent_encoding

**更新代码之后，标题变成了中文了，但是又出现新的问题了**

![115f83f2cdfcce1a000c7c306ee9c17b.png][]

![94b9289f0317d4b09b5932fdf79dc239.png][]

每个标题后面都是带有 更新时间的，返回网页看一下源代码。

![5835b9a67da6650e2344b433118f91a4.png][]

a 标签里面的 title 属性里面是带有更新时间，img标签里面的alt属性是没有更新时间的，所以我们要重新提取一下标题数据。

**更改后：**

def main(html_url):
        """获取图片ID"""
        response = get_response(html_url)
        selector = parsel.Selector(response.text)
        image_info = selector.css('.list ul li')
        for link in image_info:
            image_title = link.css('a::attr(title)').get()
            if image_title:
                title = link.css('a img::attr(alt)').get()
                id_info = link.css('a::attr(href)').get()
                # /desk/23177.htm
                image_id = id_info.replace('.htm', '').split('/')[-1]

![b3759fa4392a80b21d39dd98fc14506e.png][]

![71ccf7c9bffe360db1954a67b3af6a9b.png][]

![514d1830d66e899033989a7a6bf04d3f.png][]

这些壁纸还挺大的，翻页根据页码进行翻页就好了，关于多线程爬取的话，可以参考上篇的文章内容。

[a2b6984089fbb14c9cf0ff607a09682a.png]: /images/20221024/5f4e7e17a561450c83ded35ef749bac6.png
[Python]: https://blog.csdn.net/m0_48405781/article/details/113055904
[Python 1]: https://blog.csdn.net/m0_48405781/article/details/113118597
[Python 2]: https://blog.csdn.net/m0_48405781/article/details/113140580
[Python 3]: https://blog.csdn.net/m0_48405781/article/details/113179478
[Python_B]: https://blog.csdn.net/m0_48405781/article/details/113183911?spm=1001.2014.3001.5501
[Python 4]: https://blog.csdn.net/m0_48405781/article/details/113247830
[Python 5]: https://blog.csdn.net/m0_48405781/article/details/113250671
[Python_PDF]: https://blog.csdn.net/m0_48405781/article/details/113336829
[Python 6]: https://blog.csdn.net/m0_48405781/article/details/113356881
[3400228d933ffc771da004fbfcec77e2.png]: /images/20221024/5feeff774bcc4176a745c778469eab42.png
[557a87d56b260aa5dbeba0c4b835f5c0.png]: /images/20221024/261c84cfded04f358b76a7a5e326aa56.png
[0fe4eafa1bf2384a9d0bbe894c89552d.png]: /images/20221024/a596ad3800a8403aa28511b5aed2176b.png
[d283ea74e3d46a3d40071ee5c07d16aa.png]: /images/20221024/542410af34c2424b871d67a4e8a33d72.png
[cd6df305a82f1648ef2267e423d17040.png]: /images/20221024/5e7d1f2d61284cadac543ddae1f3d2e5.png
[c79a099bd122a608465ac0785d2b46d2.png]: /images/20221024/b9eef6965388463fab7b2474ae093101.png
[6d2e5ec68d73b59f56af2870140e9a44.png]: /images/20221024/3a037913bc77409e83e92ecb2038bea7.png
[714206ba9e72a1c5b410e5f969f93dea.png]: /images/20221024/4f8e403ced4d4371a682df7ed0352ec2.png
[581edcbf1ff5aabeefb2f78f91ccacbe.png]: /images/20221024/f205abdbbac74634a558e0c17ed50fac.png
[115f83f2cdfcce1a000c7c306ee9c17b.png]: /images/20221024/cbe2791d79c44a07a4ff0e00ce36451a.png
[94b9289f0317d4b09b5932fdf79dc239.png]: /images/20221024/886e00d998524a4894daf72d007acf75.png
[5835b9a67da6650e2344b433118f91a4.png]: /images/20221024/5b12b5ab65c0482f8dc200791a64d5d0.png
[b3759fa4392a80b21d39dd98fc14506e.png]: /images/20221024/851ed243c0dc4072bd5b9ba1a871140b.png
[71ccf7c9bffe360db1954a67b3af6a9b.png]: /images/20221024/0c01962845f144a498ee1d1470f33428.png
[514d1830d66e899033989a7a6bf04d3f.png]: /images/20221024/2a4abd05896a402aa9506580a8330ee3.png