使用selenium定位获取标签对象并提取数据

向右看齐 2022-12-29 02:15 97阅读 0赞

## selenium提取数据 ##

### 文章目录 ###

*   *  selenium提取数据
     *   *   *   *  知识点：
         *  1. driver对象的常用属性和方法
         *   *   *  知识点：了解 driver对象的常用属性和方法
         *  2. driver对象定位标签元素获取标签对象的方法
         *   *   *  知识点：掌握 driver对象定位标签元素获取标签对象的方法
         *  3. 标签对象提取文本内容和属性值

![在这里插入图片描述][47f2580f42ba35e6bfd5204eb6279a10.png_pic_center]  
推荐阅读：

1.  [使用xpath爬取数据][xpath]
2.  [jupyter notebook使用][jupyter notebook]
3.  [BeautifulSoup爬取豆瓣电影Top250][BeautifulSoup_Top250]
4.  [一篇文章带你掌握requests模块][requests]
5.  [Python网络爬虫基础–BeautifulSoup][Python_BeautifulSoup]

##### 知识点： #####

*  了解 driver对象的常用属性和方法
 *  掌握 driver对象定位标签元素获取标签对象的方法
 *  掌握 标签对象提取文本和属性值的方法

--------------------

### 1. driver对象的常用属性和方法 ###

> 在使用selenium过程中，实例化driver对象后，driver对象有一些常用的属性和方法

1.  `driver.page_source` 当前标签页浏览器渲染之后的网页源代码
2.  `driver.current_url` 当前标签页的url
3.  `driver.close()` 关闭当前标签页，如果只有一个标签页则关闭整个浏览器
4.  `driver.quit()` 关闭浏览器
5.  `driver.forward()` 页面前进
6.  `driver.back()` 页面后退
7.  `driver.screen_shot(img_name)` 页面截图

--------------------

##### 知识点：了解 driver对象的常用属性和方法 #####

--------------------

### 2. driver对象定位标签元素获取标签对象的方法 ###

> 在selenium中可以通过多种方式来定位标签，返回标签元素对象

find_element_by_id 						(返回一个元素)
    find_element(s)_by_class_name 			(根据类名获取元素列表)
    find_element(s)_by_name 				(根据标签的name属性值返回包含标签对象元素的列表)
    find_element(s)_by_xpath 				(返回一个包含元素的列表)
    find_element(s)_by_link_text 			(根据连接文本获取元素列表)
    find_element(s)_by_partial_link_text 	(根据链接包含的文本获取元素列表)
    find_element(s)_by_tag_name 			(根据标签名获取元素列表)
    find_element(s)_by_css_selector 		(根据css选择器来获取元素列表)

*  注意：
    
     *  find\_element和find\_elements的区别：
        
         *  多了个s就返回列表，没有s就返回匹配到的第一个标签对象
         *  find\_element匹配不到就抛出异常，find\_elements匹配不到就返回空列表
     *  by\_link\_text和by\_partial\_link\_tex的区别：全部文本和包含某个文本
     *  以上函数的使用方法
        
         *  `driver.find_element_by_id('id_str')`

--------------------

##### 知识点：掌握 driver对象定位标签元素获取标签对象的方法 #####

--------------------

### 3. 标签对象提取文本内容和属性值 ###

> find\_element仅仅能够获取元素，不能够直接获取其中的数据，如果需要获取数据需要使用以下方法

*  对元素执行点击操作`element.click()`
    
     *  对定位到的标签对象进行点击操作
 *  向输入框输入数据`element.send_keys(data)`
    
     *  对定位到的标签对象输入数据
 *  获取文本`element.text`
    
     *  通过定位获取的标签对象的`text`属性，获取文本内容
 *  获取属性值`element.get_attribute("属性名")`
    
     *  通过定位获取的标签对象的`get_attribute`函数，传入属性名，来获取属性的值

*  代码实现，如下：
    
        from selenium import webdriver
        
        driver = webdriver.Chrome()
        
        driver.get('http://www.itcast.cn/')
        
        ret = driver.find_elements_by_tag_name('h2')
        print(ret[0].text) # 
        
        ret = driver.find_elements_by_link_text('黑马程序员')
        print(ret[0].get_attribute('href'))
        
        driver.quit()

[47f2580f42ba35e6bfd5204eb6279a10.png_pic_center]: /images/20221120/02d1bdd6a28a49e6a083a83539363085.png
[xpath]: https://blog.csdn.net/qq_45176548/article/details/112000086
[jupyter notebook]: https://blog.csdn.net/qq_45176548/article/details/111993214
[BeautifulSoup_Top250]: https://blog.csdn.net/qq_45176548/article/details/111519379
[requests]: https://blog.csdn.net/qq_45176548/article/details/111146017
[Python_BeautifulSoup]: https://blog.csdn.net/qq_45176548/article/details/109144737