数据科学家需要了解的15个Python库

左手的ㄟ右手 2022-12-31 01:13 171阅读 0赞

![图片][711a87febeeb0d638a409dc0b2d3c0f4.png]

关于更多机器学习、人工智能、增强现实、Unity、Unreal资源和技术干货，可以关注公众号：三次方AIRX

如果你是数据科学家，数据分析师或仅仅是发烧友，不要错过一些非常流行有用的Python库。这些库将分为几类，分别是资料收集、数据清理和转换、数据可视化、资料建模、音频和图像识别、网页。

![图片][a29fafcbd268f272dbd56f813744032d.png]

**1、Scrapy**

当你希望编写一个Python爬虫程序来从网站中提取信息时，Scrapy可能是最流行的Python库。例如，你可以使用它提取城市中所有餐馆的所有评论，或者在电子商务网站上收集某一类产品的所有评论。典型的用法是根据URL模式和XPath模式确定web页面上出现的有趣信息。一旦了解了这些模式，Scrapy就可以帮助你自动提取所需的信息，并将它们组织成表格和JSON之类的数据结构。

可以使用pip安装Scrapy

pip install scrapy

地址：https://scrapy.org/

**2、Beautiful Soup**

Beautiful Soup是另一个用于抓取Web内容的Python库。此外，对于规模较小的问题，Beautiful Soup是更好的选择。

地址：

https://www.crummy.com/software/BeautifulSoup/\#Download

**3、Selenium**

https://www.selenium.dev/selenium/docs/api/py/index.html

**4、Pandas**

只要处理数据，就必须使用Pandas。你可以在Pandas数据框架中操作数据，有大量的内置函数可以帮助你转换数据。如果你想学习Python，这是一个必须学习的库。

https://pandas.pydata.org/

**5、Numpy**

Numpy也是Python语言必须学习的一个库。它将Python列表对象扩展为全面的多维数组，并且还有大量的内置数学函数来支持几乎所有的计算需求。通常，你可以将Numpy数组用作矩阵，Numpy允许执行矩阵计算。

import numpy as npimport pandas as pd

https://numpy.org/

**6、Spacy**

Numpy和Pandas是处理数字和结构化数据的库，Spacy帮助我们将免费文本转换为结构化数据。Spacy是Python中最流行的NLP(自然语言处理)库之一。想象一下，当你从一个电子商务网站收集了大量的评论时，你必须从这些文本中提取有用的信息，然后才能分析它们。Spacy有许多内置的特性来提供帮助，比如工作标记器、命名实体识别和词性检测。

https://spacy.io

![图片][7da1e459ec8fd010df0a0059b8c779f7.png]

**7、Matplotlib**

Matplotlib是Python中最全面的数据可视化库。

https://matplotlib.org/

**8、Plotly**

虽然Matplotlib是一个必须学习的可视化库，但大多数时候我更喜欢使用Plotly，因为它可以让我们用最少的代码行创建最漂亮的图形。无论你想要构建一个三维曲面图、基于地图的散点图还是交互式动画图，Plotly都可以在短时间内满足需求。

https://plotly.com/python/

**9、Scikit Learn**

Scikit Learn应该是你开始机器学习的Python库。Scikit学习有6个主要模块：数据预处理、减少尺寸、回归、分类、聚类、模型选择。

https://scikit-learn.org/

**10、PyTorch**

与Tensorflow相比，PyTorch在语法上更加“python化”。这也使得PyTorch更易于学习和使用。作为一个深度学习库，PyTorch具有非常丰富的API和内置功能，可以帮助数据科学家快速训练他们的深度学习模型。

https://pytorch.org/

**11、Tensorflow**

Tensorflow是另一个由谷歌开源的Python机器学习库。Tensorflow最受欢迎的特性之一是Tensorboard上的数据流图。后者是一个自动生成的基于web的仪表板，用于可视化机器学习流程和结果，这对于调试和表示非常有帮助。

https://www.tensorflow.org/

![图片][fc1ad21f6c457a473e3996bd3fe29ebe.png]

**12、Librosa**

Librosa是一个非常强大的音频和语音处理Python库。它可以用来提取音频片段的各种特征，如节奏、节拍。有了Librosa，那些极其复杂的算法，比如拉普拉斯分割，只需几行代码就可以很容易地实现。

https://librosa.github.io/librosa/

**13、OpenCV**

OpenCV是最广泛用于图像和视频识别的库。毫不夸张地说，OpenCV使Python能够在图像和视频识别方面取代Matlab。它提供了各种各样的api，不仅支持Python，而且支持Java和Matlab。

https://opencv.org/

![图片][afbce3826c027edc698df72173b1a466.png]

在数据科学领域流行之前，Python通常用于Web开发。因此，也有很多优秀的web开发库。

**14、Django**

如果希望使用Python开发Web服务后端，Django是最佳选择。它被设计成一个高级框架，可以用很少的代码构建一个网站。它支持大多数流行的数据库，节省了建立连接和数据模型开发的时间。

https://www.djangoproject.com/  
**15、Flask**

Flask是一个轻量级的Python Web开发框架。它可以很容易地定制任何特定的需求。许多其他著名的Python库和提供Web UI的工具都是使用Flask构建的，比如plot Dash和streams。

https://flask.palletsprojects.com/

关于更多机器学习、人工智能、增强现实、Unity、Unreal资源和技术干货，可以关注公众号：三次方AIRX，共同学习，一起进步！AIRX三次方：超酷的开发者学习服务与交流平台（专注ARVR、Unity、Unreal、CV、AI领域）学ARVR开发，来AIRX三次方！！！

![20201215132538502.jpg][]

[711a87febeeb0d638a409dc0b2d3c0f4.png]: /images/20221120/1d36f73476464bbd835752e69b5b555b.png
[a29fafcbd268f272dbd56f813744032d.png]: /images/20221120/2a270ee5426e4d1fa5b888fd86d58445.png
[7da1e459ec8fd010df0a0059b8c779f7.png]: /images/20221120/b400ad38dc9f40fca135dbffbe2dd5ec.png
[fc1ad21f6c457a473e3996bd3fe29ebe.png]: /images/20221120/dfe993628cce4079bfd6bee0c29b1374.png
[afbce3826c027edc698df72173b1a466.png]: /images/20221120/f91c9a5297b74b14b0fdb582fcfc30e8.png
[20201215132538502.jpg]: /images/20221120/4abed45f971a4f52824d9ba3af140dff.png