实用的Python库介绍

r囧r小猫 2024-03-25 22:14 10阅读 0赞

转自：[微点阅读][Link 1] [https://www.weidianyuedu.com][Link 1]

Python 是一个很棒的语言。它是世界上发展最快的编程语言之一。它一次又一次地证明了在开发人员职位中和跨行业的[数据科学][Link 2]职位中的实用性。整个 Python 及其库的生态系统使它成为全世界用户（初学者和高级用户）的合适选择。它的成功和流行的原因之一是它强大的第三方库的集合，这些库使它可以保持活力和高效。

在本文中，我们会研究一些用于数据科学任务的 Python 库，而不是常见的比如 [panda][]、scikit-learn 和 matplotlib 等的库。尽管像 panda 和 scikit-learn 这样的库，是在机器学习任务中经常出现的，但是了解这个领域中的其它 Python 产品总是很有好处的。

Wget

从网络上提取数据是数据科学家的重要任务之一。Wget 是一个免费的实用程序，可以用于从网络上下载非交互式的文件。它支持 HTTP、HTTPS 和 FTP 协议，以及通过 HTTP 的代理进行文件检索。由于它是非交互式的，即使用户没有登录，它也可以在后台工作。所以下次当你想要下载一个网站或者一个页面上的所有图片时，wget 可以帮助你。

安装：

$ pip install wget

例子：

import wget

url = '[https://www.weidianyuedu.com][https_www.weidianyuedu.com]

filename = wget.download(url)

100% \[................................................\] 3841532 / 3841532

filename

'razorback.mp3'Pendulum

对于那些在 python 中处理日期时间时会感到沮丧的人来说，Pendulum 很适合你。它是一个简化日期时间操作的 Python 包。它是 Python 原生类的简易替代。请参阅文档深入学习。

安装：

$ pip install pendulum

例子：

import pendulum

dt\_toronto = pendulum.datetime(2012, 1, 1, tz='America/Toronto')

dt\_vancouver = pendulum.datetime(2012, 1, 1, tz='America/Vancouver')

print(dt\_vancouver.diff(dt\_toronto).in\_hours())

3imbalanced-learn

可以看出，当每个类的样本数量基本相同时，大多数分类算法的效果是最好的，即需要保持数据平衡。但现实案例中大多是不平衡的数据集，这些数据集对机器学习算法的学习阶段和后续预测都有很大影响。幸运的是，这个库就是用来解决此问题的。它与 [scikit-learn][] 兼容，是 scikit-lear-contrib 项目的一部分。下次当你遇到不平衡的数据集时，请尝试使用它。

安装：

pip install -U imbalanced-learn

\# 或者

conda install -c conda-forge imbalanced-learn

例子：

使用方法和例子请参考文档。

FlashText

在 NLP 任务中，清理文本数据往往需要替换句子中的关键字或从句子中提取关键字。通常，这种操作可以使用正则表达式来完成，但是如果要搜索的术语数量达到数千个，这就会变得很麻烦。Python 的 FlashText 模块是基于 FlashText 算法为这种情况提供了一个合适的替代方案。FlashText 最棒的一点是，不管搜索词的数量如何，运行时间都是相同的。你可以在这里了解更多内容。

安装：

$ pip install flashtext例子：

提取关键字

from flashtext import KeywordProcessor

keyword\_processor = KeywordProcessor()

\# keyword\_processor.add\_keyword(<unclean name>, <standardised name>)

keyword\_processor.add\_keyword('Big Apple', 'New York')

keyword\_processor.add\_keyword('Bay Area')

keywords\_found = keyword\_processor.extract\_keywords('I love Big Apple and Bay Area.')

keywords\_found

\['New York', 'Bay Area'\]

替换关键字

keyword\_processor.add\_keyword('New Delhi', 'NCR region')

new\_sentence = keyword\_processor.replace\_keywords('I love Big Apple and new delhi.')

new\_sentence

'I love New York and NCR region.'

更多实用案例，请参考官方文档。

Fuzzywuzzy

这个库的名字听起来很奇怪，但是在字符串匹配方面，fuzzywuzzy 是一个非常有用的库。可以很方便地实现计算字符串匹配度、令牌匹配度等操作，也可以很方便地匹配保存在不同数据库中的记录。

安装：

$ pip install fuzzywuzzy

例子：

from fuzzywuzzy import fuzz

from fuzzywuzzy import process

\# 简单匹配度

fuzz.ratio('this is a test', 'this is a test!')

\# 模糊匹配度

fuzz.partial\_ratio('this is a test', 'this is a test!')

100

更多有趣例子可以在 GitHub 仓库找到。

PyFlux

时间序列分析是机器学习领域中最常见的问题之一。PyFlux 是 Python 中的一个开源库，它是为处理时间序列问题而构建的。该库拥有一系列优秀的现代时间序列模型，包括但不限于 ARIMA、GARCH 和 VAR 模型。简而言之，PyFlux 为时间序列建模提供了一种概率方法。值得尝试一下。

安装

pip install pyflux

例子

详细用法和例子请参考官方文档。

Ipyvolume

结果展示也是数据科学中的一个重要方面。能够将结果进行可视化将具有很大优势。IPyvolume 是一个可以在 Jupyter notebook 中可视化三维体和图形（例如三维散点图等）的 Python 库，并且只需要少量配置。但它目前还是 1.0 之前的版本阶段。用一个比较恰当的比喻来解释就是：IPyvolume 的 volshow 对于三维数组就像 matplotlib 的 imshow 对于二维数组一样好用。可以在这里获取更多。

使用 pip

$ pip install ipyvolume

使用 Conda/Anaconda

$ conda install -c conda-forge ipyvolume例子

动画

体绘制

Dash

Dash 是一个高效的用于构建 web 应用程序的 Python 框架。它是在 Flask、Plotly.js 和 React.js 基础上设计而成的，绑定了很多比如下拉框、滑动条和图表的现代 UI 元素，你可以直接使用 Python 代码来写相关分析，而无需再使用 javascript。Dash 非常适合构建数据可视化应用程序。然后，这些应用程序可以在 web 浏览器中呈现。用户指南可以在这里获取。

安装

pip install dash==0.29.0 \# 核心 dash 后端

pip install dash-html-components==0.13.2 \# HTML 组件

pip install dash-core-components==0.36.0 \# 增强组件

pip install dash-table==3.1.3 \# 交互式 DataTable 组件（最新！）

例子

下面的例子展示了一个具有下拉功能的高度交互式图表。当用户在下拉菜单中选择一个值时，应用程序代码将动态地将数据从 Google Finance 导出到 panda DataFrame。源码在这里

Gym

OpenAI 的 Gym 是一款用于增强学习算法的开发和比较工具包。它兼容任何数值计算库，如 TensorFlow 或 Theano。Gym 库是测试问题集合的必备工具，这个集合也称为环境 —— 你可以用它来开发你的强化学习算法。这些环境有一个共享接口，允许你进行通用算法的编写。

安装

pip install gym

例子

这个例子会运行 CartPole-v0 环境中的一个实例，它的时间步数为 1000，每一步都会渲染整个场景。

你可以在这里获取其它环境的相关资料。

**总结**

以上这些有用的数据科学 Python 库都是我精心挑选出来的，不是常见的如 numpy 和 pandas 等库。如果你知道其它库，可以添加到列表中来，请在下面的评论中提一下。另外别忘了先尝试运行一下它们。

[Link 1]: https://www.weidianyuedu.com/
[Link 2]: https://so.csdn.net/so/search?q=%E6%95%B0%E6%8D%AE%E7%A7%91%E5%AD%A6&spm=1001.2101.3001.7020
[panda]: https://so.csdn.net/so/search?q=panda&spm=1001.2101.3001.7020
[https_www.weidianyuedu.com]: https://www.weidianyuedu.com
[scikit-learn]: https://so.csdn.net/so/search?q=scikit-learn&spm=1001.2101.3001.7020