[译] 哪一个深度学习框架增长最迅猛？TensorFlow 还是 PyTorch？

谁践踏了优雅 2022-01-20 09:37 230阅读 0赞

>  *  原文地址：[Which Deep Learning Framework is Growing Fastest?][Which Deep Learning Framework is Growing Fastest]
>  *  原文作者：[Jeff Hale][]
>  *  译文出自：[掘金翻译计划][Link 1]
>  *  本文永久链接：[github.com/xitu/gold-m…][github.com_xitu_gold-m]
>  *  译者：[ccJia][]
>  *  校对者：[luochen1992][], [zhmhhu][]

在 2018 年的 9 月，我在一篇[文章][Link 2]中，从需求量，工程使用量以及流行程度等方面对比了所有的主流深度学习框架。TensorFlow 处于绝对的王者地位，而 Pytorch 则是一位跃跃欲试的年轻挑战者。

半年过去了，这种形势是否有所改变呢？

为了回答这个问题，我从在线招聘网站（如：[Indeed][]、[Monster][]、[LinkedIn][] 和 [SimplyHired][]) 的职位需求、[谷歌的搜索量][Link 3]、[GitHub 活跃度][GitHub]、[媒体的文章数][Link 4]、[ArXiv 的文章数][ArXiv]以及[Quora 的粉丝数][Quora]等几个方面的数据变化去做评估。最终，以这些数据为依据，绘制了需求量，使用率和流行程度的增长图便于读者理解。

## 集成和更新 ##

我们发现，TensorFlow 和 PyTorch 都有一些重要的版本发布。

PyTorch 1.0 版本在 2018 年 10 月预先发布，同一时间 fastai 1.0 版本也进行了发布。这两个版本的发布是深度学习框架走向成熟的重要里程碑。

2019 年 4 月，TensorFlow 2.0 alpha 版也进行了发布。在新增了许多新特性的同时，改进了用户的体验。并且更加紧密地集成了 Keras 作为它的高级 API。

## 方法 ##

在本文中，由于 Keras 和 fastai 与 TesnsorFlow 和 PyTorch 的依存关系，它们也可以作为一个尺度来评估 TensorFlow 和 PyTorch，所以我们将它们也囊括到了对比之中。

至于其他的深度学习框架，我将不予讨论。很多读者肯定会觉得像 Caffe、Theano、MXNET、CNTK、DeepLearning4J 和 Chainer 这些框架是很有价值的。然而它们虽然有诸多的优点，但确实无法与 TensorFlow 和 Pytorch 相提并论，同时又和这两个框架没有什么交集。

我们的分析工作是在 2019 年 3 月 20 号到 21 号间执行的，数据源在 [谷歌的表格中][Link 5]。

我使用 [plotly][] 作为可视化库，更多的细节可以参考我的 [Kaggle Kernel][]。

好，现在我们就来看看各个分类的结果如何。

## 在线职位需求的变化 ##

我通过搜索几个主要的在线招聘网站，如，Indeed、LinkedIn、Monster 和 SimplyHired 的相关数据来判断哪一个框架是目前需求量最大的。

我使用的搜索关键字是这样的，**machine learning** ，后面跟随对应的库名。举个例子，评估 TensorFlow 我们使用的关键字就是 **machine learning TensorFlow** 。由于历史的比较原因，使用了这种关键字进行搜索。如果不加 **machine learning** 结果也不会有明显的不同。我们的搜索范围设定的是美国。

我用2019年3月的数据减去6个月之前的数据，有如下的发现：

在职位列表中，TensorFlow 的增长略微高于 PyTorch。Keras 也有增长，大致是 TensorFlow 的一半。Fastai 仍然是没有什么需求量。

值得注意的是除了 LinkedIn 以外，在其他的求职网站上 PyTorch 相较于 TensorFlow 都有明显的增长。但是在绝对的数量上，TensorFlow 的职位数量接近PyTorch 或者 Keras 的 3 倍。

## 谷歌平均搜索活跃度的变化 ##

在最大搜索引擎上的搜索次数可以作为衡量流行程度的一个指标。我在 Google Trends 上搜集了过去一年全世界范围内关于 **Machine Learning and Artificial Intelligence** 分类的搜索。不幸的是谷歌不提供绝对的数值，只能获得一组相对值。

我得到了过去 6 个月兴趣分数的均值并与半年以前的兴趣均值做比较。

在过去 6 个月中，TensorFlow 的相关搜索量在下降，而 PyTorch 的相关搜索量在上升。

下面的图表直观的反映了过去 1 年人们的兴趣趋势。

## 媒体新增文章 ##

新媒体是数据科学文章和教程的主要传播场所，我希望你会喜欢它。我利用 Medium.com 作为筛选项在谷歌上进行搜索，在过去的 6 个月中，TensorFlow 和 Keras 的文章发表数基本相似，而 PyTorch 的要稍微少一些。

作为高级 API 的 Keras 和 fastai 在新框架的实践者中十分流行，有很多教程都是在向人们展示如何很好的使用这些新框架。

## arXiv新增文章 ##

[arXiv][ArXiv] 是当前大多数深度学习学术论文选择发表的在线仓储。我使用谷歌搜索了过去 6 个月新发表的新论文中提到的框架，结果是 TensorFlow 遥遥领先。

## GitHub新增活跃度 ##

Git 的近期活跃度是框架流行度的另一个指标。下面的图表展示了点赞、克隆、粉丝以及贡献者的数量。

TensorFlow 在各个选项上都是领先的。尽管如此，PyTorch 在关注者和贡献者方面已经十分接近 TensorFlow 了，同时 fastai 也出现了很多新的贡献者。

毫无疑问，一些 Keras 的贡献者还在努力的挖掘 TensorFlow 库。同时值得注意的是，这两个开源项目都是由谷歌的员工发起的。

## Quora的新增粉丝数 ##

我将之前遗漏的一个参考指标 —— Quora 新话题的粉丝数量也加入进来。

过去 6 个月中，绝大多数新增话题的粉丝都是围绕着 TensorFlow，而 PyTorch 和 Keras 则远远落后。

一旦我有了所有的数据，我将把它们整理成一个新的指标。

## 增长分数的计算 ##

下面是我如何创建增长分数的:

1.  将所有指标的分数缩放到 0 和 1 之间。
2.  汇总 **在线职位** 和 **GitHub 活跃度** 等子类。
3.  根据下面的百分比对各个分类加权。

1.  为了方便理解，我们再将所有得分乘以 100。
2.  将每个框架的对应分类的得分进行累加，得到最后的增长分数。

在线工作一项的权重占据了整体的三分之一，原因很简单，直接的经济利益才是最实际的。这种划分也是为了更好的平衡各个选项。区别于我的另一篇 [2018 power score analysis][Link 2] ，我没有包含 KDNuggets 的使用情况调查（没有新的数据）和出版物（过去 6 个月没有太多的新书）。

## 结果 ##

下面是表格的形式：

这里是各个分类的得分：

这里是最终的得分：

TensorFlow 是目前需求量最大且增长速度最快的框架，短时间内，这个局面不会发生变化。PyTorch 的增长也十分迅猛，大量的职位需求就是它需求量和使用量增长的最好证明。当然，Keras在过去的6个月也有长足的进步。最后，fastai 的增长就不那么的理想了，但是需要说明的是，它是这几个框架中最年轻的一个。 所以，TensorFlow 和 PyTorch 都是十分值得学习的框架。

## 学习建议 ##

如果你准备学习 TensorFlow ，那么我建议你可以先从 Keras 开始。Chollet 的 [**Deep Learning with Python**][Deep Learning with Python] 和 Dan Becker 的 [DataCamp course on Keras][] 是两本很好的入门教材。在 TensorFlow 2.0 中使用 Keras 作为高级 API 只需要通过 tf.keras 就可以调用。这里有一个 Chollet 写的 TensorFlow 2.0 快速入门 [教程][Link 6]。

如果你准备学习 PyTorch，我建议可以从 fast.ai 的 MOOC 文章 [Practical Deep Learning for Coders, v3][Practical Deep Learning for Coders_ v3] 开始。你可以学习到深度学习的原理以及 fastai、PyTorch 的基础。

那么，TensorFlow 和 PyTorch 的未来是什么呢？

## 未来的方向 ##

我常听人说，PyTorch 比 TensorFlow 更好用。这是因为 PyTorch 有更稳定的 API 并且更贴近 Python 的用法。同时还有原生的模型转换工具 [ONNX][]，可以用来提高推理的速度。并且，Pytorch 共用了许多 [numpy][] 的命令，可以降低学习的门槛。

对于 TensorFlow 2.0 的所有改进都是针对于用户体验这点，谷歌的首席人工智能决策官 [Cassie Kozyrkov][] 有如下的 [解释][Link 7]。TensorFlow 现在有更直观的API,更合理的 Keras 集成，以及更直接的执行选项。这些改变以及 TensorFlow 的广泛使用，都将帮助它在未来几年继续流行。

此外，TensorFlow 最近公布了一项令人激动的计划：开发针对于 [Swift的TensorFlow版本][Swift_TensorFlow]。[Swift][] 最初是由苹果公司构建的编程语言。相较于 Python，Swift 在执行和开发速度上有很多的优势。fast.ai 的联合创始人 Jeremy Howard 发布的 [消息][Link 8]，fast.ai 将在部分的进阶 MOOC 中使用 [TensorFLow的Swift版本][Swift_TensorFlow]。这个语言可能在最近的一两年不会完成，但是它一定会改进现存的深度学习框架。可以看到，语言和框架之间的合作和交叉学习正在进行着。

[量子计算][Link 9] 的进步也将影响深度学习框架。虽然可用的量子计算机还需要几年才能出现，但是 [Google][]、[IBM][]、Microsoft 和其他的公司已经在思考如何将量子计算和深度学习结合起来了。框架需要去慢慢适应这种新的技术。

## 结语 ##

你已经看到了 TensorFLow 和 PyTorch 的增长。它们都有很好的高级 API：tf.keras 和 fastai，它们可以降低初学者的学习门槛。你也已经看到了框架的新特性和未来方向。

如果需要使用文中的图表，可以到我的 [Kaggle Kernel][] 中去获取相关内容。

我希望你可以从这个对比中获取帮助。如果确实有帮助，就请你把它分享到你喜欢的社交频道，这样就可以使更多的人获益。

谢谢大家浏览！

> 如果发现译文存在错误或其他需要改进的地方，欢迎到 [掘金翻译计划][Link 1] 对译文进行修改并 PR，也可获得相应奖励积分。文章开头的 **本文永久链接** 即为本文在 GitHub 上的 MarkDown 链接。

--------------------

> [掘金翻译计划][Link 1] 是一个翻译优质互联网技术文章的社区，文章来源为 [掘金][Link 10] 上的英文分享文章。内容覆盖 [Android][]、[iOS][]、[前端][Link 11]、[后端][Link 12]、[区块链][Link 13]、[产品][Link 14]、[设计][Link 15]、[人工智能][Link 16]等领域，想要查看更多优质译文请持续关注 [掘金翻译计划][Link 1]、[官方微博][Link 17]、[知乎专栏][Link 18]。

[Which Deep Learning Framework is Growing Fastest]: https://link.juejin.im?target=https%3A%2F%2Ftowardsdatascience.com%2Fwhich-deep-learning-framework-is-growing-fastest-3f77f14aa318
[Jeff Hale]: https://link.juejin.im?target=https%3A%2F%2Fmedium.com%2F%40jeffhale
[Link 1]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner
[github.com_xitu_gold-m]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%2Fblob%2Fmaster%2FTODO1%2Fwhich-deep-learning-framework-is-growing-fastest.md
[ccJia]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2FccJia
[luochen1992]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fluochen1992
[zhmhhu]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fzhmhhu
[Link 2]: https://link.juejin.im?target=https%3A%2F%2Ftowardsdatascience.com%2Fdeep-learning-framework-power-scores-2018-23607ddf297a
[Indeed]: https://link.juejin.im?target=http%3A%2F%2Findeed.com
[Monster]: https://link.juejin.im?target=https%3A%2F%2Fwww.monster.com%2F
[LinkedIn]: https://link.juejin.im?target=https%3A%2F%2Flinkedin.com
[SimplyHired]: https://link.juejin.im?target=https%3A%2F%2Fwww.simplyhired.com%2F
[Link 3]: https://link.juejin.im?target=https%3A%2F%2Ftrends.google.com%2Ftrends%2Fexplore%3Fcat%3D1299%26amp%3Bq%3Dtensorflow%2Cpytorch%2Ckeras%2Cfastai
[GitHub]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2F
[Link 4]: https://link.juejin.im?target=https%3A%2F%2Fmedium.com
[ArXiv]: https://link.juejin.im?target=https%3A%2F%2Farxiv.org%2F
[Quora]: https://link.juejin.im?target=https%3A%2F%2Fwww.quora.com
[Link 5]: https://link.juejin.im?target=https%3A%2F%2Fdocs.google.com%2Fspreadsheets%2Fd%2F1Q9rQkfi8ubKM8aX33In0Ki6ldUCfJhGqiH9ir6boexw%2Fedit%3Fusp%3Dsharing
[plotly]: https://link.juejin.im?target=https%3A%2F%2Fplot.ly%2F
[Kaggle Kernel]: https://link.juejin.im?target=https%3A%2F%2Fwww.kaggle.com%2Fdiscdiver%2F2019-deep-learning-framework-growth-scores
[Deep Learning with Python]: https://link.juejin.im?target=https%3A%2F%2Fwww.amazon.com%2FDeep-Learning-Python-Francois-Chollet%2Fdp%2F1617294438
[DataCamp course on Keras]: https://link.juejin.im?target=https%3A%2F%2Fwww.datacamp.com%2Fcourses%2Fdeep-learning-in-python
[Link 6]: https://link.juejin.im?target=https%3A%2F%2Fthreader.app%2Fthread%2F1105139360226140160
[Practical Deep Learning for Coders_ v3]: https://link.juejin.im?target=https%3A%2F%2Fcourse.fast.ai%2F
[ONNX]: https://link.juejin.im?target=https%3A%2F%2Fonnx.ai%2Fsupported-tools
[numpy]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fwkentaro%2Fpytorch-for-numpy-users
[Cassie Kozyrkov]: https://link.juejin.im?target=undefined
[Link 7]: https://link.juejin.im?target=https%3A%2F%2Fhackernoon.com%2Ftensorflow-is-dead-long-live-tensorflow-49d3e975cf04%3Fsk%3D37e6842c552284444f12c71b871d3640
[Swift_TensorFlow]: https://link.juejin.im?target=https%3A%2F%2Fwww.tensorflow.org%2Fswift
[Swift]: https://link.juejin.im?target=https%3A%2F%2Fswift.org%2F
[Link 8]: https://link.juejin.im?target=https%3A%2F%2Fwww.fast.ai%2F2019%2F03%2F06%2Ffastai-swift%2F
[Link 9]: https://link.juejin.im?target=https%3A%2F%2Fen.wikipedia.org%2Fwiki%2FQuantum_computing
[Google]: https://link.juejin.im?target=https%3A%2F%2Fai.google%2Fresearch%2Fteams%2Fapplied-science%2Fquantum-ai%2F
[IBM]: https://link.juejin.im?target=https%3A%2F%2Fwww.ibm.com%2Fblogs%2Fresearch%2F2019%2F03%2Fmachine-learning-quantum-advantage%2F
[Link 10]: https://juejin.im
[Android]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23android
[iOS]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23ios
[Link 11]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23%25E5%2589%258D%25E7%25AB%25AF
[Link 12]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23%25E5%2590%258E%25E7%25AB%25AF
[Link 13]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23%25E5%258C%25BA%25E5%259D%2597%25E9%2593%25BE
[Link 14]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23%25E4%25BA%25A7%25E5%2593%2581
[Link 15]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23%25E8%25AE%25BE%25E8%25AE%25A1
[Link 16]: https://link.juejin.im?target=https%3A%2F%2Fgithub.com%2Fxitu%2Fgold-miner%23%25E4%25BA%25BA%25E5%25B7%25A5%25E6%2599%25BA%25E8%2583%25BD
[Link 17]: https://link.juejin.im?target=http%3A%2F%2Fweibo.com%2Fjuejinfanyi
[Link 18]: https://link.juejin.im?target=https%3A%2F%2Fzhuanlan.zhihu.com%2Fjuejinfanyi