深度学习变天，模型越做越小！

一时失言乱红尘 2022-09-16 11:14 185阅读 0赞

点上方**计算机视觉联盟**获取更多干货

仅作学术分享，不代表本公众号立场，侵权联系删除

转载于：新智元

**985人工智能博士笔记推荐**

**[周志华《机器学习》手推笔记正式开源！附pdf下载链接，Github2500星！][pdf_Github2500]**

像OpenAI的GPT-3这样的语言模型，近年来层出不穷，企业也更愿意投入来研究如何利用AI技术和数据来学习文本生成等。

而GPT-3也不负众望，它及它的后继模型能够像人一样来写电子邮件、文本摘要、甚至写各种语言的代码。

![7be88f9bef5920812815321dc38e7759.png][]

但它也有一个致命缺点，那就是训练时间长，需要海量的训练数据，并且生成的模型参数量极大，需要高性能运算设备才能发挥全部性能。目前的研究也在朝着更大的语言模型、更多任务的数据方向发展。

传统观点认为，模型的参数越多，它可以完成的任务就越复杂，性能也越好。在机器学习中，参数是模型在进行预测时使用的内部配置变量，通过不同的参数可以对不同的问题进行拟合。

但是越来越多的研究对这个概念提出了质疑。最近，谷歌的研究人员发表了一项研究，声称他们发布了一个参数量远小于 GPT-3 的模型——微调语言网络 (fine-tuned language net, FLAN)，并且在许多有难度的基准测试中性能都大幅超过 GPT-3。

![f348a030145827f91e320f537dce4fa2.png][]

论文地址：https://arxiv.org/pdf/2109.01652.pdf

与 GPT-3 的 1750 亿个参数相比，FLAN 拥有 1370 亿个参数，在研究人员对其进行测试的 25 项任务中，有19项超过了zero-shot 175B GPT-3。

FLAN甚至在ANLI、RTE、BoolQ、AI2-ARC、OpenbookQA和StoryCloze上的表现都大大超过了 few-shot GPT-3。

![ada735518c093ec8c26e2f16dcd86b76.png][]

消融研究表明，任务数量和模型规模是教学调整成功的关键因素

FLAN 与 GPT-3 的不同之处在于，FLAN 面向60 项自然语言处理任务进行了微调，这些任务通过自然语言指令来表达，例如情感分类中使用“这条影评的情绪是正面还是负面？”来表示。

![d28670a3743c82311bfff6d84d825336.png][]

FLAN是Base LM的指令调优（instruction-tuned）版本。指令调优管道混合了所有数据集，并从每个数据集中随机抽取样本。

各个数据集的样本数相差很大，有的数据集甚至有超过1000万个训练样本（例如翻译），因此将每个数据集的训练样例数量限制为30000个。

有的数据集几乎没有训练样本，例如CommitmentBank只有250个样本，为了防止这些数据集被边缘化，遵循样本比例混合方案（examples-proportional mixing schema），在最大混合率为3000的情况下，使用Adafactor优化器以3e-5的学习率，以8192的batch size对所有模型进行30000次梯度更新的微调。

微调过程中使用的输入和目标序列长度分别为1024和256。使用packing将多个训练样本组合成一个序列，使用特殊的序列结束标记将输入与目标分离。

谷歌的研究人员表示，这种指令调节（instruction tuning）通过教模型如何执行指令描述的任务来提高模型处理和理解自然语言的能力。

在FLAN对网页、编程语言、对话和维基百科文章的训练后，研究人员发现，该模型可以学习按照未经明确训练的任务进行操作，也就是说可以部分理解了自然语言的真实意图。尽管训练数据不如GPT-3的训练集“干净”，但FLAN仍然在问答和长文摘要等任务上超过了GPT-3。

![b8e661691da15bc83c9dd05cd83c5a3c.png][]

除此之外，FLAN的zero-shot和few-shot性能与也比GPT-3好一些，这也表明模型有能力遵循各种指令。

除了速度优势，更小、更仔细微调（more carefully tuned）的模型还可以解决一些大型语言模型可能产生的其他问题，例如环境影响。

2020年6月，马萨诸塞大学艾摩斯特分校的研究人员发布了一份报告，估计训练和搜索某一模型所需的电力量约为626000磅二氧化碳的排放量，相当于美国平均汽车寿命排放量的5倍。

![66768e8707443a90803357c9e5765465.png][]

谷歌的一项研究也发现，GPT-3在训练期间使用了1287兆瓦电，产生了552吨的二氧化碳排放。相比之下，FLAN只使用了451兆瓦电，产生了26吨的二氧化碳。

麻省理工学院最近一篇论文也说明，如果按照大型语言模型的趋势继续下去，从硬件、环境和资金的角度来看，训练的成本将变得令普通人无法触及。以低经济的方式实现高性能目标需要更高效的硬件、更高效的算法或其他改进，才能够让整体的收益保持为正。

康奈尔大学的自然语言处理研究员 Maria Antoniak 就曾公开表示，是否一定需要更大的模型才能处理好自然语言，目前来说这个问题还没有答案。即便说基准测试的排行榜被这些大模型刷了个遍，但把更多的数据输入到模型中，是否能继续带来性能提升，还是不确定的。

并且NLP的领域的评测通常是以任务为中心，研究人员通常共同解决特定数据集上的特定问题，这些任务通常是结构化的，并且所能涵盖的自然语言问题也是比较单一的。虽然在排行榜上取得更好的成绩代表模型性能更强，这种研究方法也在促进者NLP技术的发展，也可能限制研究人员在泛化性上的思考。并且这种研究结果能否最终进行真正的语言理解还有待商榷。

谷歌研究中提到大型语言模型的问题可能在于用于训练它们的数据以及常见的训练方法。例如奥地利维也纳大学医学院人工智能研究所的研究人员发现，GPT-3在生物医学领域中的表现并不如小型架构但精细的模型。

![3b49b6cee99e017d636f1e9797f0f707.png][]

即使在对生物医学数据进行预训练和微调后，研究者们还发现大的语言模型很难在问答、文本分类和识别上与更小的模型相媲美。

实验结果表明，在生物医学自然语言处理领域，多任务语言模型仍有很大的发展空间，很少有模型能够在少量训练数据可用的情况下有效地将知识转移到新任务。

这也可以归结为数据质量的问题。社区驱动项目EleutherAI的数据科学家Leo Gao的另一篇论文表明，训练数据中集中数据的管理方式会显著影响大型语言模型的性能。

![9f69e179b6869f360adc392e892f608b.png][]

通常研究人员普遍认为，使用分类器过滤掉来自「低质量源」像Common Crawl的数据可以提高训练数据质量，但过度过滤会导致类似GPT的语言模型性能下降。

通过对分类器得分进行过度的优化，会使得保留的数据开始以满足分类器要求的方式而出现偏差，从而生成一个不太丰富、多样性不足的数据集。

从直觉上看，丢弃的数据越多，剩余数据的质量就越高，但研究人员发现，基于浅分类器的过滤并不总是如此。相反，过滤在一定程度上提高了下游任务的性能，但随着过滤变得过多，性能又会下降高。可以推测这是由于Goodhart定律造成的，随着优化压力的增加，agent和真实目标之间的不一致变得更加明显。

![e766333926b0ae28e5a33b42dcaf66b1.png][]

Goodhart定律内容：当一个措施本身成为目标时，它就不再是一个好的措施。

（When a measure becomes a target, it ceases to be a good measure.）

参考资料：

https://arxiv.org/pdf/2109.01652.pdf

**-------------------**

***END***

***--------------------***

我是[王博Kings][Kings]，985AI博士，华为云专家、CSDN博客专家（人工智能领域优质作者）。单个AI开源项目现在已经获得了2100+标星。现在在做AI相关内容，欢迎一起交流学习、生活各方面的问题，一起加油进步！

我们微信交流群涵盖以下方向（但并不局限于以下内容）：人工智能，计算机视觉，自然语言处理，目标检测，语义分割，自动驾驶，GAN，强化学习，SLAM，人脸检测，最新算法，最新论文，OpenCV，TensorFlow，PyTorch，开源框架，学习方法...

这是我的私人微信，位置有限，一起进步！

**![b5bb1cf9880bbe05f00478e76b7a078f.png][]**

**王博的公众号，欢迎关注，干货多多**

**手推笔记：**

**增长见识：**

**其他学习笔记：**

![b84d472c39972bae2caa9dcab2191582.gif][]

**点分享**

![a441334a5b80893b3814b5206ae5b8f2.gif][]

**点收藏**

![2596a81a5c4777c29c5df1cd495c1c99.gif][]

**点点赞**

![1c1506428d95a8379ad64dfc4b9e2bf8.gif][]

**点在看**

[pdf_Github2500]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247486763&idx=1&sn=da878ccafba79932be8eeca955697477&chksm=fcb71194cbc0988259f32b0b7a77fe7830c477c9c9a4fcb00f2e366c97d776574c2bc949e993&scene=21#wechat_redirect
[7be88f9bef5920812815321dc38e7759.png]: /images/20220828/616c0130921c46dd86a295794c0fd28b.png
[f348a030145827f91e320f537dce4fa2.png]: /images/20220828/cfb7534187094cef94f77d2d42a794cf.png
[ada735518c093ec8c26e2f16dcd86b76.png]: /images/20220828/18af5f03304e49efa35bf2f676596dd8.png
[d28670a3743c82311bfff6d84d825336.png]: /images/20220828/1f49ddf8d8c74b93a5c9220ff9634dc6.png
[b8e661691da15bc83c9dd05cd83c5a3c.png]: /images/20220828/aa6707534af2447ea31984d4f6e686d9.png
[66768e8707443a90803357c9e5765465.png]: /images/20220828/6193bf201960433d86081bc950d506f2.png
[3b49b6cee99e017d636f1e9797f0f707.png]: /images/20220828/d2383d1c931b478989ce7ee8b4504459.png
[9f69e179b6869f360adc392e892f608b.png]: /images/20220828/ac14717850cb42619470d29ad8f4dee4.png
[e766333926b0ae28e5a33b42dcaf66b1.png]: /images/20220828/94eb05b03e4b417288b213ee1050995e.png
[Kings]: https://blog.csdn.net/Sophia_11/article/details/114274846
[b5bb1cf9880bbe05f00478e76b7a078f.png]: /images/20220828/1217fec3c6fd46878a27f911ec8de7e5.png
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247486235&idx=1&sn=60774f6e71af3c1df5fcdaf37407c1ce&chksm=fcb717a4cbc09eb2915aa8504be858f681e5cc4ea95cc091335f021b30b566f2f16e03ae0739&scene=21#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247486809&idx=2&sn=1db1d3e29268334b78faf1b981030974&chksm=fcb711e6cbc098f0db247fdf9739a4e82aaada8231d5b3c6c79b1c19e79d81e3216a7e7476d3&scene=21#wechat_redirect
[Link 3]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247486859&idx=1&sn=9ee1c93b8ca69d71ea1db16e022f2691&chksm=fcb71134cbc09822e382eaeb834f9ee66f78ea78636494cd22bcb0493b4e2ae7ef57fe99fe58&scene=21#wechat_redirect
[Link 4]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247486891&idx=1&sn=48f35f7bcaa7dd559288231c3ac07e30&chksm=fcb71114cbc09802e6d99fe3cd5a41d6da03b1e9eb5442b01b84d9c9edcd49cad0bb50a1309c&scene=21#wechat_redirect
[Link 5]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247487004&idx=1&sn=b5f13ba410cee5730d1e3784b7fc4c9b&chksm=fcb712a3cbc09bb5aa3e4f16254cd52a72a3e5393370bc5c1ca78682161c74ad81443e01135d&scene=21#wechat_redirect
[Link 6]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247487301&idx=1&sn=a5220ac4604bfdb15ee2eb52357a19c1&chksm=fcb713facbc09aecde8ec575fe96d7ef2b406b4bb377c63e197cdeaf04cba14e76b8f75c30e4&scene=21#wechat_redirect
[Link 7]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247487435&idx=2&sn=d3d9a9ecd93f6defe865da36aede1777&chksm=fcb71374cbc09a62446ef8f03e22dcd2b1092169ee0a472a7d3f0e1d6209300943b03d389e76&scene=21#wechat_redirect
[Link 8]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247488226&idx=1&sn=6694a44c5bc8d8207e8348cfbb141297&chksm=fcb70e5dcbc0874b355226a7ef07f0d2e315b13df95c3df2812a70b4eb6ab2d68184e1c3cc86&scene=21#wechat_redirect
[Link 9]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247488404&idx=2&sn=36b6c46669b1c5f1c0922f3c476b2d85&chksm=fcb70f2bcbc0863d86fdf807a48cd919d75556299c4b911602a052cd92d31cc57fbae1600fe2&scene=21#wechat_redirect
[Link 10]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247488468&idx=2&sn=7071a2a562afa337e7b46b490aa44090&chksm=fcb70f6bcbc0867dcd4cd5a16a7b5ce3b88bb10e9af6165797ffe10f7cca8b9d3a0eb365774f&scene=21#wechat_redirect
[Link 11]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247488759&idx=2&sn=91be2e59ada4107851289c68a64bffb3&chksm=fcb70848cbc0815e03947731557b16897112f37c9b67cd436013a7cf70738cada21925d37ab4&scene=21#wechat_redirect
[Link 12]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247490386&idx=2&sn=321179886eb4f6a2c6bd55aed3578097&chksm=fcb707edcbc08efb406cec43da6540df1e7c99ed88f02ebd2c313ad3549d082679a10cdf6165&scene=21#wechat_redirect
[Link 13]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247494603&idx=3&sn=1d0ca7f2eef4ace9941ce2f3ff130dbb&chksm=fcb4f774cbc37e62a1425aca8d97e593e30bd09a7b3a8f4b3d0d9ac32877979944af03030717&scene=21#wechat_redirect
[Link 14]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247495199&idx=3&sn=4e56ec540c4fa222d9e57804b554ea70&chksm=fcb4f2a0cbc37bb60193b8a653016a0d5ea933f1b9c69e39d1b06861813c78fc7c574b527454&scene=21#wechat_redirect
[Link 15]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247503912&idx=1&sn=7cd6fee3a4fd042be5ae8f54d750052b&chksm=fcb4cc97cbc345818ec45020b51297150f8b2f1f211f8d74523529f02e14a47af812a5827443&scene=21#wechat_redirect
[Link 16]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247508471&idx=1&sn=9d6a781d8015ca651f231543977b99f0&chksm=fcb4bd48cbc3345e5169a622d44d6cb1ac4ff9a31970b4cf7a132e7d766f5ae90164a1d2b662&scene=21#wechat_redirect
[Link 17]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247512691&idx=1&sn=5a9a03b656da97558fd537df2161a07e&chksm=fcb4aecccbc327da843ff574076da8701708dbd39a957ad41d6b2b9d4ac2d6e64584af2c7426&scene=21#wechat_redirect
[Link 18]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247511199&idx=1&sn=dcc96018356c7aa1f07f594ea2db53ab&chksm=fcb4b020cbc3393667267919d45479df44e03b8fccaf5ea1ecffadc4fd664e8505dc0db723ec&scene=21#wechat_redirect
[Link 19]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247510579&idx=1&sn=8b7f6facff81a9e55f653bad1c6b016f&chksm=fcb4b68ccbc33f9a2ffcfe67d87fafdd025566c76d9ad4caf9951d9ac084dae803f52ab70048&scene=21#wechat_redirect
[Link 20]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247510383&idx=1&sn=f659ab4c9b0973276be95c9bab89d5b1&chksm=fcb4b5d0cbc33cc6a9771ce2d6cd88e57b3def32c9d0e3ca8b09e413855a71f422794971fe4f&scene=21#wechat_redirect
[Link 21]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247510244&idx=1&sn=5714c36390b4a7307252c4d02cfaecf0&chksm=fcb4b45bcbc33d4de651e9b095c49a760eb4b909a1a7c0553343bd2bb3bee93b34285bbfacd3&scene=21#wechat_redirect
[Top2_2021_ _]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247505138&idx=1&sn=ef6102d36f7aa7191982c6b6eddb9872&chksm=fcb4c84dcbc3415be45e48c522029fb90f1c395278708f38c6d9b68d2aadaa0afff68b3ff607&scene=21#wechat_redirect
[Link 22]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247498233&idx=2&sn=7663c29445a7f07f839424656ef28cb5&chksm=fcb4e546cbc36c50b7711c59b77d01048cc81302e4a4a9f4fdbf83715360b14c5110f873b485&scene=21#wechat_redirect
[Link 23]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247497362&idx=2&sn=5b3436738550a7e4d62c2bb98befe3df&chksm=fcb4ea2dcbc3633b228e5712ecfc9d302ff56b7d96e83232f1c7ffb0a8bd2ffc908b5003b9d9&scene=21#wechat_redirect
[_ _ _]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247498631&idx=2&sn=7a91e5850ec4885a4d7028b925e6f2d2&chksm=fcb4e738cbc36e2e8ed92fcc6acbf5024ee73d4f5b2e05bcd2c31333fad86d6d4638b06fef6f&scene=21#wechat_redirect
[Link 24]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247489104&idx=1&sn=189ff572dc14ee137e83e7e4e7a4cc9f&chksm=fcb70aefcbc083f9b351b1b29c56d70cc1748181583490c3769b77a495e74747b8f7491ee39a&scene=21#wechat_redirect
[Link 25]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247487741&idx=2&sn=40bbb83c4ecda43fcc11fc3eb3a7130f&chksm=fcb70c42cbc085545c4ccfd51563cc59e38134147803c0c59e0aa3827385f060ccc75b3df888&scene=21#wechat_redirect
[PyTorch_Tensor]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247504061&idx=1&sn=207d2bd4895e0b4e303c3d9d63511c72&chksm=fcb4cc02cbc3451449159333c651688e7d71c7a744a4e4e0d914fb14adb5ad4f7e122eff7e18&scene=21#wechat_redirect
[CNN_ _]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247503173&idx=1&sn=e92e9adb903e7a87d0b64ceff982020c&chksm=fcb4d1facbc358ec09986cd8b32ce222c3394c46e2f0bd60c282d63ffeea897e7211984e6fca&scene=21#wechat_redirect
[Link 26]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247502893&idx=1&sn=e5720b57b0804dca182552ba9d6c1eb3&chksm=fcb4d092cbc359841d6f5a9e3b838e3894d34b35d74a1627fa9bf37e27c019ca9d9af84c362d&scene=21#wechat_redirect
[Transformer _]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247502134&idx=1&sn=ed4a262db0be219feb017c08f2185779&chksm=fcb4d589cbc35c9f0156ac454dccb82a501f4b8129adbbcf94a3ca83d3af129f4ebadf173e75&scene=21#wechat_redirect
[Scaled-YOLOv4_ _]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247500056&idx=2&sn=95a04371dc0b49e8c862b03a88edbb8c&chksm=fcb4dda7cbc354b14c4cd4f63eadf02680112ee21015fe372cf3055f9b577b7dd989843eda1f&scene=21#wechat_redirect
[PyTorch_ _]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247497349&idx=3&sn=b4b1ea0af5d42c817bc776cab0a8ac28&chksm=fcb4ea3acbc3632cd61c21d40df0c8cd9e84603fcbe551ceea721e4d8c43959a3c74e929a0fe&scene=21#wechat_redirect
[PyTorch_ _ 1]: http://mp.weixin.qq.com/s?__biz=MzU2NTc5MjIwOA==&mid=2247497036&idx=2&sn=552069978cf317b9581b4c9a62a003e2&chksm=fcb4e9f3cbc360e51de7a7ceb3a6adde123e488d98a3baf4204270311ef609fa5510682ff29b&scene=21#wechat_redirect
[Numpy]: https://blog.csdn.net/cxmscb/article/details/54583415
[10]: https://blog.csdn.net/lvsehaiyang1993/article/details/80342473
[CVPR 2020]: https://blog.csdn.net/u013685264/article/details/104984809
[Link 27]: https://blog.csdn.net/fengdu78/article/details/107308594
[YOLOv4]: https://blog.csdn.net/fengdu78/article/details/106450074
[b84d472c39972bae2caa9dcab2191582.gif]: /images/20220828/32ebd522db1145d3b313ee699478ea9d.png
[a441334a5b80893b3814b5206ae5b8f2.gif]: /images/20220828/3ddecd614dd44f47aeee05dd84526d4b.png
[2596a81a5c4777c29c5df1cd495c1c99.gif]: /images/20220828/c29fa9c018284d9287ec18557632e79a.png
[1c1506428d95a8379ad64dfc4b9e2bf8.gif]: /images/20220828/4bd1c774f6b1474fbfeb52d0045b0f63.png