推荐系统介绍

短命女 2022-04-04 09:08 243阅读 0赞

### 推荐系统 ###

推荐系统是一种信息过滤系统，为了解决信息过载问题

系统组成一般包括日志系统，推荐算法和内容展示UI  
![在这里插入图片描述][20181216093927536.png]  
其中推荐算法为核心，它一般又可以分为三层：基础层，推荐（召回）层，排序层。基础层为召回层提供特征，召回层为排序层提供候选集，排序层输出排序后的推荐结果。  
![在这里插入图片描述][20181216094505538.png]  
上图参考自：[微博推荐系统介绍][Link 1]

基础层主要通过NLP、CV、知识图谱等技术构造特征，推荐（召回）层基于用户历史行为数据信息，特征信息等从庞大的商品内容集里面筛选出一个候选集，以减小排序层的计算量。

### 推荐系统, 计算广告, 搜索引擎 ###

推荐，广告和搜索是互联网时代的三种主要信息获取方法，都是为了解决信息过载问题，只是具体的方式和目的有所不同。  
![在这里插入图片描述][20181216095642588.png]

实际上推荐和广告是非常相似的，背后的很多算法也都可以通用，只不过前者作为一个用户产品，是为了改善用户体验的，后者是一个商业产品，是为公司变现的方式。而相对于搜索，最大的不同就是它是用户主动输入搜索内容，引擎基于用户输入进行召回和排序。

### 推荐系统经典算法 ###

![在这里插入图片描述][20181216100454896.png]  
上图参考：[今日头条推荐算法原理全文详解][Link 2]

从上图中也可以看出，除了协同过滤，另外四种算法在广告点击率预估中也有非常广泛的应用，也说明了推荐与广告的相通之处。

图中的LR和GBDT是机器学习中非常经典的算法，这里简单介绍一下另外三种。

#### 协同过滤（Collaborative Filtering） ####

协同过滤是基于**用户历史行为**数据来进行**统计**分析和**相似度**计算的。

要注意的是它的相似度计算是基于用户历史行为数据的，而不是用户或物品的属性来计算的；另外，它是一种基于统计分析的方法，可以说不涉及机器学习的内容。

协同过滤也被称为基于邻域的方法，因为它是根据相似度进行筛选和排序，可以理解为最后的结果都在一个相近的范围内。

它包括UserBased CF和ItemBased CF，即基于用户和基于物品的协同过滤。

**UserBased CF**：两个用户买了很多相同的东西，则可以认为两者兴趣相似，就向彼此推荐一方喜欢但另一方还没买的东西。  
![在这里插入图片描述][20181216102638311.png]  
UserBased CF的用户相似度计算公式：余弦相似度

其中，N(u)表示用户u购买过的商品集合，N(v)表示用户v购买过的商品集合，分子表示用户u和v都购买过的商品数，分母是一个归一化因子。最后的计算结果就是用户u和v的相似度，两者购买的商品重合度越高，相似度越大。

**ItemBased CF**：买了物品1的人一般还会买物品2，如：羽毛球和羽毛球拍。  
![在这里插入图片描述][20181216103146865.png]  
物品的相似度计算和用户相似度计算是一样的，只是含义发生了变化。其中N(i)表示购买了物品 i 的用户集合，N(j)表示购买了物品 j 的用户集合。最后的计算结果就是物品 i 和 j 的相似度，同时购买两种商品的人数越大，相似度越大。

**协同过滤**，它的解释性非常好，尤其是ItemBased CF，想必在淘宝上也都看过相似的推荐解释：买了物品1的人一般还会买物品2。也正是因为它的解释性而有了较为广泛的应用。

但是它的计算量和存储要求都是较大的，对于UserBased CF，它需要存储一个用户相似度矩阵，对于ItemBased CF，它需要存储一个物品相似度矩阵，而且有新的用户或商品加入，需要进行矩阵的更新，都是较为耗时和耗内存的工作。因此，公司一般不会只用一种算法作为最后的推荐，也都会结合多种算法各自的优势，进行合理的推荐。

#### 因子分解机（Factorization Machine） ####

![在这里插入图片描述][2018121610442182.png]  
从公式可以看出，FM是从线性回归进化而来，它不仅考虑了一阶特征，而且考虑了二阶交叉特征，能够挖掘更多的特征信息。但它不是像第二个公式一样简单的为每一个交叉特征赋予一个权重，而是为每一个特征设定一个隐向量vi ，这个隐向量就表征了特征的信息，两个特征隐向量的点积就是该交叉特征的权重，这样的操作相对于第二个公式有两个好处：

*  参数的数量大幅度缩减，从n×(n−1)/2降低到nk
 *  稀疏数据下学习不充分的问题也能得到充分解决。

这里的k是隐向量的维度，是人为设定的，在大规模的问题中，远小于n。稀疏数据是大部分数据都为0的数据，如one-hot之后的特征数据。

学习不充分问题可以有如下理解：原本的多项式回归参数w12的学习只能依赖于特征x1和x2，也就是只有在x1和x2都不为0的情况下，它才能够被学习；而对参数⟨v1,v2⟩而言就完全不一样了，它由v1和v2组成，如对于向量v1，它可以通过多个交叉组合特征学习得到，比如可以由x1x2,x1x3,…学习获得，这样可供学习的非零样本就大大增加了。

还有它的公式推导和改进方法可以参见：[分解机(Factorization Machines)推荐算法原理][Factorization Machines]

#### wide&deep模型 ####

![在这里插入图片描述][20181216110424176.png]  
上图来自论文：[Wide & Deep Learning for Recommender Systems][Wide _ Deep Learning for Recommender Systems]

wide&deep模型是谷歌2016年提出的，它结合了wide model和deep model，让模型同时具备了Memorization （记忆）和 Generalization（泛化）功能。输入包括原始特征+组合特征， 输出需要根据业务决定，如点击概率。

wide model实际上就是一个逻辑回归模型，它可以对原始特征和手工的交叉特征进行学习，有非常好的记忆功能，偏向于推荐用户之前有过行为的相似物品，推荐相对保守。

deep model就是一个深度神经网络，它可以学习到原始特征的潜在交叉特性，对有很好的泛化能力，推荐的商品可能不是那么的相关，保证了推荐的多样性。

两者的结合实际上是一个非常直观的想法，两者优势的互补使推荐效果有较好的提升，也已经得到了非常广泛的应用。

更多参考：  
[推荐系统设计][Link 3]  
[详解个性化推荐五大最常用算法][Link 4]

[20181216093927536.png]: /images/20220404/a364ab8ac91945aba2b28d56739a2b32.png
[20181216094505538.png]: /images/20220404/86367ca3ac664f3eaff088c81c469531.png
[Link 1]: https://cloud.tencent.com/developer/article/1143169
[20181216095642588.png]: /images/20220404/e02597e9caaa4b45b7172b66eb88520d.png
[20181216100454896.png]: /images/20220404/bf0ba5090de14e138aef4b8fde93ab2f.png
[Link 2]: https://36kr.com/p/5114077.html
[20181216102638311.png]: /images/20220404/aec7753435184ce78cfa24541d0c0814.png
[20181216103146865.png]: /images/20220404/7aa8a750ce59445d878d5f5a527f1e9f.png
[2018121610442182.png]: /images/20220404/9c6463e530b04dfd80529596a894a937.png
[Factorization Machines]: https://www.cnblogs.com/pinard/p/6370127.html
[20181216110424176.png]: /images/20220404/08b68ced4c4442be985bc758d6ca7cd5.png
[Wide _ Deep Learning for Recommender Systems]: https://arxiv.org/abs/1606.07792
[Link 3]: https://www.cnblogs.com/wade-luffy/p/6358988.html
[Link 4]: https://mp.weixin.qq.com/s/Gka1QmUX_zg6KG89lPI6qw