推荐系统遇上深度学习(一二四)-[美团]面向大规模推荐系统的双重增强双塔模型...

青旅半醒 2022-08-28 10:51 210阅读 0赞

![8aa958ce07556cb62c21ccfabe7d40e0.png][]

各位小伙伴们中秋快乐吖！今天给大家带来一篇美团在DLP-KDD 2021上中稿的一篇论文，主要的出发点是解决双塔模型中两塔之间缺乏信息交互，以及在美团首页推荐中，面临多场景、多业务融合且不同业务类别分布不均衡的特定业务问题。一起来学习一下。

# 1、背景 #

在大规模工业界推荐系统的召回阶段，大都采用的是双塔模型，即通过query tower（user tower）和item tower分别得到query（user）和item的向量表示，并通过cosine距离计算二者的相似度，进而选择相似度高的item进入到排序阶段。传统的双塔模型面临以下两方面的问题：

1）两个塔之间缺乏信息交互，影响模型的收益空间  
2）在美团首页推荐或其他的推荐场景下，item的种类是十分丰富的且非常不平衡的，那么模型的训练由主要的种类所主导，对于数量较小的种类的item效果会受到影响。

为了解决以上两方面的问题，论文提出了双重增强双塔模型（Dual Augmented Two-tower Model，简称DAT）。论文设计了Adaptive-Mimic Mechanism，来为每一个query和item学习一个增强向量，增强向量代表了来自另一个塔的有用信息；同时，论文还在训练阶段引入了Category Alignment Loss来缓解类别不平衡的问题，一起来看一下。

# 2、DAT模型介绍 #

模型的整体结构如下图所示：

![0d3387e4c8f9dce1f40f4e7afca93004.png][]

接下来，根据如上的模型结构图，我们进行详细的介绍：

## 2.1 Embedding layer ##

Embedding层无需进行过多的介绍，将query和item对应的离散特征转换为对应的Embedding。

## 2.2 Dual Augmented layer ##

对于每一个query和候选item，赋予一个对应的增强向量au和av，并与Embedding层得到的Embedding进行拼接，作为两个塔的输入。如对于uid=253，city=SH，gender=male的用户，以及iid=149，price=10，class=cate的item，对应的模型输入为：

![2d27325066dd9fa80d481ba8224e60b1.png][]

随后，两个输入向量输入到各自的塔中，经过多层全连接网络，以及最后的L2标准化层，得到输出Embedding表示，计作pu和pv：

![4ae3f11e27415c668e94b72db3fffa91.png][]

那么增强向量代表什么信息呢？同时如何对增强向量进行训练呢？论文设计了Adaptive-Mimic Mechanism (AMM)，其中最主要的是设计了mimic loss，该loss的主要作用是让增强向量来拟合相应query或着item在另一个塔中所有正样本的输出向量表示。感觉比较绕，但通过下面的公式可以更加清楚的理解：

![a100ec28a03cf9954efd76ddc42a0adf.png][]

以lossu为例，如果label即y=0，则不产生损失，若y=1，则增强向量与另一个塔的输出向量越接近，则损失越小。也就是说，增强向量是对该query或item所有可能匹配的正样本信息的综合表示。而在训练增强向量的过程中，需要使用stop gradient策略来冻结pu和pv。

## 2.3 Category Alignment ##

在工业场景下，不同item的类型多种多样，而且分布十分不均匀，双塔模型对于数量较少的类别的效果会较差。为了解决这个问题，论文在训练阶段引入了Category Alignment Loss (CAL)，将从数量较多的类别中学习到的信息迁移到数量较小的类别中。CAL计算主类别和其他类别的协方差矩阵二阶矩，降低类别间的差距：

![f67f369cbf5abdaf110a14e79d8caae4.png][]

![ea306db920a07ece287e676968b2380b.png][]

其中，C()代表协方差矩阵，Smajor代表batch中主要类别的输出向量集合。S2，S3,..,Sn代表剩余类别的输出向量集合。

Alignment Loss在迁移学习中应用较多，来自论文《Deep CORAL: Correlation Alignment for Deep Domain Adaptation》。感兴趣的可以阅读论文

## 2.4 Model Training ##

对于任意正样本对，采样S个负样本对，那么双塔模型的主loss计算如下：

![936b53f0360af9cc307f9e80670f35b7.png][]

加入上述的mimic loss和Category Alignment Loss后，总的loss计算如下：

![d51d4718433671027b438ab201905b3f.png][]

# 3、实验结果 #

离线和在线实验都证明了DAT模型的有效性，实验结果如下：

![8c3278f5590035edf6709e5160ba8790.png][]

![162d691a018b0d966233253b442aae02.png][]

好了，本文就介绍到这里，感兴趣的同学可以阅读原文～

[推荐系统遇上深度学习(一二三)-\[阿里\]去噪用户感知记忆网络DUMN][-_DUMN]

[2021-09-21][-_DUMN]

[![bc8a6b6cae119e825771350cec36724d.png][] ][-_DUMN]

[推荐系统遇上深度学习(一二二)-\[阿里\]通过孪生掩码层来高效的学习特征表示向量][-]

[2021-08-28][-]

[![cda53dba4eb93bfca5ec003b0b3f07d9.png][] ][-]

[8aa958ce07556cb62c21ccfabe7d40e0.png]: /images/20220828/042421a3b983427ca42f039493645474.png
[0d3387e4c8f9dce1f40f4e7afca93004.png]: /images/20220828/bb854a4caddc4a8fa3bd211da911753c.png
[2d27325066dd9fa80d481ba8224e60b1.png]: /images/20220828/95f33f6cdef942f68d06308c9aaf0ddb.png
[4ae3f11e27415c668e94b72db3fffa91.png]: /images/20220828/63e8a265f046427c851f750893db4105.png
[a100ec28a03cf9954efd76ddc42a0adf.png]: /images/20220828/8e58a2473c014857a1fc4df320016411.png
[f67f369cbf5abdaf110a14e79d8caae4.png]: /images/20220828/1ce9355ef021497fae518dca8e4b241d.png
[ea306db920a07ece287e676968b2380b.png]: /images/20220828/0ccdde6ae08f4bdb9ad02ae0507f705c.png
[936b53f0360af9cc307f9e80670f35b7.png]: /images/20220828/91ce7a9427c147ebb1a56c657d85bb8c.png
[d51d4718433671027b438ab201905b3f.png]: /images/20220828/9a91fb2836004b629584a160bde531b1.png
[8c3278f5590035edf6709e5160ba8790.png]: /images/20220828/6fa7b58b76cc444eb6e749d22ef617b4.png
[162d691a018b0d966233253b442aae02.png]: /images/20220828/582ad615b845450abbb6413c564466ac.png
[-_DUMN]: http://mp.weixin.qq.com/s?__biz=MzI1MzY0MzE4Mg==&mid=2247490329&idx=1&sn=755850d28e7315afedce59bf9525f759&chksm=e9d00bd8dea782cef16856548d4270ca4a499b9c02f9618b4a65edea69da10b36d410a5bb69e&scene=21#wechat_redirect
[bc8a6b6cae119e825771350cec36724d.png]: /images/20220828/9015806577584528bc4ffb1e971cf03d.png
[-]: http://mp.weixin.qq.com/s?__biz=MzI1MzY0MzE4Mg==&mid=2247490251&idx=1&sn=feaa8b1904794fdb68ce144b643e0b02&chksm=e9d00a0adea7831c7208e79e909b3609fc6487db119eb74deb248cff5742a024b139ec574bd6&scene=21#wechat_redirect
[cda53dba4eb93bfca5ec003b0b3f07d9.png]: /images/20220828/812ac44cc03c4116ba9644e3c982479e.png