推荐系统中的常用算法——行为序列Transformer(BST)

以你之姓@ 2022-12-11 07:29 188阅读 0赞

# 1. 概述 #

Behavior Sequence Transformer（BST）算法是由阿里在2019年提出的算法，应用于淘宝推荐中的ranking阶段。在目前的推荐系统中，主流的深度学习方案，如WDL，并没有充分利用用户的行为序列（User’s Behavior Sequence），在BST算法中，利用Transformer充分挖掘用户的行为序列，实现对用户行为序列的建模。

# 2. 算法原理 #

BST算法的模型结构如下图所示：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dvb2dsZTE5ODkwMTAy_size_16_color_FFFFFF_t_70_pic_center]  
在BST模型结构中，主要包括了三个部分：第一，特征的embedding层；第二，用户行为序列的Transformer层；第三，最终的MLP层。

## 2.1. Embedding层 ##

Embedding层的结构如下所示：

![在这里插入图片描述][20201012202934158.png_pic_center]

从上图可以看出，在特征的Embedding层，主要包括三个部分：第一，其他的特征，主要包括用户画像特征，item特征，上下文特征以及交叉特征；第二，用户行为序列特征；第三，目标item的特征。

### 2.1.1. 其他特征 ###

在其他特征部分，主要包括了用户画像特征，item特征，上下文特征以及交叉特征，具体特征形式在论文中也给出，如下所示：

![在这里插入图片描述][20201012203013988.png_pic_center]  
将这些特征的embedding向量concat在一起，得到对应的embedding形式。

### 2.1.2. 用户行为序列和目标item ###

假设用户 u u u的行为序列为 S ( u ) = \{ v 1 , v 2 , ⋯   , v n \} S\\left ( u \\right )=\\left \\\{ v\_1,v\_2,\\cdots ,v\_n \\right \\\} S(u)=\{ v1,v2,⋯,vn\}，同时还包括目标item  v t v\_t vt。对于每一个item（包括行为序列中的item以及目标item），包括两种类别的特征：第一，item的特征，如图中的红色部分；第二，位置特征，如图中的蓝色部分。对于item的特征，文章中指出使用的是**item\_id和category\_id**。为了使用Transformer刻画序列的特征，因此需要位置的特征，位置特征的计算方式为：

p o s ( v i ) = t ( v t ) − t ( v i ) pos\\left ( v\_i \\right )=t\\left ( v\_t \\right )-t\\left ( v\_i \\right ) pos(vi)=t(vt)−t(vi)

其中， t ( v i ) t\\left ( v\_i \\right ) t(vi)表示item  v i v\_i vi被点击的时间戳。

将item特征和位置特征concat在一起，得到对应item的embedding表示。

## 2.2. Transformer层 ##

在Transformer层中使用Multi-Head Attention来学习目标item与用户行为序列中的item之间的相关关系。完整的Transformer指的是基于Attention机制的经典Encoder-Decoder框架，Transformer的框架结构如下图所示：

![在这里插入图片描述][20201012233257488.png_pic_center]  
而在BST模型中，使用的是多个Multi-Head Attention结构，即Transformer的Encoding部分。Multi-Head Attention和Scaled Dot-Product Attention结构如下图所示：

![在这里插入图片描述][watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dvb2dsZTE5ODkwMTAy_size_16_color_FFFFFF_t_70_pic_center 1]  
其中，Scaled Dot-Product Attention的值为：

A t t e n t i o n ( Q , K , V ) = s o f t m a x ( Q K T d ) V Attention\\left ( \\mathbf\{Q\},\\mathbf\{K\},\\mathbf\{V\} \\right )=softmax\\left ( \\frac\{\\mathbf\{Q\}\\mathbf\{K\}^T\}\{\\sqrt\{d\}\} \\right )\\mathbf\{V\} Attention(Q,K,V)=softmax(dQKT)V

其中， Q \\mathbf\{Q\} Q表示的是查询， K \\mathbf\{K\} K和 V \\mathbf\{V\} V分别表示的是键和值，在BST中，  Q \\mathbf\{Q\} Q， K \\mathbf\{K\} K， V \\mathbf\{V\} V由用户行为序列和目标item的embedding的线性映射得到。

通过将Scaled Dot-Product Attention的结果concat在一起并通过线性变换得到最终的Multi-Head Attention结果：

S = C o n c a t ( h e a d 1 , h e a d 2 , ⋯   , h e a d h ) W H \\mathbf\{S\}=Concat\\left ( head\_1,head\_2,\\cdots ,head\_h \\right )\\mathbf\{W\}^H S=Concat(head1,head2,⋯,headh)WH

其中， h e a d i = A t t e n t i o n ( E W Q , E W K , E W V ) head\_i=Attention\\left ( \\mathbf\{EW\}^Q,\\mathbf\{EW\}^K,\\mathbf\{EW\}^V \\right ) headi=Attention(EWQ,EWK,EWV)。除了上述的Multi-Head Attention部分，在Transformer的Encoding部分，还包括了Point-wise Feed-Forward Networks（FFN）部分，FFN的目的是增加模型的非线性。为了防止模型的过拟合，在self-attention和FFN中都使用dropout和LeakyReLU，最终的self-attention和FFN为：

S ′ = L a y e r N o r m ( S + D r o p o u t ( M H ( S ) ) ) \{\\mathbf\{S\}\}'=LayerNorm\\left ( \\mathbf\{S\}+Dropout\\left ( MH\\left ( \\mathbf\{S\} \\right ) \\right ) \\right ) S′=LayerNorm(S\+Dropout(MH(S)))

F = L a y e r N o r m ( S ′ + D r o p o u t ( L e a k y R e L U ( S ′ W ( 1 ) + b ( 1 ) ) W ( 2 ) + b ( 2 ) ) ) \\mathbf\{F\}=LayerNorm\\left ( \{\\mathbf\{S\}\}'+Dropout\\left ( LeakyReLU\\left ( \{\\mathbf\{S\}\}'\\mathbf\{W\}^\{\\left ( 1 \\right )\}+b^\{\\left ( 1 \\right )\} \\right )\\mathbf\{W\}^\{\\left ( 2 \\right )\}+b^\{\\left ( 2 \\right )\} \\right ) \\right ) F=LayerNorm(S′\+Dropout(LeakyReLU(S′W(1)\+b(1))W(2)\+b(2)))

通过堆叠多个上述的self-attention block，得到最终的多层结构，通过论文中的实验可知，只需要一层上述结构就能获得最好的结果，其可能的原因是用户行为序列间的依赖关系没有那么强。

## 2.3. MLP层以及损失函数 ##

最终将其他特征的embedding以及Transformer的结果concat在一起，并通过三层的MLP得到最终的CTR预测。最终的损失函数为：

L = − 1 N ∑ ( x , y ) ∈ D ( y log ⁡    p ( x ) + ( 1 − y ) l o g ( 1 − p ( x ) ) ) L=-\\frac\{1\}\{N\}\\sum \_\{\\left ( x,y \\right )\\in D\}\\left ( y\\log\\; p\\left ( x \\right ) +\\left ( 1-y \\right )log\\left ( 1-p\\left ( x \\right ) \\right )\\right ) L=−N1(x,y)∈D∑(ylogp(x)\+(1−y)log(1−p(x)))

其中， N N N表示样本个数， D D D表示所有的样本， y ∈ \{ 0 , 1 \} y\\in \\left \\\{ 0,1 \\right \\\} y∈\{ 0,1\}表示的是label， p ( x ) p\\left ( x \\right ) p(x)为模型的输出。

# 参考文献 #

*  Chen Q , Zhao H , Li W , et al. Behavior Sequence Transformer for E-commerce Recommendation in Alibaba\[J\]. 2019.
 *  [阿里推荐算法（BST）: 将Transformer用于淘宝电商推荐][BST_ _Transformer]
 *  Vaswani A , Shazeer N , Parmar N , et al. Attention Is All You Need\[J\]. arXiv, 2017.

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dvb2dsZTE5ODkwMTAy_size_16_color_FFFFFF_t_70_pic_center]: /images/20221123/6378c5ffabf24ce7a9b4a9f8adb3f68a.png
[20201012202934158.png_pic_center]: /images/20221123/472e4aa91ccd47a18122ef2309dd8745.png
[20201012203013988.png_pic_center]: /images/20221123/cc66b524d0ab4aec90f32677b65236ee.png
[20201012233257488.png_pic_center]: /images/20221123/9f1f2ff2918e4d5086fab75d58c4a33c.png
[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2dvb2dsZTE5ODkwMTAy_size_16_color_FFFFFF_t_70_pic_center 1]: /images/20221123/224a71e921394948b5d40da9d90d5e01.png
[BST_ _Transformer]: https://zhuanlan.zhihu.com/p/76570628