CRT预估算法

淩亂°似流年 2022-03-06 04:22 287阅读 0赞

## FM(因子分解机) ##

FM通过对特征之间的隐变量内积来提取特征组合

1.  FM和集成树模型(如GDBT)都可以自动学习**特征交叉组合**
2.  FM可以在非常稀疏的数据中进行合理的参数估计
3.  FM的时间复杂度是**线性的**
4.  FM是一个通用模型，可以用于任何特征为实值的情况

在一般的线性模型中，各个特征是独立考虑的，并未考虑各特征之间的相互关系。实际上特征之间是相互关联的。为了表示特征之间的相互性，采用**多项式模型**。

![20190317214204362.png][]

[FM推导参考][FM]

#_*_coding:utf-8_*_
    
    import torch
    import torch.nn as nn
    
    class FM(nn.Module):
        def __init__(self,n = 10,k = 5):
            '''
            :param n: 输入的维度n
            :param k: 超参数k，相对于为输入x的每一个维度定义一个特征向量
            '''
            super(FM,self).__init__()
            self.n = n
            self.k = k
            self.linear = nn.Linear(self.n,1)  #前两项线性层
            #将不可训练的tensor转化成可训练的类型parameter()
            self.V = nn.Parameter(torch.randn(self.n,self.k))  #交互矩阵
    
        def fm_layer(self,x):
            linear = self.linear(x)
            interaction_part_1 = torch.mm(x,self.V)
            interaction_part_1 = torch.pow(interaction_part_1,2)
            interaction_part_2 = torch.mm(torch.pow(x,2),torch.pow(self.V,2))
            output = linear + torch.sum(0.5 * interaction_part_2 - interaction_part_1)
            return output
    
        def forward(self, x):
            return self.fm_layer(x)
    
    fm = FM(10,5)
    x = torch.randn(1,10)
    output = fm(x)
    print(output.size())

[20190317214204362.png]: /images/20220306/bf3ccfc8dec047c89c14eec5deb9c013.png
[FM]: http://shomy.top/2018/12/31/factorization-machine/

发表评论取消回复

表情：

评论列表（有 0 条评论，287人围观）

还没有评论，来说两句吧...

相关阅读

相关【CRT】Biorhythms

[E-Biorhythms\_牛客竞赛数学专题班同余与模（逆元、费马小定理、欧拉定理、孙子定理） (nowcoder.com)][E-Biorhythms_ _nowcoder

怼烎@/ 2024年03月22日 16:14/ 0 赞/ 73 阅读

相关 crt软件(crt软件安装)

CRT显示器的CRT分类有哪几种？ OSD调节严格说算是数控方式的一种，能以量化的方式将调节直观地反映到屏幕上 ![crt软件(crt软件安装)\_crt软件(crt软

比眉伴天荒/ 2023年09月26日 13:07/ 0 赞/ 86 阅读

相关 crt0.o

crt1.o, crti.o, crtbegin.o, crtend.o, crtn.o 等目标文件和daemon.o（由我们自己的C程序文件产生）链接成一个执行文件。前面这5

超、凢脫俗/ 2023年08月17日 17:37/ 0 赞/ 147 阅读

相关 redis内存预估

1.背景 > 作为redis集群的维护者，对于新接入的业务使用redis集群的数据量级和内存占用量，需要有一定的估算， > > 这样才能保证集群的正常运行。

梦里梦外;/ 2023年05月28日 11:25/ 0 赞/ 30 阅读

相关 CRT 库功能

CRT 库功能 Visual Studio 2013 [其他版本][Link 1] ![ImageSprite.png][] 此主题尚未评级 \- [评价此主题][

╰半橙微兮°/ 2022年09月19日 00:20/ 0 赞/ 191 阅读

相关 CVR预估模型-ESMM

文章基于 Multi-Task Learning 的思路，提出一种新的CVR预估模型——ESMM，有效解决了真实场景中CVR预估面临的数据稀疏以及样本选择偏差这两个关键问题。

淡淡的烟草味﹌/ 2022年09月17日 03:04/ 0 赞/ 192 阅读

相关 CRT预估算法

FM(因子分解机) FM通过对特征之间的隐变量内积来提取特征组合 1. FM和集成树模型(如GDBT)都可以自动学习特征交叉组合 2. FM可以在非常稀疏的数据中进

淩亂°似流年/ 2022年03月06日 04:22/ 0 赞/ 288 阅读

相关如何预估索引性能？

[2019独角兽企业重金招聘Python工程师标准>>> ][2019_Python_] ![hot3.png][] 在《[DB——数据的读取和存储方式][DB]》中，我们介

今天药忘吃喽~/ 2022年01月16日 11:13/ 0 赞/ 262 阅读

相关 crt证书合并

两个crt 证书合并成一个,因为nignx服务器需要合并需要在linux命令行中运行命令. cat /usr/zend/ca_bundle.crt /usr/z

快来打我*/ 2021年09月28日 03:06/ 0 赞/ 1121 阅读

相关业余草总结常见计算广告点击率预估算法

[业余草][Link 1]今天给大家推荐一篇有深度的[算法][Link 2]文章。前言谈到CTR，都多多少少有些了解，尤其在[互联网][Link 3]广告这块，简而

电玩女神/ 2021年09月19日 12:10/ 0 赞/ 325 阅读