表征学习辅助点击率预测 Representation Learning-Assisted Click-Through Rate Prediction

发布于 2021-02-04 13:15:07

Motivation:
传统的网络只考虑到User和Item两者分开的特征,存在缺少联合特征和User、Item的Embedding学习不充分等问题。

Contribution:
本文作者在传统的CTR模型上(prediction subnet),增加matching subnet和correlation subnet,并对这3个网络进行联合学习,以达到更好的效果。

  1. 本文作者提出的联合学习框架如下图。主要包括3个子网络:

①prediction subnet,传统的CTR模型,使用User和Item各自的特征进行训练;
②matching subnet,使用tower模型结构,最后一层FC的激活函数不使用ReLU,而是tanh,因为ReLU容易导致大部分是0;
③correlation subnet,借助图的方式去表征关系,使用skip-gram;
image.png
image.png

实验

  1. Dataset

①Avito advertising dataset;
②Company advertising dataset;

  1. Baseline

①LR;
②DNN;
③Wide&Deep;
④DeepFM;
等等;

  1. 实验结果

AUC能提升1pp;
image.png

0 条评论

发布
问题