深度学习在推荐系统的技术进展

1. 推荐系统与推荐模型

• 排名预测
• TopN推荐
• 分类模型
  
  
  推荐系统的两个阶段：召回（挑选候选集），排序（对候选集排序）
  

2.基于表示学习的深度学习推荐模型

DL 在召回阶段的关键：学习User 和 Item的Embedding表达。
具体的方法有：

• 无监督模式：Auto-encoder
• 半监督模式：Auto-encoder + 矩阵分解
• 监督方式:

无监督方法:Auto-Encoder

协同过滤神经网络：

半监督模式

有监督模式

3. 基于特征组合的深度学习推荐模型

难题：
特征表达问题：如何处理大量离散特征及高维度稀疏特征？
特征组合问题：如何捕获和表达两两组合特征？多组组合特征？

离散特征：
使用Onehot表达。

但是这个CTR预估任务里往往不现实，因为节点很多，有时特征的取值范围很大。

这里有个缺点：低阶和高阶特征组合隐含地体现在隐层。而MLP表达能力很弱。
改进：把低阶特征单独建模。

并行结构代表：Wide & Deep模型。 Wide网络为LR模型；

总结:

1. 深度模型输入问题基本解决：onehot ->field Embedding；
2. 关键： 2阶特征组合网络结构的设计；
3. 多特征组合分层表示：2阶、3阶、4阶有效，再高阶用处不大；
4. MLP这种加性捕获特征组合能力不强，乘性结构捕获组合特征比较合适；
5. 多模态融合是趋势；

4.微博上的应用

---

参考：

1. 深度学习在推荐系统的进展及在微博的应用;

来源：https://blog.csdn.net/rosefun96/article/details/100894926