推荐系统

参考资料 DSSM算法计算文本相似度： https://www.cnblogs.com/wmx24/p/10157154.html Deep Neural Network for YouTube Recommendation论文精读： https://zhuanlan.zhihu.com/p/25343518 [深度学习]利用DNN做推荐的实现过程总结： https://zhuanlan.zhihu.com/p/38638747 DNN for推荐： https://blog.csdn.net/wang2008start/article/details/95079886 DNN个性化推荐模型： https://www.cnblogs.com/rongyux/p/6864233.html DSSM算法计算文本相似度： https://www.cnblogs.com/wmx24/p/10157154.html 来源： https://www.cnblogs.com/gnivor/p/11672539.html

过去的首页推荐更多的是在相关性推荐的单一数据目标上进行优化，如今天猫首页的推荐系统不仅仅考虑推荐结果的相关性，还在推荐结果的发现性、多样性等方面上做了更深度的优化，"效率和体验并重"成为天猫首页新的优化目标。Graph Embedding、Transformer、深度学习、知识图谱等新的技术已先后在天猫首页的推荐系统成功落地，为场景带来了两位数的点击率提升和两位数的疲劳度下降。 推荐框架 天猫首页的个性化推荐系统可以分为召回、排序和机制三个模块。其中，召回模块主要是从全量的商品素材中检索出用户感兴趣的 TopK 个候选商品，排序模块专注于用户对商品的 CTR 预估，机制模块负责后期的流量调控、体验优化、策略调控等和最终的商品排序。整个推荐系统采用 Graph Embedding、Transformer、深度学习、知识图谱、用户体验建模等新的技术构建起来，如下图为天猫首页推荐系统的技术框架图。 原文详见： https://yq.aliyun.com/articles/704401?utm_content=g_1000060605 来源： https://www.cnblogs.com/Allen-rg/p/11670153.html

1. 推荐算法简介 0x1：关于推荐的几个小故事 在开始讨论抽象具体的算法和公式之前，笔者希望先通过几个小故事，来帮助读者朋友建立一个对推荐算法的感性理解。同时我们也可以更好地体会到在现实复杂世界中，推荐是一项非常复杂的事情，现在的最新的推荐算法可能只模拟了其中30%不到的程度。 1. 150年前美国西部小镇的生活情形 假想150年前一个美国小镇的生活情形，大家都互相认识： 百货店某天进了一批布料，店员注意到这批布料中某个特定毛边的样式很可能会引起Clancey夫人的高度兴趣，因为他知道Clancey夫人喜欢亮花纹样，于是他在心里记着等Clancey夫人下次光顾时将该布料拿给她看看。 Chow Winkler告诉酒吧老板Wilson先生，他考虑将多余的雷明顿（Renmington）来福枪出售，Wilson先生将这则消息告诉Bud Barclay，因为他知道Bud正在寻求一把好枪。 Valquez警长及其下属知道Lee Pye是需要重点留意的对象，因为Lee Pye喜欢喝酒，并且性格暴躁、身体强壮 100年前的小镇生活都与 人和人之间的联系 有关。人们知道你的喜好、健康和婚姻状况。不管是好是坏，大家得到的都是 个性化的体验 。那时，这种高度个性化的社区生活占据了当时世界上的大部分角落。 请注意，这里每个人都对其他 每个人的个性和近期情况 非常了解

一、基本信息 论文题目：《Tag-Aware Recommender Systems:A State-of-the-art Survey》 发表时间：Journal of Computer Science & Technology, 2012, 26(5):767. 论文作者及单位：GZhang Z K , Zhou T , Zhang Y C .（Hangzhou Normal University） 论文地址： http://www.cnki.com.cn/Article/CJFDTotal-JSKB201105003.htm 我的评分：5颗星 二、摘要 在过去的十年中，社会标签系统获得了来自物理学界与计算机科学届的持续关注。这篇文章主要总结了近期在标签感知推荐系统上取得的进步，着重介绍了三个主流的视角与途径：基于网络方法、基于感知方法和基于标题方法。最后列出了其他的标签相关的工作以及将来标签感知推荐系统所面临的挑战。 三、论文的工作 1、介绍了基于标签的推荐系统形成的原因及优点，还有其解决冷启动问题的原理。一个基于标签的推荐系统允许用户来添加属性标签，这些标签甚至在字典中都找不到，因此这些用户定义的标签能够很好地反映用户的行为与偏好，基于这些标签用户之间还能很快地熟识、合作、形成社群。 2、讲述了标签系统的局限 不能识别单复数 无法区分多义词和同义词

一、基本信息 论文题目：《Towards the Next Generation of Recommender Systems:A Survey of the State-of-the-Art and Possible Extensions》 发表时间：July 2005,IEEE Transactions on Knowledge and Data Engineering 17(6):734-749 论文作者及单位： Gediminas Adomavicius (University of Minnesota) 、 Alexander Tuzhilin (NYU) 论文地址： https://ieeexplore.ieee.org/document/1423975 我的评分：5颗星 二、摘要 本篇论文对当前（2005年）推荐系统领域的研究做了梳理，将它们划分为了三大类：基于内容过滤、协同过滤、混合推荐。同时也描述了这些不同方法的局限与不足，并讨论了针对这些局限几种可能的改进。 三、论文的工作 1、将推荐系统方法划分为了三大类： Content-based recommendations:基于内容过滤，用户U将被推荐和过去买过的物品I具有相似特点的物品I1 Collaborative recommendations:协同过滤，用户U将被推荐和他具有相似爱好的用户U1购买过的物品I

一、基本信息 论文题目：《Recommender systems based on user reviews:the state of the art》 发表时间： User Modeling and User-Adapted Interaction, 2015, 25(2):99-154. 论文作者及单位：Chen Li(Hong Kong Baptist University) , Chen Guanliang (南方科技大学）, Wang Feng(Hong Kong Baptist University) 论文地址： https://link.springer.com/article/10.1007%2Fs11257-015-9155-5 我的评分：5颗星 二、摘要 近年来有许多基于评论的推荐系统被建立，旨在将用户产生的有价值的评论信息加进用户模型和推荐步骤。最先进的文本分析和观点挖掘技术能够从各种类型的评论中抽取出有用的信息，比如谈论的话题、多层面的观点、上下文信息、综合性意见、评论者的情绪等。这篇文章综述了评论元素是如何被用来提高基于内容推荐、协同过滤推荐、基于偏好的产品评分技术的，这种方法能够缓解数据稀疏和冷启动问题也是本文的重点。这篇综述将前沿研究划分为两个分支，一个分支是review-based user profile building，另一个分支是review

基于协同过滤的推荐算法 协同过滤（Collaborative Filtering，CF） 基于近邻的协同过滤 　　　　基于用户（User-CF） 　　　　基于物品（Item-CF） 基于模型的协同过滤 　　　　奇异值分解（SVD） 　　　　潜在语义分析（LSA） 　　　　支撑向量机（SVM） 1. 协同过滤CF的推荐 基于内容（Content based，CB）主要利用的是用户评价过的物品的内容特征，而CF方法还可以利用其他用户评分过的物品内容 CF 可以解决 CB 的一些局限 　　　　物品内容不完全或者难以获得时，依然可以通过其他用户的反馈给出推荐 　　　　CF基于用户之间对物品的评价质量，避免了CB仅依赖内容可能造成的对物品质量判断的干扰 　　　　CF推荐不受内容限制，只要其他类似用户给出了对不同物品的兴趣，CF就可以给用户推荐出内容差异很大的物品（但有某种内在联系） 分为两类：基于近邻和基于模型 2. 基于近邻的推荐 基于近邻的推荐系统根据的是相同“口碑”准则 是否应该给Cary推荐《泰坦尼克号》？ 基于用户的协同过滤（User-CF） 基于用户的协同过滤推荐的基本原理是，根据所有用户对物品的偏好，发现与当前用户口味和偏好相似的“邻居”用户群，并推荐近邻所偏好的物品 在一般的应用中是采用计算“K- 近邻”的算法；基于这 K 个邻居的历史偏好信息，为当前用户进行推荐 User

一、基础入门 《鸟哥的Linux私房菜基础学习篇》 ：最具知名度的Linux入门书《鸟哥的Linux私房菜基础学习篇》，全面而详细地介绍了Linux操作系统。 https://book.douban.com/subject/4889838 《鸟哥的Linux私房菜服务器篇》 ：从系统基础以及网络基础讲起，再谈到网络攻击与防火墙防护主机后，才进入服务器的架设。全面了解如何维护与管理您的服务器。 https://book.douban.com/subject/10794788/ 《Linux命令行与shell脚本编程大全》 ：非常适合Linux小白的入门教程，内容通俗易懂、深入浅出，除了日常工作中用的基础命令之外，像正则表达式、sed、awk 这样的高级命令也有介绍，书上还配有大量的实例，如果你想精通 shell 编程，那么这本书就是为你准备的。 https://book.douban.com/subject/26854226/ 《UNIX/Linux 系统管理技术手册》 ：三大部分内容：第一部分全面介绍了运行单机Linux系统涉及的各种管理知识和技术；第二部分从详细讲解TCP/IP协议基本原理开始，深入讨论了网络的两大基本应用——域名系统和路由技术，然后逐章讲解Linux上的各种Internet关键应用；第三部分包括了多种不容忽视的重要主题。 https://book.douban

1. 推荐系统与推荐模型 排名预测 TopN推荐 分类模型 推荐系统的两个阶段：召回（挑选候选集），排序（对候选集排序） 2.基于表示学习的深度学习推荐模型 DL 在召回阶段的关键：学习User 和 Item的Embedding表达。 具体的方法有： 无监督模式：Auto-encoder 半监督模式：Auto-encoder + 矩阵分解 监督方式: 无监督方法:Auto-Encoder 协同过滤神经网络： 半监督模式 有监督模式 3. 基于特征组合的深度学习推荐模型 难题： 特征表达问题：如何处理大量离散特征及高维度稀疏特征？ 特征组合问题：如何捕获和表达两两组合特征？多组组合特征？ 离散特征： 使用Onehot表达。 但是这个CTR预估任务里往往不现实，因为节点很多，有时特征的取值范围很大。 这里有个缺点：低阶和高阶特征组合隐含地体现在隐层。而MLP表达能力很弱。 改进：把低阶特征单独建模。 并行结构代表：Wide & Deep模型。 Wide网络为LR模型； 总结: 深度模型输入问题基本解决：onehot ->field Embedding； 关键： 2阶特征组合网络结构的设计； 多特征组合分层表示：2阶、3阶、4阶有效，再高阶用处不大； MLP这种加性捕获特征组合能力不强，乘性结构捕获组合特征比较合适； 多模态融合是趋势； 4.微博上的应用 参考：

一、推荐系统流程图 　　CB，CF算法在召回阶段使用，推荐出来的item是粗排的，利用LR算法，可以将CB，CF召回回来的item进行精排，然后选择分数最高，给用户推荐出来。 二、推荐系统思路详解 代码思路： 1、数据预处理（用户画像数据、物品元数据、用户行为数据） 2、召回（CB、CF算法） 3、LR训练模型的数据准备，即用户特征数据，物品特征数据 4、模型准备，即通过LR算法训练模型数据得到w，b 5、推荐系统流程： （1）解析请求：userid，itemid （2）加载模型：加载排序模型（model.w，model.b） （3）检索候选集合：利用cb，cf去redis里面检索数据库，得到候选集合 （4）获取用户特征：userid （5）获取物品特征：itemid （6）打分(逻辑回归，深度学习)，排序 （7）top-n过滤 （8）数据包装（itemid->name），返回 三、推荐系统实现 1 、数据预处理 （1）用户画像数据：user_profile.data 　　userid，性别，年龄，收入，地域 （2）物品（音乐）元数据：music_meta 　　 itemid，name，desc，时长，地域，标签 （3）用户行为数据：user_watch_pref.sml 　　userid，itemid，该用户对该物品的收听时长，点击时间（小时） 首先，将 3