互联网大厂推荐算法实战

赵传霖

扉页
版权信息
+书签
内容提要
作者简介
致谢
前言
第1章推荐系统简介
1.1 推荐系统的意义
1.2 推荐系统是如何运行的
1.3 推荐系统架构
1.3.1 功能架构
1.3.2 数据架构
1.4 推广搜的区别与联系
1.4.1 三驾马车的相同点
1.4.2 推荐与搜索
1.4.3 推搜与广告
1.5 小结
第2章推荐系统中的特征工程
2.1 批判“特征工程过时”的错误论调
2.2 特征提取
2.2.1 物料画像
2.2.2 用户画像
2.2.3 交叉特征
2.2.4 偏差特征
2.3 数值特征的处理
2.3.1 处理缺失值
2.3.2 标准化
2.3.3 数据平滑与消偏
2.3.4 分桶离散化
2.4 类别特征的处理
2.4.1 类别特征更受欢迎
2.4.2 类别特征享受VIP服务
2.4.3 映射
2.4.4 特征哈希
2.5 小结
第3章推荐系统中的Embedding
3.1 无中生有：推荐算法中的Embedding
3.1.1 传统推荐算法：博闻强识
3.1.2 推荐算法的刚需：扩展性
3.1.3 深度学习的核心思想：无中生有的Embedding
3.1.4 Embedding的实现细节
3.2 共享Embedding还是独占Embedding
3.2.1 共享Embedding
3.2.2 独占Embedding
3.3 Parameter Server：推荐算法的训练加速器
3.3.1 传统分布式计算的不足
3.3.2 基于PS的分布式训练范式
3.3.3 PS中的并行策略
3.3.4 基于ps-lite实现分布式算法
3.3.5 更先进的PS
3.4 小结
第4章精排
4.1 推荐算法的5个维度
4.2 交叉结构
4.2.1 FTRL：传统时代的记忆大师
4.2.2 FM：半只脚迈入DNN的门槛
4.2.3 Wide & Deep：兼顾记忆与扩展
4.2.4 DeepFM：融合二阶交叉
4.2.5 DCN：不再执着于DNN
4.2.6 AutoInt：变形金刚做交叉
4.3 用户行为序列建模
4.3.1 行为序列信息的构成
4.3.2 简单Pooling
4.3.3 用户建模要“千物千面”
4.3.4 建模序列内的依赖关系
4.3.5 多多益善：建模长序列
4.4 小结
第5章召回
5.1 传统召回算法
5.1.1 基于物料属性的倒排索引
5.1.2 基于统计的协同过滤算法
5.1.3 矩阵分解算法
5.1.4 如何合并多路召回
5.2 向量化召回统一建模框架
5.2.1 如何定义正样本
5.2.2 重点关注负样本
5.2.3 解耦生成Embedding
5.2.4 如何定义优化目标
5.3 借助Word2Vec
5.3.1 最简单的Item2Vec
5.3.2 Airbnb召回算法
5.3.3 阿里巴巴的EGES召回
5.4 “瑞士军刀”FM的召回功能
5.4.1 打压热门物料
5.4.2 增广Embedding
5.5 大厂主力：双塔模型
5.5.1 不同场景下的正样本
5.5.2 简化负采样
5.5.3 双塔结构特点
5.5.4 Sampled Softmax Loss的技巧
5.5.5 双塔模型实现举例
5.6 邻里互助：GCN召回
5.6.1 GCN基础
5.6.2 PinSage：大规模图卷积的经典案例
5.6.3 异构图上的GCN
5.7 小结
第6章粗排与重排
6.1 粗排
6.1.1 模型：双塔仍然是主力
6.1.2 目标：拜精排为师
6.1.3 数据：纠正曝光偏差
6.1.4 模型：轻量级全连接
6.2 重排
6.2.1 基于启发式规则
6.2.2 基于行列式点过程
6.2.3 基于上下文感知的排序学习
6.3 小结
第7章多任务与多场景
7.1 多任务推荐
7.1.1 多任务建模的误区
7.1.2 并发建模
7.1.3 串行建模
7.1.4 多个损失的融合
7.1.5 多个打分的融合
7.2 多场景推荐
7.2.1 特征位置
7.2.2 模型结构
7.2.3 模型参数
7.3 小结
第8章冷启动
8.1 Bandit算法
8.1.1 多臂老虎机问题
8.1.2 Epsilon Greedy
8.1.3 UCB
8.1.4 概率匹配
8.1.5 Bayesian Bandit
8.1.6 上下文Bandit
8.2 元学习
8.2.1 什么是元学习
8.2.2 什么是MAML
8.2.3 MAML针对推荐场景的改造
8.2.4 Meta-Embedding
8.3 对比学习
8.3.1 对比学习简介
8.3.2 对比学习在推荐系统中的作用与使用方式
8.3.3 辨析对比学习与向量化召回
8.3.4 纠偏长尾物料的实践
8.3.5 纠偏小众用户的实践
8.4 其他算法
8.4.1 迁移学习
8.4.2 预测物料消费指标
8.4.3 以群体代替个体
8.4.4 借鉴多场景推荐
8.5 小结
第9章评估与调试
9.1 离线评估
9.1.1 评估排序算法
9.1.2 评估召回算法
9.1.3 人工评测
9.1.4 持续评估
9.2 在线评估：A/B实验
9.2.1 线上：流量划分
9.2.2 线下：统计分析
9.3 打开模型的黑盒
9.3.1 外部观察
9.3.2 内部剖析
9.4 线下涨了，线上没效果
9.4.1 特征穿越
9.4.2 老汤模型
9.4.3 冰山：系统的内在缺陷
9.4.4 链路一致性问题
9.5 小结
第10章推荐算法工程师的自我修养
10.1 工作
10.1.1 重视代码的规范性
10.1.2 重视离线评测
10.1.3 重视使用工具
10.2 学习
10.2.1 坚持问题导向
10.2.2 重在举一反三
10.2.3 敢于怀疑
10.2.4 落实代码细节
10.3 面试
10.3.1 社招
10.3.2 校招
10.4 小结