【AI in 美团】深度学习在美团搜索广告排序的应用实践

向右看齐 2023-10-18 23:27 134阅读 0赞

![640?wx\_fmt=png][640_wx_fmt_png]

**总第251篇**

**2018年 第43篇**

AI（人工智能）技术已经广泛应用于美团的众多业务，从美团App到大众点评App，从外卖到打车出行，从旅游到婚庆亲子，美团数百名最优秀的算法工程师正致力于将AI技术应用于搜索、推荐、广告、风控、智能调度、语音识别、机器人、无人配送等多个领域，帮助美团3.2亿消费者和400多万商户改善服务和体验，帮大家吃得更好，生活更好。

基于AI技术，美团搭建了世界上规模最大，复杂度最高的多人、多点实时智能配送调度系统；基于AI技术，美团推出了业内第一款大规模落地的企业应用级语音交互产品，为50万骑手配备了智能语音系统；基于AI技术，美团构建了世界上最大的菜品知识库，为200多万商家、3亿多件商品绘制了知识图谱，为2.5亿用户提供了精准的用户画像，并构建了世界上用户规模最大、复杂度最高的O2O智能推荐平台。

美团这个全球最大生活服务互联网平台的“大脑”是怎么构建的？从本周起，我们将连续发表“AI in 美团”系列文章，给大家全面揭开各项技术的内幕。

另外，业界第一部全面讲述互联网机器学习实践的图书《美团机器学习实践》也即将上市，敬请期待。

**一、前言**

在计算广告场景中，需要平衡和优化三个参与方——用户、广告主、平台的关键指标，而预估点击率CTR（Click-through Rate）和转化率CVR（Conversion Rate）是其中非常重要的一环，准确地预估CTR和CVR对于提高流量变现效率，提升广告主ROI（Return on Investment），保证用户体验等都有重要的指导作用。

传统的CTR/CVR预估，典型的机器学习方法包括人工特征工程 + LR（Logistic Regression）\[1\]、GBDT（Gradient Boosting Decision Tree）\[2\] + LR、FM（Factorization Machine）\[3\]和FFM（Field-aware Factorization Machine）\[4\]等模型。相比于传统机器学习方法，深度学习模型近几年在多领域多任务（图像识别、物体检测、翻译系统等）的突出表现，印证了神经网络的强大表达能力，以及端到端模型有效的特征构造能力。同时各种开源深度学习框架层出不穷，美团集团数据平台中心也迅速地搭建了GPU计算平台，提供GPU集群，支持TensorFlow、MXNet、Caffe等框架，提供数据预处理、模型训练、离线预测、模型部署等功能，为集团各部门的策略算法迭代提供了强有力的支持。

美团海量的用户与商家数据，广告复杂的场景下众多的影响因素，为深度学习方法的应用落地提供了丰富的场景。本文将结合广告特殊的业务场景，介绍美团搜索广告场景下深度学习的应用和探索。主要包括以下两大部分：

**二、从机器学习到深度学习的模型探索**

**2.1 场景与特征**

美团搜索广告业务囊括了关键词搜索、频道筛选等业务，覆盖了美食、休娱、酒店、丽人、结婚、亲子等200多种应用场景，用户需求具有多样性。同时O2O模式下存在地理位置、时间等独特的限制。

结合上述场景，我们抽取了以下几大类特征：

结合美团多品类的业务特点及O2O模式独特的需求，着重介绍几个业务场景以及如何刻画：

**2.2 模型**

搜索广告CTR/CVR预估经历了从传统机器学习模型到深度学习模型的过渡。下面先简单介绍下传统机器学习模型（GBDT、LR、FM & FFM）及应用，然后再详细介绍在深度学习模型的迭代。

**GBDT**

GBDT又叫MART（Multiple Additive Regression Tree），是一种迭代的决策树算法。它由多棵决策树组成，所有树的结论累加起来作为最终答案。它能自动发现多种有区分性的特征以及特征组合，并省去了复杂的特征预处理逻辑。Facebook实现GBDT ＋ LR\[5\]的方案，并取得了一定的成果。

**LR**

![640?wx\_fmt=png][640_wx_fmt_png 1]

![640?wx\_fmt=png][640_wx_fmt_png 2]

LR可以视作单层单节点的“DNN”, 是一种宽而不深的结构，所有的特征直接作用在最后的输出结果上。模型优点是简单、可控性好，但是效果的好坏直接取决于特征工程的程度，需要非常精细的连续型、离散型、时间型等特征处理及特征组合。通常通过正则化等方式控制过拟合。

**FM & FFM**

FM可以看做带特征交叉的LR，如下图所示：

![640?wx\_fmt=png][640_wx_fmt_png 3]

从神经网络的角度考虑，可以看做下图的简单网络搭建方式：

![640?wx\_fmt=png][640_wx_fmt_png 4]

模型覆盖了LR的宽模型结构，同时也引入了交叉特征，增加模型的非线性，提升模型容量，能捕捉更多的信息，对于广告CTR预估等复杂场景有更好的捕捉。

在使用DNN模型之前，搜索广告CTR预估使用了FFM模型，FFM模型中引入field概念，把n个特征归属到f个field里，得到nf个隐向量的二次项，拟合公式如下：![640?wx\_fmt=png][640_wx_fmt_png 5]上式中，fj 表示第j个特征所属的field。设定隐向量长度为k，那么相比于FM的nk个二次项参数，FFM有nkf个二次项参数，学习和表达能力也更强。

例如，在搜索广告场景中，假设将特征划分到8个Field，分别是**用户、广告、Query、上下文、用户－广告、上下文－广告、用户－上下文及其他**，相对于FM能更好地捕捉每个Field的信息以及交叉信息，每个特征构建的隐向量长度8\*k, 整个模型参数空间为8kn+n+1。

Yu-Chin Juan实现了一个C++版的[FFM模型工具包][FFM]，但是该工具包只能在单机训练，难以支持大规模的训练数据及特征集合；并且它省略了常数项和一次项，只包含了特征交叉项，对于某些特征的优化需求难以满足，因此我们开发了**基于PS-Lite的分布式FFM训练工具**（支持亿级别样本，千万级别特征，分钟级完成训练，目前已经在公司内部普遍使用），主要添加了以下新的特性：

从GBDT模型切到FFM模型，积累的效果如下所示，主要的提升来源于对大规模离散特征的刻画及使用更充分的训练数据：

![640?wx\_fmt=png][640_wx_fmt_png 6]

**DNN**

从上面的介绍大家可以看到，美团场景具有多样性和很高的复杂度，而实验表明从线性的LR到具备非线性交叉的FM，到具备Field信息交叉的FFM，模型复杂度（模型容量）的提升，带来的都是结果的提升。而LR和FM/FFM可以视作简单的浅层神经网络模型，基于下面一些考虑，我们在搜索广告的场景下把CTR模型切换到深度学习神经网络模型：

我们主要尝试了以下网络结构和超参调优的实验。

**Wide & Deep**

首先尝试的是Google提出的经典模型Wide & Deep Model\[6\]，模型包含Wide和Deep两个部分，其中Wide部分可以很好地学习样本中的高频部分，在LR中使用到的特征可以直接在这个部分使用，但对于没有见过的ID类特征，模型学习能力较差，同时合理的人工特征工程对于这个部分的表达有帮助。Deep部分可以补充学习样本中的长尾部分，同时提高模型的泛化能力。Wide和Deep部分在这个端到端的模型里会联合训练。

在完成**场景与特征**部分介绍的特征工程后，我们基于Wide & Deep模型进行结构调整，搭建了以下网络：![640?wx\_fmt=png][640_wx_fmt_png 7]

在搜索广告的场景中，上图的Part\_1包含离散型特征及部分连续型特征离散化后的结果 （例如**用户ID、广告ID、商圈ID、品类ID、GEO、各种统计类特征离散化结果**等等）。离散化方式主要采用等频划分或MDLP\[7\]。每个域构建自己的embedding向量 （缺失特征和按照一定阈值过滤后的低频特征在这里统一视作Rare特征），得到特征的Representation，然后通过Pooling层做采样，并拼接在一起进行信息融合。

右侧的Part\_2部分主要包含我们场景下的统计类特征及部分其他途径建模表示后输入的特征 （例如**图片特征、文本特征**等），和Part\_1的最后一层拼接在一起做信息融合。

![640?wx\_fmt=png][640_wx_fmt_png 8]Part\_3为多个全连接层，每个Layer后面连接激活函数，例如ReLu, Tanh等。

![640?wx\_fmt=png][640_wx_fmt_png 9]

右上的Part\_4部分主要包含**广告曝光位次** （Position Bias）及部分离散特征，主要为了提高模型的记忆性，具有更强的刻画能力。Wide和Deep部分结合，得到最终的模型：

![640?wx\_fmt=png][640_wx_fmt_png 10]

深度学习模型在图像语音等数据上有显著作用的原因之一是，我们在这类数据上不太方便产出能很好刻画场景的特征，人工特征+传统机器学习模型并不能学习出来全面合理的数据分布表示，而深度学习end-to-end的方式，直接结合Label去学习如何从原始数据抽取合适的表达（representation）。但是在美团等电商的业务场景下，输入的数据形态非常丰富，有很多业务数据有明确的物理含义，因此一部分人工特征工程也是必要的，提前对信息做一个合理的抽取表示，再通过神经网络学习进行更好的信息融合和表达。

在美团搜索广告的场景下，用户的实时行为有非常强的指代性，但是以原始形态直接送入神经网络，会损失掉很多信息，因此我们对它进行了不同方式描述和表示，再送入神经网络之中进行信息融合和学习。另一类很有作用的信息是图像信息，这部分信息的一种处理方式是，可以通过end-to-end的方式，用卷积神经网络和DNN进行拼接做信息融合，但是可能会有网络的复杂度过高，以及训练的收敛速度等问题，也可以选择用CNN预先抽取特征，再进行信息融合。

下面以这两类数据特征为例，介绍在Wide & Deep模型中的使用方式。

从FFM模型切到Wide & Deep模型，积累到目前的效果如下所示，主要的提升来源于模型的非线性表达及对更多特征的更充分刻画。

![640?wx\_fmt=png][640_wx_fmt_png 11]

##### DeepFM #####

华为诺亚方舟团队结合FM相比LR的特征交叉的功能，将Wide & Deep部分的LR部分替换成FM来避免人工特征工程，于是有了DeepFM\[8\]，网络结构如下图所示：

![640?wx\_fmt=png][640_wx_fmt_png 12]

比起Wide & Deep的LR部分，DeepFM采用FM作为Wide部分的输出，在训练过程中共享了对不同Field特征的embedding信息。

我们在部分业务上尝试了DeepFM模型，并进行了超参的重新调优，取得了一定的效果。其他业务也在尝试中。具体效果如下：

![640?wx\_fmt=png][640_wx_fmt_png 13]

**Multi-Task**

广告预估场景中存在多个训练任务，比如CTR、CVR、交易额等。既考虑到多个任务之间的联系，又考虑到任务之间的差别，我们利用Multi-Task Learning的思想，同时预估点击率、下单率，模型结构如下图所示：

![640?wx\_fmt=png][640_wx_fmt_png 14]

近期，阿里发表论文“Entire Space Multi-Task Model”\[9\]，提出目前CVR预估主要存在Sample Selection Bias（SSB）和Data Sparsity（DS）两个问题，并提出在全局空间建模（以pCTCVR和pCTR来优化CVR）和特征Transform的方法来解决。具体的Loss Function是：

![640?wx\_fmt=png][640_wx_fmt_png 15]

网络结构是：

![640?wx\_fmt=png][640_wx_fmt_png 16]

##### 超参调优 #####

除了以上对网络结构的尝试，我们也进行了多组超参的调优。神经网络最常用的超参设置有：隐层层数及节点数、学习率、正则化、Dropout Ratio、优化器、激活函数、Batch Normalization、Batch Size等。不同的参数对神经网络的影响不同，神经网络常见的一些问题也可以通过超参的设置来解决：

影响神经网络的超参数非常多，神经网络调参也是一件非常重要的事情。工业界比较实用的调参方法包括：

我们在实际调参过程中，使用的是第3种方式，在根据经验参数初始化超参数之后，按照隐层大小->学习率->Batch Size->Drop out/L1/L2的顺序进行参数调优。

在搜索广告数据集上，不同超参的实验结果如下：

![640?wx\_fmt=png][640_wx_fmt_png 17]

**2.3 小结**

搜索广告排序模型经历了从GBDT --> FFM --> DNN的迭代，同时构建了更加完善的特征体系，线下AUC累积提升13%＋，线上CTR累积提升15%＋。

**三、基于深度学习模型的工程优化**

**3.1 线下训练**

TensorFlow程序如果单机运行中出现性能问题，一般会有以下几种问题：

1.  复杂的预处理逻辑耦合在训练过程中。
2.  选择正确的IO方式。

**剥离预处理流程**

在模型的试验阶段，为了快速试验，数据预处理逻辑与模型训练部分都耦合在一起，而数据预处理包含大量IO类型操作，所以很适合用HadoopMR或者Spark处理。具体流程如下：

1.  在预处理阶段将查表、join字典等操作都做完，并且将查询结果与原始数据merge在一起。
2.  将libfm格式的数据转为易于TensorFlow操作的SparseTensor方式：
    
    ![640?wx\_fmt=png][640_wx_fmt_png 18]
3.  将原始数据转换为TensorFlow Record。

**选择正确的IO方式**

TensorFlow读取数据的方式主要有2种，一般选择错误会造成性能问题，两种方式为：

1.  **Feed\_dict** 通过feed\_dict将数据喂给session.run函数，这种方式的好处是思路很清晰，易于理解。缺点是性能差，性能差的原因是feed给session的数据需要在session.run之前准备好，如果之前这个数据没有进入内存，那么就需要等待数据进入内存，而在实际场景中，这不仅仅是等待数据从磁盘或者网络进入内存的事情，还可能包括很多前期预处理的工作也在这里做，所以相当于一个串行过程。而数据进入内存后，还要串行的调用PyArrayToTF\_Tensor，将其copy成tensorflow的tensorValue。此时，GPU显存处于等待状态，同时，由于tf的Graph中的input为空，所以CPU也处于等待状态，无法运算。
2.  **RecordReader** 这种方式是tf在Graph中将读取数据这个操作看做图中一个operation节点，减少了一个copy的过程。同时，在tf中还有batch与threads的概念，可以异步的读取数据，保证在GPU或者CPU进行计算的时候，读取数据这个操作也可以多线程异步执行。静态图中各个节点间的阻塞：在一个复杂的DAG计算图中，如果有一个点计算比较慢时，会造成阻塞，下游节点不得不等待。此时，首先要考虑的问题是图中节点参数所存储的位置是否正确。比如如果某个计算节点是在GPU上运算，那么如果这个节点所有依赖的variable对象声明在CPU上，那么就要做一次memcpy，将其从内存中copy到GPU上。因为GPU计算的很快，所以大部分时间花在拷贝上了。总之，如果网络模型比较简单，那么这种操作就会非常致命；如果网络结构复杂，比如网络层次非常深，那么这个问题倒不是太大的问题了。

在这个Case中，因为需要提升吞吐，而不仅仅是在试验阶段。所以需要用RecordReader方式处理数据。

##### **优化过程** #####

1.  将整体程序中的预处理部分从代码中去除，直接用Map-Reduce批处理去做（因为批处理可以将数据分散去做，所以性能非常好，2亿的数据分散到4900多个map中，大概处理了15分钟左右）。
2.  MR输出为TensorFlow Record格式，避免使用Feed\_dict。
3.  数据预读，也就是用多进程的方式，将HDFS上预处理好的数据拉取到本地磁盘（使用joblib库+shell将HDFS数据用多进程的方式拉取到本地，基本可以打满节点带宽2.4GB/s，所以，拉取数据也可以在10分钟内完成）。
4.  程序通过TensorFlow提供的TFrecordReader的方式读取本地磁盘上的数据，这部分的性能提升是最为明显的。原有的程序处理数据的性能大概是1000条/秒，而通过TFrecordReader读取数据并且处理，性能大概是18000条/秒，性能大概提升了18倍。
5.  由于每次run的时候计算都要等待TFrecordReader读出数据，而没用利用batch的方式。如果用多线程batch可以在计算期间异步读取数据。在TensorFlow所有例子中都是使用TFRecordReader的read接口去读取数据，再用batch将数据多线程抓过来。但是，其实这样做加速很慢。需要使用TFRecordReader的read\_up\_to的方法配合batch的equeue\_many=True的参数，才可以做到最大的加速比。使用tf.train.batch的API后，性能提升了38倍。

此时，性能已经基本达到我们的预期了。例如整体数据量是2亿，按照以前的性能计算1000条/秒，大概需要运行55个小时。而现在大概需要运行87分钟，再加上预处理（15分钟）与预拉取数据（10分钟）的时间，在不增加任何计算资源的情况下大概需要2个小时以内。而如果是并行处理，则可以在分钟级完成训练。

####     ####

#### **3.2 线上预估** ####

线上流量是模型效果的试金石。离线训练好的模型只有参与到线上真实流量预估，才能发挥其价值。在演化的过程中，我们开发了一套稳定可靠的线上预估体系，提高了模型迭代的效率。

##### 模型同步 #####

我们开发了一个高可用的同步组件：用户只需要提供线下训练好的模型的HDFS路径，该组件会自动同步到线上服务机器上。该组件基于HTTPFS实现，它是美团离线计算组提供的HDFS的HTTP方式访问接口。同步过程如下：

1.  同步前，检查模型md5文件，只有该文件更新了，才需要同步。
2.  同步时，随机链接HTTPFS机器并限制下载速度。
3.  同步后，校验模型文件md5值并备份旧模型。

同步过程中，如果发生错误或者超时，都会触发报警并重试。依赖这一组件，我们实现了在2min内可靠的将模型文件同步到线上。

##### 模型计算 #####

当前我们线上有两套并行的预估计算服务。

TF Serving是TensorFlow官方提供的一套用于在线实时预估的框架。它的突出优点是：和TensorFlow无缝链接，具有很好的扩展性。使用TF serving可以快速支持RNN、LSTM、GAN等多种网络结构，而不需要额外开发代码。这非常有利于我们模型快速实验和迭代。

使用这种方式，线上服务需要将特征发送给TF Serving，这不可避免引入了网络IO，给带宽和预估时延带来压力。我们尝试了以下优化，效果显著。

1.  并发请求。一个请求会召回很多符合条件的广告。在客户端多个广告并发请求TF Serving，可以有效降低整体预估时延。
2.  特征ID化。通过将字符串类型的特征名哈希到64位整型空间，可以有效减少传输的数据量，降低使用的带宽。

TF Serving服务端的性能差强人意。在典型的五层网络（512\*256\*256\*256\*128）下，单个广告的预估时延约4800μs，具体见下图：

![640?wx\_fmt=png][640_wx_fmt_png 19]

由于广告线上服务需要极高的性能，对于主流深度学习模型，我们也定制开发了具体计算实现。这种方式可以针对性的优化，并避免TF Serving不必要的特征转换和线程同步，从而提高服务性能。

例如全连接DNN模型中使用Relu作为激活函数时，我们可以使用滚动数组、剪枝、寄存器和CPU Cache等优化技巧，具体如下：

// 滚动数组    int nextLayerIndex = currentLayerIndex ^ 1 ;    System.arraycopy(bias, bOff, data[nextLayerIndex], 0, nextLayerSize);    for (int i = 0; i < currentLayerSize; i ++) {        float value = data[currentLayerIndex][i];        // 剪枝        if (value > 0.0) {            // 寄存器            int index = wOff + i * nextLayerSize;            // CPU 缓存友好            for (int j = 0; j < nextLayerSize; j++) {                data[nextLayerIndex][j] += value * weights[index + j];            }        }    }    for (int i = 0; i < nextLayerSize; k++) {        data[nextArrayIndex][i] = ReLu(data[nextArrayIndex][i]);    }    arrayIndex = nextArrayIndex;

优化后的单个广告预估时延约650μs，见下图：

![640?wx\_fmt=png][640_wx_fmt_png 20]

综上，当前线上预估采取“两条腿走路”的策略。利用TF Serving快速实验新的模型结构，以保证迭代效率；一旦模型成熟切换主流量，我们会开发定制实现，以保证线上性能。

**模型效果**

借助于我们的分层实验平台，我们可以方便的分配流量，完成模型的小流量实验上线。该分层实验平台同时提供了分钟粒度的小流量实时效果数据，便于模型评估和效果监控。

**四、总结与展望**

经过一段时间的摸索与实践，搜索广告业务在深度学习模型排序上有了一定的成果与积累。接下来，我们将继续在特征、模型、工程角度迭代优化。特征上，更深度挖掘用户意图，刻画上下文场景，并结合DNN模型强大的表达能力充分发挥特征的作用。模型上，探索新的网络结构，并结合CNN、RNN、Attention机制等发挥深度学习模型的优势。持续跟进业界动态，并结合实际场景，应用到业务中。工程上，跟进TensorFlow的新特性，并对目前实际应用中遇到的问题针对性优化，以达到性能与效果的提升。我们在持续探索中。

**参考文献**

\[1\] Chapelle, O., Manavoglu, E., & Rosales, R. (2015). Simple and scalable response prediction for display advertising. ACM Transactions on Intelligent Systems and Technology (TIST), 5(4), 61.  
\[2\] Friedman, J. H. (2001). Greedy function approximation: a gradient boosting machine. Annals of statistics, 1189-1232.  
\[3\] Rendle, S. (2010, December). Factorization machines. In Data Mining (ICDM), 2010 IEEE 10th International Conference on (pp. 995-1000). IEEE.  
\[4\] Juan, Y., Zhuang, Y., Chin, W. S., & Lin, C. J. (2016, September). Field-aware factorization machines for CTR prediction. In Proceedings of the 10th ACM Conference on Recommender Systems (pp. 43-50). ACM.  
\[5\] He, X., Pan, J., Jin, O., Xu, T., Liu, B., Xu, T., … & Candela, J. Q. (2014, August). Practical lessons from predicting clicks on ads at facebook. In Proceedings of the Eighth International Workshop on Data Mining for Online Advertising (pp. 1-9). ACM.  
\[6\] Cheng, H. T., Koc, L., Harmsen, J., Shaked, T., Chandra, T., Aradhye, H., … & Anil, R. (2016, September). Wide & deep learning for recommender systems. In Proceedings of the 1st Workshop on Deep Learning for Recommender Systems (pp. 7-10). ACM.  
\[7\] Dougherty, J., Kohavi, R., & Sahami, M. (1995). Supervised and unsupervised discretization of continuous features. In Machine Learning Proceedings 1995 (pp. 194-202).  
\[8\] Guo, H., Tang, R., Ye, Y., Li, Z., & He, X. (2017). Deepfm: A factorization-machine based neural network for CTR prediction. arXiv preprint arXiv:1703.04247.  
\[9\] Ma, X., Zhao, L., Huang, G., Wang, Z., Hu, Z., Zhu, X., & Gai, K. (2018). Entire Space Multi-Task Model: An Effective Approach for Estimating Post-Click Conversion Rate. arXiv preprint arXiv:1804.07931.  
\[10\] Bergstra, J., & Bengio, Y. (2012). Random search for hyper-parameter optimization. Journal of Machine Learning Research, 13(Feb), 281-305.

**作者简介**

薛欢，2016年3月加入美团，主要从事搜索广告排序模型相关的工作。  
姚强，2016年4月加入美团，主要从事搜索广告召回、机制与排序等相关算法研究应用工作。  
玉林，2015年5月加入美团，主要从事搜索广告排序相关的工程优化工作。  
王新，2017年4月加入美团，主要从事GPU集群管理与深度学习工程优化的工作。

**图书推荐**

我们“美团技术团队”公众号之前已经发布过很多AI和算法方面的文章，但从中很难了解算法工程师完整的工作流程。

告诉大家一个好消息，美团算法团队多位技术专家集体编写的《美团机器学习实践》一书即将出版。这本书详细地讲述了最热门的人工智能技术如何应用于搜索、推荐、计算广告、风控、图像处理等各种场景，如何在美团这个全球最大生活服务互联网平台实际落地，敬请期待。

![640?wx\_fmt=jpeg][640_wx_fmt_jpeg]

**招聘信息**

美团广告平台全面负责美团到店餐饮、到店综合（结婚、丽人、休闲娱乐、学习培训、亲子、家装）、酒店旅游的商业变现。搜索广告基于数亿用户、数百万商家和数千万订单的真实数据做挖掘，在变现的同时确保用户体验和商家利益。欢迎有意向的同学加入搜索广告算法组。简历请投递至：leijun\#meituan.com

**也许你还想看**

[使用TensorFlow训练WDL模型性能问题定位与调优][TensorFlow_WDL]

[即时配送的ETA问题之亿级样本特征构造实践][ETA]

[美团点评联盟广告的场景化定向排序机制][Link 1]

![640?wx\_fmt=png][640_wx_fmt_png 21]

[640_wx_fmt_png]: https://img-blog.csdnimg.cn/img_convert/9e7c3079f8bbde6a27f7371eafe00a1b.png
[640_wx_fmt_png 1]: https://img-blog.csdnimg.cn/img_convert/44e2905ab50ef303c539bebb6a27f5b4.png
[640_wx_fmt_png 2]: https://img-blog.csdnimg.cn/img_convert/aa3d24e4e36f2826ba3c82e954cbea2c.png
[640_wx_fmt_png 3]: https://img-blog.csdnimg.cn/img_convert/69d257ace1f1b0e9bd3b56d6607bf58c.png
[640_wx_fmt_png 4]: https://img-blog.csdnimg.cn/img_convert/5ee224721c6d8c5f35bd5fc718fd6f49.png
[640_wx_fmt_png 5]: https://img-blog.csdnimg.cn/img_convert/7c235f02920a43eb7976b9dfdc2890ac.png
[FFM]: https://github.com/guestwalk/libffm
[640_wx_fmt_png 6]: https://img-blog.csdnimg.cn/img_convert/d163224ef7f2079f080e53792d959a6f.png
[640_wx_fmt_png 7]: https://img-blog.csdnimg.cn/img_convert/d96f0a48d1f03e26ec7826958cddffb8.png
[640_wx_fmt_png 8]: https://img-blog.csdnimg.cn/img_convert/70774025f459e19d7d8b5087b8f7f8b9.png
[640_wx_fmt_png 9]: https://img-blog.csdnimg.cn/img_convert/38e95227b3d2c3cf0cabb1313cc1cbe5.png
[640_wx_fmt_png 10]: https://img-blog.csdnimg.cn/img_convert/19fb6075cbb970f88e17fe7b40122160.png
[640_wx_fmt_png 11]: https://img-blog.csdnimg.cn/img_convert/68ece529dadce934af525cc3c0e430e4.png
[640_wx_fmt_png 12]: https://img-blog.csdnimg.cn/img_convert/e00479961b7310687acb9e34cb2b3643.png
[640_wx_fmt_png 13]: https://img-blog.csdnimg.cn/img_convert/16a6cfefe0a7d61cffa8342ab714c53e.png
[640_wx_fmt_png 14]: https://img-blog.csdnimg.cn/img_convert/f2243a38c8f86a8a060885144e6c734d.png
[640_wx_fmt_png 15]: https://img-blog.csdnimg.cn/img_convert/a565b8403cc05566c6df9041ec1e9233.png
[640_wx_fmt_png 16]: https://img-blog.csdnimg.cn/img_convert/f3e066b879dc18df9ffbb77abdb5f4a0.png
[640_wx_fmt_png 17]: https://img-blog.csdnimg.cn/img_convert/f4541432e356ab046b7b2ab7543695a6.png
[640_wx_fmt_png 18]: https://img-blog.csdnimg.cn/img_convert/05b822a82d005ec006a6832baaaef220.png
[640_wx_fmt_png 19]: https://img-blog.csdnimg.cn/img_convert/3fa367f7f0ac9af313017707e0681e55.png
[640_wx_fmt_png 20]: https://img-blog.csdnimg.cn/img_convert/4056935c2280baec920e3541331d660c.png
[640_wx_fmt_jpeg]: https://img-blog.csdnimg.cn/img_convert/7b46fd7960839ff48eb822ddb9297744.png
[TensorFlow_WDL]: http://mp.weixin.qq.com/s?__biz=MjM5NjQ5MTI5OA==&mid=2651747829&idx=1&sn=87ab95052cd48400e85d3c59c1f8b168&chksm=bd12acb88a6525aec945bd8ddd3055e3f16564661a34b042cd0310b949ee7752f5a9e48ae335&scene=21#wechat_redirect
[ETA]: http://mp.weixin.qq.com/s?__biz=MjM5NjQ5MTI5OA==&mid=2651747129&idx=1&sn=2b985b3a923bf1163d3771fddc83a742&chksm=bd12aa748a65236244bf4702268991aeffeaa6cd583d27a5e727915b9218f2c1b80d04116ba8&scene=21#wechat_redirect
[Link 1]: http://mp.weixin.qq.com/s?__biz=MjM5NjQ5MTI5OA==&mid=2651747161&idx=1&sn=299b54494d34f7a6dceeb39bb3615e3c&chksm=bd12aa148a65230255121f057887f3af89b599aea4c638ed4ef87052ce43f8f8f732af1d06f7&scene=21#wechat_redirect
[640_wx_fmt_png 21]: https://img-blog.csdnimg.cn/img_convert/485d66343b51d292edf58f8afb155088.png