Deep 部分是一个前向NN,用于学习更高阶的交叉特征,其结构图如下所示:原始的高维稀疏特征向量被Embedding层压缩成低维稠密特征向量,然后再送入NN的hidden layer。 Embedding层的输出是一个m×k维向量表示为a^(0),做为DNN的第一层输入,之后每一层和前一层的关系都可表示为下式:最终DNN的输出是 :
① Embedding在Embedding层,通过tf.nn.embedding_lookup()函数根据输入特征的索引号找到对应权重中的一行。 ② FM模块的一维特征对于一维特征计算中的 y_first_order是Sparse Featues 到 FM Layer中Addition Unit的全连接,相当于进行了为1的embedding。