Collaborative Metric Learning I2I 召回模型，基于session点击数据计算item与item的相似度。 在同一session内任意两个被点击的item pair彼此构成正样本对<anchor item, positive item>； anchor item与任意一个未被点击的negative item构成负样本对<anchor item, negative item>。

Metric Learning需要保证 anchor item 与 negative item 的语义向量之间的距离 相比 anchor item 与 positive item 的语义向量之间的距离大，且至少间隔距离为margin（超参数）。

目前可选的损失函数（loss function）包括：

• circle loss
• multi-similarity loss

Collaborative Metric Learning I2I 模型接受的训练样本的格式如下：

  < session_id, item_features, label(is_click) >

在训练过程中，同一mini batch内同一个session_id下label=1的所有item彼此之间互相构成 <anchor item, positive item>, 而mini batch内的其他所有item(不管session_id的值)则 与该pair对构成negative item。

因此，需要通过N Way K Shot的方式构建训练样本和评估样本。也就是说要保证每个mini batch内包含 N个session的数据，且每个session下面随机采样K个item，同时还需要保证这K个item中至少有两个对应的label=1。

model_config: {
  model_class: "CoMetricLearningI2I"
  feature_groups: {
    group_name: "item"
    feature_names: 'adgroup_id'
    feature_names: 'cate_id'
    feature_names: 'campaign_id'
    feature_names: 'customer'
    feature_names: 'brand'
    feature_names: 'price'
    feature_names: 'pid'
    wide_deep:DEEP
  }
  loss_type: CIRCLE_LOSS
  metric_learning {
    input: "item"
    session_id: "user_id"
    dnn {
      hidden_units: [256, 128, 64, 32]
      # dropout_ratio : [0.1, 0.1, 0.1, 0.1]
    }
    l2_regularization: 1e-6
    circle_loss: {
      margin: 0.25
      gamma: 64
    }
  }
  embedding_regularization: 5e-5
}

• model_class: 'CoMetricLearningI2I', 不需要修改
• feature_groups: 输入特征
• metric_learning: 模型相关的参数
  • input: item feature group name
  • session_id: session id 的输入field
  • dnn: deep part的参数配置
    • hidden_units: dnn每一层的channel数目，即神经元的数目
  • circle_loss: circle loss 损失函数的超参数
  • output_l2_normalized_emb: 是否输出l2 normalize的embedding，默认值为true
• embedding_regularization: 对embedding部分加regularization，防止overfit

• embedding: string类型的未做l2 normalize的embedding，逗号分隔
• float_emb: float array类型的未做l2 normalize的embedding
• norm_embedding: string类型的l2 normalize的embedding，逗号分隔
• norm_emb: float array类型的l2 normalize的embedding

CoMetricLearningI2I_demo.config

效果评估

• Circle Loss.pdf
• Multi-Similarity Loss