TorchEasyRec的dbmtl 模型 config 详解

简介: DBMTL(Deep Bayesian Multi-Target Learning)是阿里开源的多任务学习模型,显式建模任务因果依赖(如CTR→CVR)。基于TorchEasyRec实现,采用共享Bottom MLP+双Tower结构,CVR Tower融合CTR中间表征,体现贝叶斯条件关系。

配置文件是:https://github.com/alibaba/TorchEasyRec/blob/master/examples/dbmtl_taobao.config


一、什么是 DBMTL

DBMTL = Deep Bayesian Multi-Target Learning,是一种多任务学习模型。

核心思想是利用贝叶斯任务关系建模——任务之间不是独立的,而是有因果依赖的。比如用户先"点击"才可能"购买",CVR 依赖于 CTR。

二、数据与特征

数据源

训练数据: odps://{PROJECT}/tables/taobao_multitask_sample_v1_train
评估数据: odps://{PROJECT}/tables/taobao_multitask_sample_v1/ds=20170513

从 MaxCompute 读取淘宝多任务样本数据,使用 FG_DAG 模式(C++ DAG 引擎处理特征)。

标签(双目标)


label_fields: "clk"   ← 是否点击(CTR 任务)
label_fields: "buy"   ← 是否购买(CVR 任务)

特征一览(16 个特征,全部 embeddingdim=16)

特征名 类型 侧 含义 桶数/哈希
user_id IdFeature user 用户 ID 1,141,730
cms_segid IdFeature user 用户人群分段 98
cms_group_id IdFeature user 用户人群组 14
final_gender_code IdFeature user 性别 3
age_level IdFeature user 年龄段 8
pvalue_level IdFeature user 消费档次 5
shopping_level IdFeature user 购物频次等级 5
occupation IdFeature user 职业 3
new_user_class_level IdFeature user 新用户等级 6
adgroup_id IdFeature item 广告组 ID 846,812
cate_id IdFeature item 商品类目 12,961
campaign_id IdFeature item 营销活动 ID 423,438
customer IdFeature item 广告主 255,877
brand IdFeature item 品牌 461,498
price RawFeature item 价格(98 个分桶边界离散化) 99 桶
pid IdFeature context 广告资源位 hashbucket=20 |

9 个 user 特征 + 6 个 item 特征 + 1 个 context 特征,所有特征放入一个 "all" 特征组。

三、模型结构


image.png



对应配置中的各层:

① 共享底层 Bottom MLP

bottom_mlp { hidden_units: [512] }


所有特征 embedding 拼接后(256维)→ 512 维隐层。这是 CTR 和 CVR 共享的表征。

② CTR Tower(点击预测)

tower_name: "ctr"

label_name: "clk"

mlp { hidden_units: [256, 128, 64] }

loss: binary_cross_entropy

metric: auc



512 → 256 → 128 → 64 → 1,预测点击概率。

③ CVR Tower(购买预测)— 贝叶斯关系建模

tower_name: "cvr"

label_name: "buy"

mlp { hidden_units: [256, 128, 64] }       ← 本 tower 没有配 mlp!

relation_tower_names: "ctr"                  ← 依赖 CTR tower

relation_mlp { hidden_units: [64] }

loss: binary_cross_entropy

metric: auc (thresholds: 1000)


这是 DBMTL 的核心特点:CVR tower 没有配置自己的 mlp,所以直接用 bottom_mlp 的 512 维输出。然后:

  1. 将 bottom_mlp 输出(512维)与 CTR tower 的 MLP 输出(64维)做 concat(576维)
  2. 通过 relation_mlp [64] 融合(576 → 64)
  3. 线性层输出购买概率

这体现了贝叶斯因果链:P(buy) = P(buy|click) × P(click),CVR 的预测依赖 CTR 的中间表征。

四、训练参数

参数 值 含义
batch_size 8192 每批样本数
num_epochs 1 训练 1 轮
num_workers 8 数据加载并行度
sparse_optimizer Adagrad (lr=0.001) Embedding 参数优化器
dense_optimizer Adam (lr=0.001) MLP 参数优化器
学习率调度 constant 固定学习率

稀疏/稠密分离优化是推荐系统标准做法:Embedding 参数稀疏更新用 Adagrad,MLP 参数稠密更新用 Adam。

五、与普通多任务模型的区别

模型 任务关系
SharedBottom 共享底层,任务独立输出
MMoE 多专家 + 门控,任务独立但自适应选择专家
DBMTL 显式建模任务因果链(CTR → CVR),后续任务拼接前序任务的输出

配置中注释掉的 expert_mlp 和 num_expert 说明 DBMTL 也可以在 bottom 层加 MMoE,但这个例子选择了更简单的 shared bottom MLP 方案。

相关文章
|
机器学习/深度学习 分布式计算 DataWorks
EasyRec 使用介绍|学习笔记
快速学习 EasyRec 使用介绍。
2275 0
|
IDE 开发工具 iOS开发
最好用的Python IDE,pycharm保姆级安装教程
本文向非IT行业初学者介绍了如何安装Python的顶级IDE——PyCharm。首先,从[PyCharm官网](https://www.jetbrains.com/PyCharm/download/)下载适合操作系统的版本,推荐Windows用户选择社区版。接着,详细阐述了Windows系统的安装步骤:双击安装包,选择安装路径(避免C盘),进行相关设置(如更新路径变量、添加上下文菜单和文件关联),然后安装并完成。对于macOS用户,通过将.dmg安装包中的图标拖至Applications完成安装。最后,启动PyCharm并进行初次设置。本文旨在帮助新手顺利开始PyCharm的使用。
【数据结构】基本概念和术语
【数据结构】基本概念和术语
362 0
|
数据可视化 图形学
Autodesk AutoCAD 2023 简体中文(含激活补丁)
Autodesk AutoCAD 2023简称为cad2023,这是在建筑师、工程师、建筑专业人员等人群里知名度极其广的一款计算机辅助设计 (CAD) 软件
2888 0
Autodesk AutoCAD 2023 简体中文(含激活补丁)
|
6月前
|
存储 搜索推荐 Python
TorchRec大量使用Jagged Tensor
Jagged Tensor(锯齿张量)是专为变长序列设计的紧凑存储格式,用values+lengths/offsets替代padding,显著节省内存与计算。广泛应用于推荐系统中用户行为、多值标签等不等长特征处理,如HSTU模型中的拼接、拆分与矩阵乘法操作。
561 8
|
4月前
|
分布式计算 API 开发工具
阿里云人工智能平台PAI对接完全指南:从入门到生产级集成
本文是阿里云人工智能平台PAI的完整对接指南,涵盖从开通服务到生产级集成的全链路实践。文章首先介绍PAI的四层产品架构与核心组件,帮助读者建立对平台的整体认知。随后详细讲解账号权限配置,包括RAM用户授权、工作空间创建与角色分配。在开发对接层面,深入剖析PAI Python SDK的安装配置、训练作业提交与模型部署流程,提供完整的PyTorch训练示例代码。针对模型服务调用,分别介绍EAS的HTTP/HTTPS调用、gRPC协议以及Go/Java等多语言SDK的使用方法。文章还覆盖了PAI与OSS、MaxCompute、EMR Spark等阿里云生态产品的集成方案,以及VPC网络直连、签名认证
439 0
|
4月前
|
人工智能 缓存 JSON
阿里云Qwen3.7-Plus简介:模型能力、适用场景、支持订阅计划与最新优惠
Qwen3.7-Plus是阿里云千问系列旗舰级多模态大模型,核心优势在于多模态交互混合智能体能力——可感知真实场景、操作GUI界面、基于视觉生成代码并端到端导航应用。模型支持1M tokens上下文、单图最高1600万像素、最长2小时视频输入,文本能力接近旗舰Max,视觉推理BabyVision得分较上代从37.4跃升至64.7,在Vision Arena榜单跻身全球前五、中国第一。目前已上线阿里云百炼,新人可免费试用100万tokens,推理服务限时8折(输入低至1.6元/百万tokens),适用于图像视频理解、智能体交互、OCR及自动化工作流等高阶场景。
|
6月前
|
分布式计算 MaxCompute 流计算
PAI-FeatureStore特征平台的相关问答
本栏目解答FeatureStore常见问题:实时视图时间戳支持BIGINT/TIMESTAMP;ODPS同步需字段完全匹配;Item特征表由关联视图确定;离线视图禁止写入;实时数据查询延迟通常仅数秒。(238字)
322 1
|
6月前
|
数据采集 人工智能 Shell
从脚本到智能定时任务:Crontab MCP Tool 与 DMXAPI
Crontab MCP Tool 是被严重低估的LLM基础设施:它不替代cron,而是为大模型提供稳定、可审计的时间驱动入口。在夜间巡检等场景中,它将数据采集、结构化推理与通知链路解耦组合,强调确定性、可观测性与工程鲁棒性——让AI在边界清晰的流程中做擅长之事。(239字)
|
6月前
|
机器学习/深度学习 搜索推荐 iOS开发
TorchEasyRec中INPUT_TILE 环境变量的三个模式
`NPUT_TILE` 是 tzrec 推荐系统在模型导出与在线推理阶段的优化策略,针对“1 用户 → N 商品”场景,避免用户特征重复计算。支持三种模式:`INPUT_TILE=1`(无优化)、`=2`(Embedding前tile)、`=3`(Embedding后tile,计算最优但需拆分Embedding表、依赖FG模式及torchrec,不支持macOS)。
338 6

热门文章

最新文章