用户画像标签系统体系解释

简介: 用户画像标签系统体系解释

一 标签系统体系架构

1)、标签数据

标签管理平台中,每个标签开发时,首先需要在管理平台上注册(新建标签:4级标签和5级标签)

业务标签和属性标签

业务标签对应标签模型,每个标签模型就是Spark Application,运行程序可以给用户打上标签:TagName

模型表中存储数据:spark application运行时参数设置核心数据:

tagName -> tagRule:标签规则

2)、业务数据

依据每个业务标签(4级标签)的标签规则rule,获取业务数据

inType 判断业务数据的数据源,然后解析参数为Meta,加载业务数据(SparkSQL)

此处:整个项目业务数据主要存储在HBase表中

3)、构建标签

使用业务数据和标签数据(属性标签对应tagName和rule)计算标签,得到modelDF,将其保存到HBase表中。

画像标签表:tbl_profile

存储标签数据时,也将标签数据存储同步存储到Elasticsearch索引中,方便使用标签进行查询用户

基于Elasticsearch为HBase表构建二级索引

二 标签模型开发流程

展示每个标签模型在实际开发时主要流程:

1)、标签管理平台新建标签

123级标签

34级标签

设置相关属性,包含标签的属性字段的值和对应模型字段的值

标签模型对应Spark Application名称,及标签模型分类,尤其关键为标签规则

rule

5级标签

2)、开发标签模型

如何开发标签模型及测试功能,完成以后需要打成jar包

3)、调度执行

标签管理平台中可以直接调用Oozie Java API调度执行每个标签模型应用程序

三 标签模型计算逻辑

在每个标签模型开发时,计算逻辑主要涉及到四个方面:

SparkSession初始化

1)、【MySQL】依据每个标签tagId获取标签数据spark.read.format(“jdbc”)

只获取与标签相关的所有数据

2)、【HBase】解析标签规则rule,加载业务数据

spark.read.format(“hbase”)

自定义外部数据源方式

3)、【DataFrame】业务数据结合属性标签数据,计算标签modelDF

不同类型标签,计算标签方式不同,分为三种类型,规则匹配类型标签、统计类型标签和挖掘类型标签

  • 规则匹配类型标签
    业务字段的值与属性标签规则rule匹配即可
  • 统计类型标签
    设计对业务字段的数据进行统计和对属性标签规则rule进行转换,打标签
  • 挖掘类型标签
    使用机器学习算法构建算法模型,使用预测值与属性标签规则整合,打标签,其中涉及相关计算
    4)、【HBase】标签存储将用户标签数据存储到HBase表中,同步到Elasticsearch索引中
  • a)、存储最新画像标签数据
    存储HBase表汇总
  • b)、同步标签数据到Solr索引中
    使用HBase协处理器完成,自定同步数据,批量索引插入
    SparkSession资源关闭


目录
相关文章
|
存储 SQL 机器学习/深度学习
用户画像标签体系——从零开始搭建实时用户画像(三)
用户画像标签体系——从零开始搭建实时用户画像(三)
4555 0
用户画像标签体系——从零开始搭建实时用户画像(三)
|
搜索推荐 数据可视化 数据挖掘
构建精准的目标客户群用户画像构建
构建精准的目标客户群用户画像
2133 6
|
SQL 数据采集 存储
基于clickhouse做用户画像,标签圈选
基于clickhouse做用户画像,标签圈选
1889 0
基于clickhouse做用户画像,标签圈选
|
存储 SQL 分布式计算
用户画像系列—如何从0到1建设用户画像
用户画像系列—如何从0到1建设用户画像
616 0
|
SQL HIVE
Hive LAG函数分析
Hive LAG函数分析
399 0
|
12月前
|
存储 SQL 搜索推荐
货拉拉用户画像基于 Apache Doris 的数据模型设计与实践
货拉拉基于Apache Doris构建高效用户画像系统,实现标签管理、人群圈选与行为分析的统一计算引擎,支持秒级响应与大规模数据导入,显著提升查询效率与系统稳定性,助力实时化、智能化运营升级。
952 14
货拉拉用户画像基于 Apache Doris 的数据模型设计与实践
|
SQL 人工智能 自然语言处理
数据 + 模型 驱动 AI Native 应用发展
随着人工智能技术的飞速发展,从生成式人工智能(GenAI)到自主代理人工智能(Agentic AI)的演进,企业面临着构建 AI Native 应用的机遇与挑战。本文将深入探讨 AI 开发模式的转变、企业应用的挑战以及技术架构和开发工具的应用,旨在为读者提供一个全面的视角,以理解如何利用数据和模型驱动 AI Native 应用的发展。
613 0
|
10月前
|
SQL 存储 运维
企业落地 ChatBI,如何构建可信可靠的数据底座?
传统宽表架构在数据口径一致性、维护成本和灵活性上已难以支撑企业级 ChatBI 的规模化应用,而基于 NoETL 明细语义层的方案正成为新一代数据底座的主流选择。
|
Java Maven
org.yaml.snakeyaml.scanner.ScannerException: while scanning for the next token found character ‘@‘ t
org.yaml.snakeyaml.scanner.ScannerException: while scanning for the next token found character ‘@‘ t
1579 0
|
存储 消息中间件 Kafka
Confluent 首席架构师万字剖析 Apache Fluss(二):核心架构
原文:https://jack-vanlightly.com/blog/2025/9/2/understanding-apache-fluss 作者:Jack Vanlightly 翻译:Wayne Wang@腾讯 译注:Jack Vanlightly 是一位专注于数据系统底层架构的知名技术博主,他的文章以篇幅长、细节丰富而闻名。目前 Jack 就职于 Confluent,担任首席技术架构师,因此这篇 Fluss 深度分析文章,具备一定的客观参考意义。译文拆成了三篇文章,本文是第二篇。
1207 20