把监测数据接进数仓:分层与字段

简介: 本文提出AI回答数据入仓的三层分层架构:ODS存原始回答(只追加)、DWD做归一化与实体标注(按分区覆盖)、ADS产出带版本号的指标聚合。每层职责清晰、可独立重放,支持口径变更回溯与全链路核查,兼顾可复算性与工程可控性。(239字)

结论先说:把 AI 回答监测数据接进数仓,三层就够:ODS 存原始回答不动,DWD 做归一化、去重与实体标注,ADS 出指标聚合。三层各有一组关键字段和分区键;增量按采集批次落 ODS,回灌按分区覆盖 DWD,口径变更用版本号沿链路回滚到 ADS。分层不为层数,为每层都能单独重放。

这里说的「数仓分层」,指的是把采集下来的原始回答、归一后的明细、聚合后的指标,按改造成本拆成三层存放:越往下越接近原始、越少加工,越往上越接近口径、越能重算。每层只做一类事,上一层不回头改下一层。

本文只讲分层与字段:三层各放什么、关键字段怎么定、分区键怎么选、增量和回灌怎么走、口径变更怎么回溯。文中条数和比例都是假设值,只用来演示字段口径。

一、为什么不能一张大表装完

我最初把采集结果塞进一张表:一行里既有回答原文,又有清洗后的链接和按天算好的指标。两周后遇到三个问题。

一是清洗逻辑一改就全表重扫;二是同一行既是事实又是结论,指标算错说不清哪一步错;三是口径一变历史行被覆盖,想比两版口径已找不到旧数据。

三层分离解决的就是这三件事:ODS 保留事实,DWD 承担改造,ADS 承载口径。改造错了重跑 DWD,口径变了重算 ADS,原始回答等在 ODS 里。

二、三层各放什么

层:放什么 | 粒度 | 分区键 | 更新方式
ODS:原始回答、来源列表、抓取上下文 | 一条回答一行 | 采集日 + 批次 | 只追加,不改写
DWD:归一化回答、去重明细、链接归一、实体标注 | 一条有效回答一行 | 采集日 + 平台 | 按分区覆盖回灌
ADS:指标聚合(条数、带链接数、域名数) | 指标 × 维度组合 | 口径版本 + 统计日 | 由 DWD 重算

ODS 只做一件事:把这一轮采集原样落下来。问法原文、平台键、抓取时刻、回答正文、来源列表、采集状态都放这里,字段不改。

DWD 承担全部改造。它只收有效回答,落四类标记:是否有效、是否重复、链接归一、实体标注(主体、其他主体、无法判断)。这层重算最勤。

ADS 只放指标。每行是「指标名 + 维度 + 分子 + 分母 + 口径版本」,不存明细,也不接受手改。

三、每层的关键字段

ODS 必填字段我压到七个:run_id、抓取时刻(带时区)、问法原文、问法集版本、平台键、回答正文、来源列表,再加采集状态,把成功、空回答、失败分开。

DWD 的关键是三个 id:answer_id 用内容 hash 加批次生成,重复抓到的同一条能合并;url_norm 存归一链接,域名单独抽字段;entity_tag 存实体标注,标注规则带版本号。ADS 则要求分子分母同时落,只存比例换个人无法复算。

-- ODS:只追加
CREATE TABLE ods_answer (run_id TEXT, fetched_at TIMESTAMPTZ, question TEXT,
question_ver TEXT, platform TEXT, answer TEXT, sources JSONB, fetch_status TEXT,
dt DATE) PARTITION BY RANGE (dt);
-- DWD:按分区覆盖回灌
CREATE TABLE dwd_answer (answer_id TEXT, platform TEXT, is_valid BOOLEAN, is_dup BOOLEAN,
url_norm TEXT, domain TEXT, entity_tag TEXT, tag_ver TEXT, dt DATE) PARTITION BY LIST (dt);
-- ADS:分子分母 + 口径版本
CREATE TABLE ads_metric (metric TEXT, dim_key TEXT, numerator BIGINT, denominator BIGINT,
caliber_ver TEXT, stat_date DATE) PARTITION BY LIST (stat_date);

四、分区键与增量回灌

分区键按最常用的过滤条件选:ODS 用采集日加批次,回查总按轮次;DWD 用采集日加平台,回灌常按平台切;ADS 用口径版本加统计日,两版口径要能并排看。

增量我只写新分区:新数据落新 dt,不动历史分区,这决定重算成本的上界。

回灌我按分区覆盖,不按行更新。假设一轮采集落 12,000 条回答,其中 360 条带被引链接;链接归一规则变了,我只重算 DWD 受影响分区,ODS 不动。覆盖前我会备份,失败能整区退回。

五、口径变更怎么回溯

口径变更我按四步走:先给新口径升版本号;再从 ODS 重放 DWD 分区;再用新版本重算 ADS;最后两版并列出数,旧版冻结保留。

回溯方向相反:任取一个 ADS 指标,我先找到口径版本和分子分母,再按维度回查 DWD 明细,最后用 answer_id 回查 ODS 原始回答。这条链路通,指标才敢对外讲。

硬规矩一条:ADS 数字不许手改。算错就修 DWD 或改口径版本重算,手改一次,下次重算就对不上。

六、五个能立刻做的检查

第一步,冻结 ODS 字段与分区键,只追加。

第二步,在 DWD 落四类标记:是否有效、是否重复、链接归一、实体标注。

第三步,ADS 每个指标存分子、分母与口径版本。

第四步,回灌前备份分区,回灌后校验。

第五步,我会抽一个 ADS 数字,按版本、明细、原始回答查回去。

七、三个绕不开的反问

问:为什么不直接从 ODS 算指标?
答:能算,但不能复用。 ODS 混着空回答和失败记录,每次算指标都要重写清洗逻辑;口径一变,同一段逻辑改两次。

问:DWD 要不要再存一份原始正文?
答:存引用,不存副本。 原始正文留在 ODS,DWD 存 answer_id 与归一结果,回查时 join 回去。

问:口径变更时旧数据怎么办?
答:旧版冻结、新版重放。 两版并列出数,不做原地覆盖;能并排才谈得上比较。

八、边界

这套分层我承诺三件事:每层单独重放、每个字段可核对、每个指标能回查到原始回答。字段名可改,每层留一个可回溯 id。

数据源:本文为方法说明,不引用真实结果;条数与比例为假设值。
查询日:无真实查询日;示例数字不绑日期。
样本:假设一轮 12,000 条回答,360 条带被引链接。
口径:回答按条计,带链接按来源列表里可点地址计。
局限:示例只演示字段与分层;流式与实时链路不在本文范围。

只写可复算的结构,不承诺任何采集结果与效果数值。

本文含 AI 辅助生成内容,经人工核实。

相关文章
|
2天前
|
人工智能 数据库
给每轮采集留一份可回溯快照:路径、清单与校验
本方案提出「可回溯快照」机制:每轮采集结束,必落三要素——固定根目录、含8项元数据(run_id、时区时间、问法集版本等)的manifest.json、全文件sha256校验清单。确保可复算、可比对、可恢复,解决数据库备份无法追溯输入与环境的痛点。(239字)
|
5月前
|
人工智能 自然语言处理 监控
开源 APM 详细功能对比:SkyWalking vs Databuff
本文对比 SkyWalking 与 Databuff 在服务监控、链路追踪、拓扑、告警及 AI 问数五大核心场景的实操差异,基于双 Demo 真实界面截图与功能表,突出 Databuff 的 OTLP 原生接入、服务关系首屏、瀑布图着色、中文告警直读及自然语言智能问数等优势,助力团队面向 OTel 统一与智能化运维选型。(239字)
599 121
开源 APM 详细功能对比:SkyWalking vs Databuff
|
26天前
|
编解码 自然语言处理 数据可视化
2026 年 Qwen-image-3.0 能力解读:新版通义千问,核心特性、底层架构与实战应用教程
在AI图像生成赛道持续迭代的阶段,图像模型早已不再只追求画面的美学效果,能否稳定生成包含可读文字、复杂版面布局、符合现实物理细节的图片,成为判断模型生产价值的关键指标。早期文生图模型普遍存在文字错乱、小字模糊、长提示词理解断裂、多元素版面逻辑混乱等痛点,在试卷排版、报刊版面、产品说明书、网页界面设计这类强文字依赖场景中很难落地。Qwen-image-3.0作为第三代图像生成基础模型,围绕“内容丰实、细节真实、知识厚实”三大方向完成全面升级,将图像生成从创意绘图工具升级为能够承接企业内容生产需求的多模态生产力底座,本文将从模型定位、技术架构、六大核心功能、提示词设计方法、多语言API调用以及高频
311 1
2026 年 Qwen-image-3.0 能力解读:新版通义千问,核心特性、底层架构与实战应用教程
|
17天前
|
人工智能 监控 API
阿里云千问大模型免费使用攻略:网页端体验 + API 调用完整实操教程
千问大模型的免费体验分为网页端和API新人额度两条路径。普通用户通过网页端零配置即可完成文档解析、问答创作;开发者领取API免费Token,通过curl、Python脚本实现模型调用,完成原型开发。使用过程中,开启额度用尽自动停止是重中之重,可以规避意外扣费风险。整套方案可以帮助零基础用户低成本熟悉大模型能力,完成学习、创意创作、AI原型验证等各类需求。
647 1
|
20天前
|
缓存 测试技术 API
通义千问Qwen3.8-Flash架构解析:GDN+QSA混合注意力原理与企业应用教程
综合来看,新版通义千问Qwen3.8‑Flash的核心优势在于百万上下文高速预填充、多模态理解、轻量化推理成本,MoE稀疏混合专家架构兼顾模型能力、推理速度与调用开销,适配批量文档处理、代码工程、多模态智能体等高并发业务场景。在实际开发使用时,需要结合业务场景选择是否开启思考模式,合理设计工具描述,做好上下文管理与异常处理,充分发挥模型高速长文本与跨模态推理能力,同时做好Token用量管控,平衡应用效果与调用成本。作为面向高并发业务的高速多模态基座模型,它可以大幅降低大规模智能体应用的开发成本,支撑企业级批量文档分析、自动化智能体项目落地。
178 3
|
19天前
|
数据采集 人工智能 自然语言处理
从0到1:一家南阳小公司的GEO实战记录
通过GEO(生成式引擎优化)策略,三个月内将核心关键词在AI对话平台中的引用率从0跃升至67%。案例验证:小企业可借高质量、本地化、结构化知识内容,绕过传统SEO资源壁垒,成为大模型可信信源。(239字)
|
20天前
|
缓存 BI 测试技术
2026通义千问Qwen3.7-Max全解:Agent智能体底座,架构拆解与API实操教程
随着智能体应用快速落地,面向长周期自主任务的大模型成为开发选型的重点,新版通义千问Qwen3.7‑Max作为旗舰文本大模型,主打Agent智能体底座能力,在复杂推理、工程代码开发、超长文档处理、多轮工具调用等方面进行大规模优化,能够支撑长时间连续自动化任务。很多开发者在初次接触该模型时,容易混淆它与同系列其他版本的能力差异,不清楚MoE混合专家架构的运行逻辑,在API接入、工具调用编排时遇到参数配置、返回格式异常等问题。本文将从核心功能、底层技术架构、实操使用方法三个维度完整解析Qwen3.7‑Max,附带可直接运行的API调用代码,讲解参数配置方法,梳理开发过程中的限制条件与避坑要点,帮助开
463 2
|
20天前
|
缓存 JSON API
通义千问Qwen3.7-Flash技术手册:百万级长文档处理、编程能力与API接入教程
综合来看,新版通义千问Qwen3.7‑Flash的核心优势在于百万上下文高速预填充、多模态空间感知、轻量化推理成本,MoE稀疏混合专家架构兼顾模型能力、推理速度与调用开销,适配批量文档处理、代码工程、多模态智能体等高并发业务场景。在实际开发使用时,需要结合业务场景选择是否开启思考模式,合理设计工具描述,做好上下文管理与异常处理,充分发挥模型高速长文本与跨模态推理能力,同时做好Token用量管控,平衡应用效果与调用成本。作为面向高并发业务的高速多模态基座模型,它可以大幅降低大规模智能体应用的开发成本,支撑企业级批量文档分析、自动化智能体项目落地。
168 1
|
21天前
|
存储 人工智能 弹性计算
阿里云服务器新购、续费、升级活动:38元轻量,新购续费同价+优惠券补贴等热门活动介绍
2026年阿里云云服务器优惠政策趋于多元化、精准化与长期化:以38元轻量服务器、99元e实例、199元u1实例构成入门锚点,以"新购续费同价"消除长期成本不确定性,并以1至5年阶梯折扣(最低2.4折)鼓励深度承诺,叠加优惠券、达量返券、学生券等工具。成本优化关键不在抢最低价,而在读懂优惠边界与互斥规则,找到匹配自身节奏的最优组合。
|
2月前
|
SQL 人工智能 安全
AI 都会写代码了,还要不要学传统编程了? (强烈建议阅读)
AI时代是否还需学编程?狂师指出:非技术人重在“会用”——懂基础概念、能说清需求、会简单验收;技术人则必须“会判”——语法基础不能丢,但重心转向读懂AI代码、判断质量与风险。写交给AI,责任留给人。
289 1
AI 都会写代码了,还要不要学传统编程了? (强烈建议阅读)

热门文章

最新文章