【直播切片工作台】第15章:仓储层设计与任务抢占

简介: 本章详解仓储层设计规范:以`ClaimPendingByType`乐观锁抢占为核心,通过具名业务接口、SQL级状态守卫、Select限定更新、KeywordGroups统一检索及版本控制写回,保障多实例并发安全与数据一致性。(239字)

第15章:仓储层设计与任务抢占

本章总论 internal/repository:仓储接口的书写规范(注释即契约)、防误更新的 Select 限定、关键词筛选的统一抽象 KeywordGroups,以及全系统最核心的机制——ClaimPendingByType 乐观锁抢占。素材表与任务表的两套抢占实现同构,本章以任务仓储为主线。

流程

仓储层向上暴露的接口是一组具名业务操作而非通用 CRUD:TaskRepository 有 ClaimPendingByType、MarkCompleted、UpdateDraftURL;LiveMaterialRepository 有 ClaimPendingASR、UpdateASRProgress、ResetASRToPending。每个方法的注释写明前置条件与生效条件(如「仅当 asr_status=processing 且 asr_version 匹配时生效」)——仓储把状态机的守卫条件内化到 SQL 的 WHERE 子句里。

抢占流程(多实例安全的核心):

flowchart TD
    A[Worker: SELECT 最早一条 pending] --> B[UPDATE status=processing<br/>WHERE id=? AND status=pending AND version=?]
    B -->|RowsAffected=1| C[抢占成功 返回任务 执行]
    B -->|RowsAffected=0| D[被别人抢了 重试下一条<br/>最多 64 次]
    D --> A
    E[另一个 Worker] --> B

执行期的每次状态写回都带 version 条件:UpdateProgress 仅对 processing 生效;UpdateASRProgress 匹配 asr_version。这意味着即使孤儿回收把任务重置回 pending 且被新 Worker 抢走(version 已递增),旧 Worker 的迟到写入会被 WHERE 拦下,不会污染新一轮执行——注释里「避免超时回收后旧 Worker 继续写回」说的正是这个场景。

实现

任务抢占的实现要点(task_repo.go):

  • 查询选「最早创建」的 pending(隐含 FIFO 公平),LIMIT 1;
  • 抢占用单条 UPDATE ... SET status='processing', version=version+1, started_at=now() WHERE id=? AND status='pending' AND version=?,靠 RowsAffected 判定胜负——数据库行锁天然序列化并发 UPDATE;
  • claimOptimisticMaxAttempts = 64:注释解释「多 Worker 同时选中同一 pending 行时,仅一个 CAS 成功,其余需改抢下一条;上限避免极端竞争下空转」。

其余设计规范贯穿全部仓储文件:

  • Select 限定更新列:UpdateNameRemark 用 .Select("name", "remark") 并注释「确保 live_url、ASR 等字段不会被意外覆盖」——GORM 默认 Updates 会写全部非零字段,Select 是防半吊子更新事故的第一道闸。
  • 列表查询瘦身:LiveMaterial 的 List 注释「不含 live_asr 字段」(原始 JSON 可能数 MB);Task 的 List 直接读快照字段零 JOIN。
  • KeywordGroups 统一抽象(keyword_filter.go):组内 AND、组间 OR 的关键词表达式(如 "利率 债券 | 股票" 表示 (利率 AND 债券) OR 股票),任务列表匹配 video_project_name、素材列表匹配 name/remark、ASR 关键词匹配 asr_paragraphs 文本(PG 端 asr_paragraphs::text ILIKE)。一处抽象三处复用,前端搜一下统一语义。
  • Delete 的级联:LiveMaterial.Delete 注释「物理删除素材,并级联删除关联的 video_project 记录」——删除在一个事务里完成逻辑级联(弱关联的善后责任归仓储)。
  • 每个仓储都有接口定义 + 私有结构体 + New* 构造器,service 与 handler 全部面向接口(task_repo_test.go 等直接测 SQL 行为)。

📌 设计决策

  • 具名操作而非通用 Save/Find:状态机守卫进 SQL,调用方无法绕过;代价是方法数量多,但每个都可独立测试。
  • 版本条件写回(而非无脑 UPDATE):用「乐观读-条件写」替代长事务,Worker 崩溃恢复的正确性由此保证。
  • 抢占在仓储而非 Worker 实现:多实例正确性是数据层不变式,任何未来新增的 Worker 类型直接复用。

代码示例

仓储接口的注释密度——契约全在方法签名旁:

// internal/repository/task_repo.go(节选)
type TaskRepository interface {
   
    // ClaimPendingByType 多实例安全地抢占一条指定类型的 pending 任务。
    // 使用乐观锁(version CAS):将状态改为 processing 并返回;无待处理任务时返回 nil。
    ClaimPendingByType(ctx context.Context, taskType string) (*model.Task, error)
    // UpdateProgress 更新任务进度(0-100),仅 processing 状态时生效。
    UpdateProgress(ctx context.Context, id string, progress int16) error
    // MarkCompleted 标记任务成功完成,并写入最终进度与扩展字段。
    MarkCompleted(ctx context.Context, id string, progress int16, ext string) error
    // MarkFailed 标记任务失败,写入错误信息与当前进度。
    MarkFailed(ctx context.Context, id string, progress int16, errorMsg string) error
    // RequeueStaleProcessingByType 将指定类型下超时未更新的 processing 任务
    // 重置为 pending,供崩溃/重启恢复。以 updated_at 为心跳。
    RequeueStaleProcessingByType(ctx context.Context, taskType string, olderThan time.Duration) (int64, error)
}

Select 防误更新的模式(素材仓储实拍):

// internal/repository/live_material_repo.go(节选)
// UpdateNameRemark 仅更新素材名称与备注,防止误改其它字段。
func (r *liveMaterialRepository) UpdateNameRemark(ctx context.Context, material *model.LiveMaterial) error {
   
    // Select 限定更新列,确保 live_url、ASR 等字段不会被意外覆盖。
    return r.db.WithContext(ctx).
        Model(material).
        Select("name", "remark").
        Updates(material).Error
}

小结

  • 仓储 = 具名业务操作 + SQL 级状态守卫 + 瘦身列表 + 统一关键词抽象。
  • 乐观锁抢占三要素:FIFO 选择、CAS UPDATE 判 RowsAffected、版本条件写回防迟到写入。
  • 崩溃恢复链条:updated_at 心跳 → RequeueStale → 新 Worker 重抢(version 递增)→ 旧 Worker 写入被拦。

思考题

  1. 抢占重试上限 64 次后返回「无任务」,在高竞争场景下会否造成任务饿死?如何验证与改进?
  2. 若把乐观锁换成 SELECT ... FOR UPDATE SKIP LOCKED,吞吐与实现复杂度分别怎么变?

项目信息

  • GitHub仓库:live-mixer
相关文章
|
7天前
|
云安全 人工智能 运维
当攻击全面Agent化,你的安全防御能否跟上AI Speed?
多起客户侧AK泄露事件应急的真实观察
1311 6
|
5天前
|
人工智能 API 开发工具
DeepSeek Harness 神插件:白嫖 13 家大厂模型
`dsh-our-free-model` 是 DeepSeek Harness 神级插件:零配置、零API Key、零账号,聚合13家大厂免费模型(含DeepSeek V4.1 Flash、Kimi K3等),支持本地网关、用量看板与自动降级,真正实现“白嫖即用”。
|
10天前
|
存储 人工智能 安全
千问办公官网入口网页版登录:qwenwork.cn 注册送2000积分、登录送100积分
阿里云千问办公(QwenWork)是AI智能工作平台,支持一句话生成PPT、表格、网页、视频及数据分析。个人免费版送2000积分+每日登录赠100分,含1GB存储、5个发布页;企业版198元/席/月起。阿里千问办公QwenWork官网:https://t.aliyun.com/U/0VCTGt 阿里AI工作平台,一句话完成数据分析、PPT 生成、视频剪辑、网页搭建等复杂任务
|
1月前
|
人工智能 JSON API
全网刷屏的 Jev 模型正式开放!一手实战测评 + 保姆级教程
全网爆火的 Jev 模型是什么?有什么用?怎么使用?怎么接入 AI 编程工具?效果真的好么?傻子可懂的 Jev 保姆级实战教程 + 项目实战测评来啦
9965 33
|
5天前
|
人工智能 开发者
Qoder CN 大使计划正式开启|无限创造,等你一起
全年免费积分、优先内测、活动支持与更多共创机会,邀请用 Qoder 把想法变成现实的你。
523 6
|
16天前
|
存储 人工智能 并行计算
大模型本地部署终端选型方法论:以 Qwen3.8-27B 为例的四档分层完整流程
本文提出一套大模型本地部署终端选型方法论:定约束、定档位、定框架、定参数四步决策法,配合入门、主力、质量、无损四档分层模型。以 Qwen3.8-27B 实测数据为例,逐环节解读显存、带宽、存储、散热、系统、预算等要素,给出面向不同预算的优选方案、决策自查清单与市场观察框架。文末前瞻 AI 笔记本的 CPU+GPU 与统一内存两条路线,论证四步决策法在新品类上的延续性。
|
7天前
|
Web App开发 人工智能 JavaScript
太猛了,一个月干到15W+,给大家推荐一个最近爆火的开源逆向工具:REA
REA(Reverse Engineer Anything)是近期爆火的开源AI逆向工具,4月发布,1个月内斩获15万+ Star。它让AI Agent无需源码即可分析二进制、APK、JS/Electron、HAR包等17类目标,自动反编译、生成可运行代码,并强制返回带证据与局限的结论。全本地执行,MIT协议,支持Hopper/Ghidra/IDA等引擎,一行命令即可上手。
747 2
太猛了,一个月干到15W+,给大家推荐一个最近爆火的开源逆向工具:REA
|
15天前
|
人工智能 JSON 自然语言处理
2026 年 Jev 决策模型深度拆解:原理解读、实战测评与保姆级落地教程
有一款特殊AI模型在开发者圈子刷屏,它摒弃传统大模型擅长的对话聊天能力,专注做高速结构化决策,它就是TypeSafe AI推出的Jev模型。该模型由ChatGPT共同发明人Diogo Almeida主导研发,定位为**System One Model(系统一模型)**,对标人类大脑快速直觉判断的思维模式,在响应延迟、调用成本、结构化输出稳定性上相比传统生成式大模型有着巨大差异。本文会完整拆解Jev底层原理、三大核心原语能力、适用业务场景,同时提供可直接运行的curl、Python代码示例,并且结合多组实测数据,客观分析模型优势与能力边界,帮助普通开发者和AI应用从业者快速上手落地。
1069 1

热门文章

最新文章