PAI-Rec的RealTimeU2IRecall 如何使用内置的i2i 缓存功能

简介: `RealTimeU2IRecall` 内置物品级本地LRU缓存(I2ICacheSize/I2ICacheTime),对trigger item的相似商品列表进行内存缓存,命中即用、未命中批量查FeatureStore并写入负缓存,兼顾实时性与性能,显著降低下游查询压力。

概述

RealTimeU2IRecall 内置了 I2I(物品到物品)缓存功能,可以对 trigger item 的相似 item 列表进行本地内存缓存,在保留用户行为实时性的同时,减少 FeatureStore 的查询压力。


配置方式

RecallConfsRealTimeUser2ItemDaoConf 中添加 I2ICacheSizeI2ICacheTime

{
   
  "RecallConfs": [
    {
   
      "Name": "realtime_u2i",
      "RecallType": "RealTimeU2IRecall",
      "RecallCount": 200,
      "RealTimeUser2ItemDaoConf": {
   
        "UserTriggerDaoConf": {
   
          "FeatureStoreName": "fs_pairec",
          "FeatureStoreViewName": "user_behavior_seq",
          "ItemCount": 20,
          "TriggerCount": 10,
          "EventWeight": "click:1.0;buy:3.0",
          "WeightExpression": "1.0 / (1.0 + (currentTime - eventTime) / 3600.0)"
        },
        "Item2ItemFeatureViewName": "item_i2i_table",
        "I2ICacheSize": 100000,
        "I2ICacheTime": 3600
      }
    }
  ]
}

配置字段说明

字段 类型 说明
I2ICacheSize int I2I 缓存的最大条目数(LRU 本地缓存),设为 0 或不设则不启用
I2ICacheTime int 缓存过期时间(秒),默认 3600 。保证i2i数据凌晨更新,则影响不大。

缓存工作原理

执行流程

用户请求
  ↓
1. 从 FeatureStore 读取用户行为序列
   → 得到 trigger item 列表(如 [itemA, itemB, itemC])
  ↓
2. 对每个 trigger item,查 I2I 缓存:
   - cache.GetIfPresent("itemA") → 命中:直接用缓存的相似 item 列表
   - cache.GetIfPresent("itemB") → 未命中:加入待查询列表
  ↓
3. 对未命中缓存的 trigger item,批量查 FeatureStore 的 I2I 表
  ↓
4. 查到的结果写入缓存:
   cache.Put("itemB", "sim_item1:0.9,sim_item2:0.8,...")
  ↓
5. 如果某个 trigger item 在 I2I 表中无数据,写入空值(负缓存):
   cache.Put("itemX", "")

核心逻辑说明

  • Cache Key:trigger item 的 item_id
  • Cache Value:该 item 的相似 item 列表,格式为 item_id1:score1,item_id2:score2,...
  • 负缓存:如果某个 trigger item 在 I2I 表中查不到数据,会写入空字符串,避免每次都去查 FeatureStore
  • 缓存类型:本地内存 LRU 缓存(基于 cache.New),不依赖外部 Redis

与 BaseRecall 用户级缓存的对比

RealTimeU2IRecall 支持两层缓存,它们作用在不同层级:

维度 BaseRecall Cache(用户级) I2I Cache(物品级)
Cache Key CachePrefix + user_id trigger_item_id
缓存内容 该用户的最终召回结果 某个 item 的相似 item 列表
缓存位置 外部 Redis 或本地缓存 本地内存 LRU 缓存
适用层级 跳过整个召回流程 只跳过 I2I 表查询,trigger 仍实时获取
实时性影响 牺牲实时性(整体缓存) 保留实时性(trigger 实时,只有 I2I 关系缓存)
配置字段 CacheAdapter / CacheConfig / CachePrefix / CacheTime I2ICacheSize / I2ICacheTime

两层缓存配置示例

如果同时启用两层缓存:

{
   
  "RecallConfs": [
    {
   
      "Name": "realtime_u2i",
      "RecallType": "RealTimeU2IRecall",
      "RecallCount": 200,
      "CacheAdapter": "redis",
      "CacheConfig": "{\"redisName\": \"your_redis_name\"}",
      "CachePrefix": "rt_u2i_",
      "CacheTime": 60,
      "RealTimeUser2ItemDaoConf": {
   
        "UserTriggerDaoConf": {
    ... },
        "Item2ItemFeatureViewName": "item_i2i_table",
        "I2ICacheSize": 100000,
        "I2ICacheTime": 3600
      }
    }
  ]
}

执行顺序:

  1. 先查 用户级缓存(Redis),命中则直接返回
  2. 未命中 → 实时获取用户 trigger → 对每个 trigger 查 I2I 缓存(本地内存)
  3. I2I 缓存未命中的 → 查 FeatureStore → 写回 I2I 缓存
  4. 最终结果写回用户级缓存(Redis)

推荐配置

场景 I2ICacheSize I2ICacheTime 说明
I2I 数据每天更新 10000 ~ 50000 3600 ~ 7200 覆盖热门 trigger item
I2I 数据小时级更新 5000 ~ 20000 600 ~ 1800 平衡实时性和缓存效果
item 池较小 覆盖全量 item 1800 ~ 3600 几乎消除 I2I 查询
高 QPS + FeatureStore 压力大 尽量大 1800 有效保护下游

注意事项

  1. 内存占用:I2I 缓存是本地内存缓存,I2ICacheSize 设置过大会增加内存占用。每个缓存条目大约占用几百字节到几 KB(取决于相似 item 数量)
  2. 多实例不共享:本地缓存在每个引擎实例独立维护,不同实例的缓存不共享,冷启动时各实例需要独立预热
  3. 负缓存:I2I 表中查不到数据的 item 也会被缓存(空字符串),避免重复查询。如果 I2I 数据后续补充了,需等缓存过期后才能生效
  4. 与用户级缓存的关系:建议只启用 I2I 缓存,不启用用户级缓存,这样可以保留用户行为的实时性
相关文章
|
2月前
|
机器学习/深度学习 分布式计算 搜索推荐
PAI-Rec 召回引擎:构建高性能推荐系统的核心引擎
PAI-Rec是阿里云智能推荐平台的核心召回引擎,经阿里大规模场景验证。支持多路召回融合(U2I/I2I/向量/随机)、召回即过滤、毫秒级实时更新与分布式弹性架构,开箱即用,助力企业构建毫秒级、高精度、强实时的推荐系统。
340 9
|
21天前
|
人工智能 Cloud Native Apache
Flink Forward Asia 2026 官宣深圳|From Cloud Native to AI Native
Flink Forward Asia 2026将于6月26–27日首次落地深圳,主题为“实时数据,智能未来”。大会聚焦Flink从Cloud Native迈向AI Native的演进,发布Flink 2.0、Paimon 2.0、Fluss 1.0及Flink Agents等重磅进展,并联合NVIDIA、阿里云共探实时AI与多模态流处理。免费报名中!
341 1
|
7天前
|
数据采集 存储 算法
视频 RAG 中分块策略:基于停顿、滑动窗口与基于 LLM 的方法
本文探讨视频RAG中的核心挑战——如何为无时间结构的视频转录文本设计有效分块策略。对比传统文本分块,提出基于停顿、重叠窗口、递归切分及LLM驱动的主题分块四层方案,实现细粒度检索与全局理解兼顾,提升视频内容检索准确性与上下文完整性。
122 13
视频 RAG 中分块策略:基于停顿、滑动窗口与基于 LLM 的方法
|
4天前
|
人工智能 安全 决策智能
欢迎报名丨2026 Agentic AICon—智能体基础设施与 AgentOps 专场,邀您参会
6 月 5 日上海,2026 Agentic AICon「智能体基础设施与 AgentOps」专场,聚焦 Agent 规模化落地的基础设施层,覆盖从构建、部署到规模化运行的全生命周期,为企业智能体工程化落地提供完整路径。
|
2月前
|
机器学习/深度学习 自然语言处理 iOS开发
Feature Generator(FG)特征算子配置指南
本文档全面介绍Feature Generator(FG)的各类特征算子配置方法,涵盖基础(ID/原始特征)、计算(表达式)、交叉(组合)、查找(Lookup/Match)、文本(重叠/BM25)、序列、预处理(分词/归一化)及字符串处理(正则替换/切片)等9大类算子,附详细配置示例与说明。
379 9
|
2月前
|
机器学习/深度学习 JSON 自然语言处理
PAI-Rec 特征工程全解析:统计特征、实时特征、序列特征与 FG 特征算子
PAI-Rec是阿里云智能推荐的特征工程解决方案,支持离线统计、实时及序列特征自动衍生,并通过Feature Generator(17种内置算子)保障离线/在线特征一致性,大幅降低开发与维护成本。
502 9
|
8天前
|
机器学习/深度学习 人工智能 网络架构
深度解析:Transformer 的“灵魂”——QKV 变换的物理直觉
本文用图书馆检索等生活隐喻,从物理意义与认知科学角度解析Transformer中QKV设计的精妙本质:解耦查询(q)、键(k)、值(v)三重角色,实现语义分离、避免自注意力“自恋”,模拟人类动态信息路由的认知过程。(239字)
198 13
|
2月前
|
人工智能 安全 API
深度解析 Claude Code 在 Prompt / Context / Harness 的设计与实践
文章内容基于作者个人技术实践与独立思考,旨在分享经验,仅代表个人观点。
3231 75
深度解析 Claude Code 在 Prompt / Context / Harness 的设计与实践
|
6天前
|
前端开发
记忆面包:QoderWork CN 把厚书读薄
本案例基于阿里QoderWork CN桌面应用,通过安装“UI设计”技能,将学习笔记一键转化为含填空、选择、判断等题型的交互式复习卡片,支持HTML导出,大幅提升备考效率。
377 9
|
2月前
|
存储 人工智能 安全
深度解析 OpenClaw 在 Prompt / Context / Harness 三个维度中的设计哲学与实践
本文的核心思路是从Prompt、Context和Harness这三个维度展开,分析OpenClaw的设计思路,提炼出其中可复用的方法论,来思考如何将这些精华的设计哲学应用到我们自己的Agent系统设计和业务落地中去。(文章内容基于作者个人技术实践与独立思考,旨在分享经验,仅代表个人观点。)
1847 41
深度解析 OpenClaw 在 Prompt / Context / Harness 三个维度中的设计哲学与实践