1.成本核算与异常预警:Token消耗逐笔拆解到每个模型、每次调用 2.推理链路可视化:每个LLM调用、工具调用、返回结果均完整记录,问题定位有据可查 3.调用来源身份潮源:明确每次请求的发起方与上下文边界,识别每次调用的发起用户与会 话,区分正常请求与异常行为 4.合规审计与风险识别:高危命令执行、敏感文件访问、外发请求都有完整会话级记录,出 现问题可还原行为链、留存证据
孙玉梅|阿里云云原生应用平台技术专家
云原生可观测基于Prometheus、Grafana 、OpenTelemetry 等核心产品, 形成指标、链路存储分析、异构数据源集成的数据层, 通过标准PromQL和SQL提供大盘展示、告警与探索能力。