类目筛选
2024-11-21
1402
剖析大模型连“Strawberry”的“r”都数不对的原因
本文将从两个常见的大模型翻车问题入手解析这些问题背后体现的大模型技术原理，并解释了为什么会导致这些问题，接着我们利用CoT（思维链）方法解决这些问题并基于上述原理试图剖析CoT方法起作用的可能原因，最后提出【理由先行】风格这一简单有效的Prompt Trick。
1,402
2024-12-02
331
智保未来：国泰产险的 AI 网关革新之旅
通过阿里云云原生 API 网关在国泰落地，目前国泰所有访问大模型的流量均通过阿里云云原生 API 网关进行代理，在日均消耗近亿 Token 的同时，做到了对每个请求都进行敏感信息过滤，不论是输入大模型的内容还是由大模型产生的内容都进行了全面审计，大大降低使用大模型的数据安全风险。通过网关的 AI 插件，国泰产险做到了每个 Token 都知道是谁在用，用在哪个场景，给后续分析和成本管控提供了坚实的数据支撑。
331
2022-07-18
404
Dubbo3 StateRouter下一代高效流量路由机制
目前 MSE 服务治理的 离群实例摘除、标签路由、金丝雀发布、全链路灰度等功能已经使用该路由方案，经过我们的压测与演练，在CPU、RT等方面均有不少提升，以 Demo 应用为例 (服务调用的跳数为2，下游30节点，每个节点1c2g) 其中调用 RT 提升约 6.7%。
404
2024-05-15
420
倚天测评|倚天云服务器初次体验
随着云计算技术的快速发展，云服务器在各个领域得到了广泛应用。其中，倚天云服务器以其独特的CIPU架构和倚天710处理器的优势，引起了广大用户的关注。本测评报告旨在通过对倚天云服务器的实例使用、业务部署、性能测试和迁移体验等方面进行评估。
420