9月22日,在云栖大会现场,阿里巴巴 ATH 事业群 Qoder 产品负责人刘洋洋(花名:额台)带来主题演讲《Qoder Agent SDK 全面开放,把 Harness 交给每一个行业》。
Qoder Agent SDK 自 8 月 11 日低调上线以来,受欢迎程度远超团队预期。刘洋洋在演讲中首次系统分享了 Qoder 对 Harness 与 Agent 的思考,提出“单次任务成功交付的成本”这一内部北极星指标,并宣布将支撑 Qoder 全系产品的 Agent SDK 向全行业开放。
以下是演讲全文:
尊敬的各位嘉宾、各位专家、各位开发者,大家下午好。
Agent SDK 其实是 Qoder 的一个产品。8 月 11 号的时候,我们很低调地把它发布到了 Qoder 官网,后来它受欢迎的程度,其实超出了我们当时的预计。等会儿我的片子后面,也会重点讲几个非常重磅的合作伙伴跟我们的合作案例,也是首次跟大家分享。
在这之前,我们先来聊一聊什么是 Qoder 的 Harness。
从 Prompt Engineering 到 Harness:Agent 竞争的转向
两三年前我们做 Agent 其实比较简单,当时讲叫 Prompt Engineering。因为那个时候大模型可以做的应用形态非常有限,就是对话或者文本处理,把 Prompt 结构化地整理好、让 Prompt 把这个问题回答掉就可以了。
后来是 Context Engineering。随着编码、随着大量基于知识的处理,我们开始讲 Context。
但是今天发现,没有一个词可以很技术化地概括 Agent 到底要怎么做。因为随着模型能力的发展、随着 ReAct 这样的落地,我们发现大模型可以做的事情越来越多了。不管是 Coding,还是今天我们讲的不止编程,扩展到各种各样的工作、娱乐、教育、生产这样的场景,它越来越复杂。
基于此,我们有两条判断。
第一,已经发生的:Agent 的竞争,已经从模型能力,转向模型和执行系统共同完成真实任务的能力。 这是我们今天 Harness 要重点解决的问题。
第二,对未来的一个判断:Harness 的战场,正在从 Coding 走向复杂的、通用的任务,正在从个人扩展到组织。 这是下一步——从今天我们讲模型调用、工具调用、权限,到下一步多人怎么协作、人和 Agent 怎么协作。Agent 的能力边界、它的安全、它在企业和组织里大规模基于知识和协同的能力,应该是下一步要发展的方向。
北极星指标:单次任务成功交付的成本
Qoder 团队今天做 Harness 有一个非常朴素的价值观:怎么把 Harness 做好。这是我们内部最高的北极星指标,也是第一次跟大家分享——单次任务成功交付的成本。
什么是成本?以前大家的理解可能是模型和工具调用花了多少 Token、费了多少资源。
但其实时间成本、一个任务完成的效率,也是非常重要的成本。今天我们一个端到端的任务十分钟完成,跟一个小时完成,跟一天完成,是有本质的区别。
另外一个更重要的成本是什么?是人工介入的成本。人要在里面 Human in the Loop 要做的事情,或者人要来校验、人要来监督、人要来返工,这个成本其实是更高的。
把这些成本除以成功交付的任务数,我们今天要追求的是:不同的、各种场景的复杂任务,都能成功地交付。
所以这是我们内部来做 Harness 最重要的北极星指标。翻译成白话,就是用更低的综合成本,完成更多、更快、更高质量的任务交付。就是多、快、好、省。
Qoder Agent SDK:把 Harness 开放给全行业
前面讲完 Qoder 对 Agent 和对 Harness 的认知,我们其实要提供的能力、要做的事情就比较清楚了。
我认为最关键的是验证。
以前在聊 AI 的软件开发 SDLC,前面我们生成需求、生成 Spec、生成代码,其实这两年已经很好地解决了。但今天仍然还有两件事没有被很好地解决:第一个是设计,第二个就是验证和测试。为什么它很难?因为它没有非常清晰的验证的方法和标准。
验证,是我们在做 Harness——不管是 Coding、软件开发,还是通用任务——里边最最重要的,也可能是今天 AI 在工程里边最后一个要解决的难题。
Qoder 的 Harness,首先它是支撑了 Qoder 所有全系的产品。之前我们经常讲一个故事:我们之前的一个办公智能体,"五人七天"——从这个想法到最后推向市场、推向客户,五个人花了七天的时间。为什么可以做到?就是因为 Qoder 已经在 Harness 这个内核上沉淀了非常多。
这里面其实有两层意义。
第一,基于统一的基建,我们上面可以快速地去做不同的产品、面向不同场景的创新。
第二,我们这么多不同的场景、不同的任务形态、不同的用户需求,又可以反过来让这个 Harness 内核变得更丰满、变得更普适。
所以今天,我们把这个支撑 Qoder 全系产品的 Agent SDK,开放给了我们所有的行业和客户。
第一,统一的 Harness,在丰富的场景中和产品、用户协同进化。
第二,Qoder 和千问模型、以及我们其他的一些模型,是在协同进化的。 这也是我们最近几个月在跟他们密集地做很多事情,也是在这次的云栖大会上,我们首次跟外界去分享这些思考。明天 Qoder 的另一个分会场,我会重点去讲我们跟模型在协同进化上做的一些事,也是首次的对外分享。
如果个人或者企业想要集成 Qoder 的 SDK,要怎么做?这是一个非常简单的模型。
首先,企业自己的 Agent 应用,你来负责跟你的产品形态的定义、你的业务流程的对接、你的各种审批,以及你的数据、你的权限的东西,确保你的这个业务和产品的自定义和安全性。中间,我们的 SDK 提供所有的你需要跟大模型打交道的东西。
我们有个公式:Agent 减大模型,就是 Harness 要帮你解决的问题。
包括你的模型调用,Qoder 也提供了丰富的多模型;包括与各种工具去协同调用的能力。
再总结一下:我们的 Agent 运行时到 Agent 的执行,包括会话记忆、安全治理、模型策略,都帮企业来处理掉这些复杂的、以及需要长期演化的、快速跟技术和市场的发展去匹配的这些能力。
再讲一下 Qoder 的一个特点,就是今天我们的用户使用 Qoder 非常受欢迎的一个特点:Qoder 适配了非常多的模型。 甚至在一些 SOTA 模型,DAY0 我们就会把它推向用户。因为我们提前会跟各种模型厂商、供应商去做提前的适配,在模型发布的第一天,我们用户就可以用到——包括我们自家的千问模型,以及很多的 SOTA 模型。
同时,这个能力也会通过 SDK 提供给我们的厂商、我们的开发者,那就省掉了你去跟模型对接、或者去适配你跟模型效果的大量繁琐的工作。
刚才燎原也提到,我们其实有丰富的生态。阿里巴巴跟我们大量的专业能力的合作商、跟我们的商业服务、包括阿里的生态内部的这些服务,我们都做了非常多的集成,同样的也可以把这些能力提供给我们的客户、我们的开发者。你不需要再去从头做这么多的对接,你可以跟 Qoder 共享这些丰富的生态的能力。
四类场景:SDK 最适合用在哪里
到底什么样的场景适合用 SDK。其实最近行业里边合作最多的,有这么几种。
第一,产业智能化。 刚才我们的海信和满帮的伙伴都重点分享了这个场景。其实今天企业做 AI Native 转型,并不是说我采购足够多的工具、我 Token 管够、让大家都变成超级个体,这个企业真的他的产业流程和业务流程就会起飞。其实不是的,而是要真正的从你企业的端到端的产研和业务流程中去看,说 AI 工具在这其中可以去改变什么样的流程、改变什么样的端到端的事情。所以这个里边,我们把不管是基于 Agent SDK、还是基于我们的 CLI 或者 Head 模式去做产研的优化,这个是今天我们最普遍的一个企业需求的场景。
第二,软件 AI 化。 就今天我们市面上大量的软件,其实你会发现它在行业里的东西,再加上 AI 的能力,其实可以去给你的用户提供非常好的一些体验。包括我们各种各样的教育、娱乐生活、出行服务,这些加上我们 Agent 能力,可以帮你去快速地提供更好的体验。
第三,硬件智能化。 我们今天在硬件智能化上也开始有非常多的这样的客户需求。我们在另外的会场,我们的同事也会分享说跟眼镜、耳机这样的一些新的东西;等会儿包括我们联想的朋友,很多 AIPC、AI 手机也开始要集成 AI 的能力。这个场景其实挑战会更大:你的硬件的处理能力、你的用户对硬件的反应的时效性的要求,包括处理非常复杂的不同的场景和使用环境的挑战,也是非常大的。
第四,行业的智能体。 另外一个我觉得最有未来发展潜力的,就是行业的智能体——就在各种不同的生产生活的场景里边,怎么去通过 AI 的能力真正地提升生产的效率。我们面向不同的场景,比如说刚才养羊的场景,农业的、畜牧业的生产制造,这里面也是有非常多的可以用 AI 去变革这个行业的生产效率和服务体验的机会。
合作伙伴案例
接入 SDK 其实今天非常简单:Qoder 提供了 Python 和 TS 的 SDK,马上 Java 版本也会开放。
今天你的操作系统不管是 macOS、Windows、Linux,包括安卓的、包括类 Unix 这些,我们其实都可以提供这样的适配的方式。然后你在运行过程中,比如说怎么跟你的沙箱、跟你的企业受控的环境去对接,怎么去连接你的业务系统和用户侧的这些环境,我们也都会有对应的方案。以及我们也会提供贴身的 FDE 的帮助,来帮你去落地。
接下来我再快速地讲一下我们几个非常重磅的合作伙伴,也是首次分享。
第一,联想天禧的电脑。 会集成我们的 Agent SDK 能力,给用户提供个人的 AI 助手,等会儿我们的联想的伙伴也会重点跟大家分享。在 AIPC 这个场景里边,其实 Agent SDK 就像我刚刚说的,你要去进到用户的电脑里边来,在它的权限的受控范围内,还要去帮它处理各种各样的场景。因为今天我们的电脑是你完成工作、生活、娱乐非常重要的一个端,AI Agent 能力在这个桌面集成进去之后,它要处理的其实是非常复杂的环境的东西,并且要提供各种各样的能力。
第二,新东方。 大家可能家里有孩子的、或者自己要学习提升的非常了解。马上新东方所有的全国机构的教师也都会用上,基于 Qoder SDK 来定制的教师端的工作台——你的备课、知识、你的最新的这些行业的场景应用、你的学生的管理,都会来做这样的一个产品。
第三,客如云。 是面向数百万的餐饮商家来提供管理 SaaS 的厂商。它基于 SDK 也会给我们的中小商户来提供基于数据分析、基于你的进销存、基于最潮流的餐饮的需求和趋势,来帮你做客流分析、做业务分析,提高你的服务能力和效率。
第四,卡比特。 大家可能了解不多,但其实卡比特是今天中国在做汽车、车机和两轮车智能化一个非常重要的方案商。它基于 Qoder 的能力,在不管汽车的智能车机还是两轮车的这个智能场景、在安卓这种设备里边去做智能化。那它的挑战就是我刚才说的,在一些比较复杂的设备里边,怎么来快速地、安全地、实时地提供 AI 的能力。
第五,阿里云 AnalyticDB。 还有一个场景,就是阿里云的一个产品叫 AnalyticDB。这个场景里边它集成了 AI 能力之后,就是在数据库的运维的这个场景,在跟我们阿里云非常多的产品在互相协作、互相集成,来快速地满足像数据库运维软件这个地方的场景。马上大家在这个产品里面,其实已经可以用上 AI 这种能力了。
全面开放:从个人到组织,从 Coding 到通用任务
今天 Qoder Harness 全面开放,我们做了一些什么?
第一,会保证持续的投入,和千问模型和多模型的适配,以及跟 Qoder 全系产品去协同进化。
第二,会让 Harness 从个人走到组织、从 Coding 走到通用任务,不断地去提升它的能力。 同样的话,我们也开放了合作。
第三,不管是做产品的集成,还是行业的共创,还是生态能力的互相接入,这都是开放合作的。