我们的 AI 链生产平台将不同于现有以代码为中心的开发环境,因为 AI 链将由很多没有计算机和编程背景的人开发。因此,我们的最高设计准则是 “以人为本”,体现在三个方面:首先,我们将 “提示客剑谱”(AI 链工程方法学)无缝地物化到 Sapper IDE 中,使任何人都能有效地应用最佳 AI 链实践和方法。其次,我们充分利用大语言模型的知识和对话能力,开发智能副驾驶(co-pilots),为非技术人员提供全过程 AI 链开发支持。第三,我们提供全过程无代码 AI 链分析、设计、开发和部署,让任何人都能轻松将创意转化为 AI 服务。我们的 AI 链 IDE 可谓是 “AI 服务的孵化器”,因为它的主要功能就是站在基础模型的巨人肩膀上打造 AI 服务。这些服务不仅可以直接满足人们的 AI 链开发需求,还能启发他们去探索更多可能性,并帮助他们创造出更多更优秀的 AI 服务。我们相信,这将会是一个 AI 创新无限的时代,我们的 Sapper IDE 将成为千行百业开启这一无限潜力的 “工兵铁锹”!我们在Sapper IDE已开发或正在开发多样的AI服务演示,涉及教育,职业培训,创意写作,游戏,软件工程等多个领域。我们也欢迎社区用Prompt Sapper创作更多的创意AI服务,并分享到我们的AI服务市场。探索视图(Exploration View)
探索视图支持任务探索和初步设计阶段的活动,允许用户获得大致的任务模型,了解任务挑战,以及初步了解任务步骤、工作流、输入 / 输出数据和提示有效性。如图所示,探索视图的左侧部分是一个聊天机器人(目前封装 GPT-3.5 API),其工作方式与普通聊天机器人(例如,ChatGPT )相同。聊天机器人允许用户与大型语言模型(LLM)进行任何类型的对话。当然,我们假设用户将围绕他们需要开发的 AI 服务进行交谈。与普通聊天机器人不同,探索视图配备了一个基于 LLM(大型语言模型)的副驾驶员,该副驾驶员会自动收集和分析用户与 LLM 之间的对话,以获取可能与后续 AI 链分析、设计和开发相关的任务背景(例如,所需要的功能、用户偏好、需要避免的事项等)。这个副驾驶员本身就是是基于 LLM(目前为 GPT-3.5)构建的 AI 链服务。它以一种不干预的方式工作,并根据用户和 LLM 之间的对话动态记录笔记,如图右侧的 Task Note 面板所示。设计视图(Design View)
设计视图支持设计阶段的主要活动,并在探索和构建阶段之间起到承上启下的重要作用。因此,它具有两个主要功能:需求分析和 AI 链框架生成,分别由两个基于 LLM 的副驾驶员提供支持。与探索视图中的非干预式副驾驶员不同,设计视图中的两个副驾驶员会积极与用户互动,协助他们进行需求分析和 AI 链框架生成。需求分析设计视图的左侧是一个基于 LLM 的需求分析聊天机器人(另一个 AI 链服务)。与探索视图中的自由式聊天机器人不同,需求分析聊天机器人充当不间断的逆向提问者角色,他的工作方式如下:1) 用户在询问框中输入任务描述(通常是对所需内容的模糊描述)以开始对话。2) 需求分析聊天机器人根据初始任务描述和探索视图中收集的任务笔记(如果有),通过一系列开放式问题引导用户明确具体任务需求。3) 需求分析聊天机器人会将用户每轮的回应逐步整合到任务描述中(显示在右上角的任务需求框里)。当然,如果用户认为他已经有了明确的需求,不需要需求分析聊天机器人的帮助,他可以直接在任务需求框中输入需求。AI 链框架生成当用户认为任务需求已经清晰明确时,可以点击任务需求框下方的 “Generate AI Chain Skeleton” 按钮,请求 AI 链框架生成副驾驶生成完成任务所需的主要步骤以及每个步骤的三个候选提示。“Generate AI Chain Skeleton” 工作方式如下:1) 将任务总体描述转换为主要步骤,并为每个步骤提供名称和描述。2) 为每个步骤推荐三个候选提示,用户可以在此基础上自行修改。3) 用户可以手动添加控制流、删除或重新排序步骤等操作。4) 用户可以使用结构化表单编辑生成的提示,设置步骤的输入和执行引擎。通过这个流程,用户可以方便地生成 AI 链的框架,以及对生成的框架进行进一步的修改和完善。最后点击设计视图右下角的 “Generate AI Chain” 按钮,SapperIDE 将根据 AI 链框架自动为每个步骤创建工作者并把他们组装一个基于积木块的 AI 链,可以在编程视图中查看、编辑和执行。编程视图(Block View)
我们使用基于积木块的可视化编程来支持 AI 链的实现、执行和调试。当前的实现是基于开源的 Blockly 项目。在左侧面板中,用户可以访问 Units、Code、Prompts、Variables 和 Engines 工具箱中的积木块用以构建 AI 链。相关积木块介绍请访问我们的文档(https://www.aichain.online/public/content%20pages/sapperide/blockview.html)。 为了使用户建立和修改工作者更加直观,所有可视化编程操作都可以直接在工作者 / 容器块上触发。单击插槽右侧的 "+" 图标可以直接添加或编辑插槽对应的积木块。用户可以从工具箱中拖放块模板将块添加到 AI 链编辑器中,通过在编辑器中拖放块来组装块。用户可以通过单击编辑器右侧的 “+”、“-” 和 “aim” 按钮来缩放编辑器或将所选块放置在编辑器中心。用户可以通过 “AI Chain Execution” 菜单运行或调试 AI 链。当工作者正在运行时,工作者块左上角的 “bug” 信号灯将亮起。工作者执行期间使用的实际提示和引擎输出将输出到块控制台(Block Console)。执行所需的用户输入将在块控制台中输入。在调试模式下,工作者将一个接一个地执行。当前工作者完成运行时,执行将被暂停,用户可以检查块控制台中的输出是否符合预期。如果结果符合预期,则可以继续执行下一个工作者。或者,用户可以在提示控制台(Prompt Console)中修改当前工作者的提示,然后重新运行当前工作者。如果将工作者块放置在输出块中,则其输出将显示在右下角的输出窗口中。此窗口不会显示未放置在输出块中的工作者的输出,也不会显示提示。块控制台用于帮助 AI 链工程师调试 AI 链,因此包含提示信息和中间执行结果。右下角的输出窗口允许工程师检查最终用户将看到的 AI 链输出。提示中心(Prompt Hub)
Sapper IDE 的 Prompt Hub(提示中心)提供了一个集中式的提示管理系统,让用户在 AI 链项目之间轻松共享和重用提示。通过 Prompt Builder(提示生成器)和 Prompt Base(提示库)工具箱,用户能创建、编辑、导入和导出提示,使 AI 链项目开发更高效、便捷。用户可以通过四个方面:上下文、指令、示例和输出格式,以结构化方式创建或编辑提示。这有助于实现更准确的 AI 链项目功能。未来的设计视图将允许用户搜索提示库或获得自动提示推荐,进一步提高开发效率。Prompt Hub 还支持将提示下载到本地文件或从本地文件上传到 IDE,方便在不同设备间同步提示信息。引擎管理(Engine Management)
引擎管理功能让用户在 AI 链项目之间轻松共享和重用各类引擎,如基础模型、传统机器学习模型(目前在开发中,敬请期待)和外部 API。IDE 内置了三个基础模型:gpt-3.5-turbo、text-davinci-003、DALL-E,以及 Python 标准 REPL shell。在 FM Engines(基础模型引擎)工具箱中,用户可灵活创建和配置基础模型引擎,调整参数如 Temperature、Maximum length、Top P、Frequency penalty 和 Presence penalty。点击 “Save Engine to FM Engine”,将引擎保存以供后续编辑或导出到项目。最后,用户还可将引擎信息下载至本地文件,或从本地文件上传至 IDE。AI 链项目管理(Project Management)
通过 “Project Management” 菜单,用户可创建新的 AI 链项目,将当前项目下载到本地磁盘,或在 IDE 中打开本地磁盘上的项目。点击 “Download Code” 按钮,用户可将实现 AI 链的后台代码下载至本地磁盘,用于其他软件项目。注意,执行下载的 AI 链代码需要 sapperchain Python 库(目前未开源)。在“Recent Project”菜单,我们预装了一个演示项目“Hui Xiao Shi”以便于大家上手学习。用户若想开源他的 AI 链项目,可将项目分享至 AI 链市场(正在开发)。IDE 提供了一个创意副驾驶员,根据任务需求和工作者提示为项目生成简短描述和图片。现在,IDE 支持将 AI 链作为本地 Web 服务部署,便于手动部署到外部云服务器。后续我们将推出自动云服务部署功能。IDE 功能演示教程
,时长04:22
Prompt Sapper 的与众不同之处Prompt Sapper 受很多优秀项目和工具的启发,比如 ChatGPT, AutoGPT, LangChain, no-code AI,以及大量 prompt engineering 文献和工具。但我们与众不同之处在于以下三点:
人与 AI 交互光谱
1. 强调人工智能和人类用户之间的协作智能。如上图所示,它通过 AI 链无缝地将人类智能与人工智能融合,有效地解决复杂问题并实现共同目标。这种协作智能促进了整体效率的提高,降低了错误率,并赋予了人类用户充分利用人工智能潜力的能力。这种独特的方法使 Prompt Sapper 区别于现有的人类驱动的对话机器人(例如 ChatGPT)和以人工智能为主导的代理框架(例如 AutoGPT),凸显了它的创新和独特的价值主张。2. 对计算和编程技能的更低要求。Prompt Sapper 显著降低了创建符合用户需求的复杂人工智能服务的门槛。它引入了一套基于 LLM 的虚拟产品经理、架构师和提示工程师,以帮助用户获取领域知识、分析任务要求并构建 AI 链。此外,Prompt Sapper 提供直观且用户友好的界面,使用户可以轻松地与人工智能进行交互,并在不需要高级计算或编程技能的情况下原型化 AI 功能。这种方法扩大了从人工智能进步中受益的人群,突显了 Prompt Sapper 在人工智能领域中的独特地位。3. 系统的 AI4SE4AI 框架。Prompt Sapper 高度重视软件工程和人工智能的紧密集成,致力于创建一个系统化的 AI4SE4AI 框架。在这个框架内,Prompt Sapper 利用人工智能技术,显著提高软件工程过程的效率,例如需求分析、AI 链设计、构建和测试。同时,Prompt Sapper 遵循和扩展了软件工程的最佳实践,以适应由 AI 2.0 和软件 3.0 推动的新软件环境。这个 AI4SE4AI 框架不仅大大提高了人工智能服务的开发效率和项目质量,还支持灵活的服务重用和组装,以及持续改进和优化人工智能服务,以满足不断变化的需求。下面表格总结了 Prompt Sapper 与重要相关技术的对比,详情请参阅我们的文档(https://www.aichain.online/public/content%20pages/sappervsothers.html)
AutoGPT vs. Prompt Sapper
LangChain vs. Prompt Sapper
No-code AI vs. Prompt Sapper
Prompt Engineering vs. Prompt Sapper
展望未来我们处于一个令人激动的 AI 和软件工程信息时代,我们共同见证着科技进步如何改变世界。Prompt Sapper 携手基础模型和软件工程,将不断探索 AI 链工程的最佳实践和方法学,推动着 AI 链工程的发展和普及。我们计划采用 “走出去” 和 “引进来” 的方式来打通 AI 链开发和终端用户之间的最后一公里,将 AI 链工程方法学、工具和实践带给更多的开发者和用户,并推动 AI 服务市场和生态系统的发展。我们相信,AI 链工程将会成为未来的核心技术之一,广泛应用于各个领域和行业,为人类创造更多的价值和福利。我们可以想象到,AI 链将能够帮助我们更快速地解决问题,提高工作效率,提供更加个性化的服务,同时推动社会经济迈向更加智能化的未来。