Prompt Sapper:基础模型的灵魂伴侣,AI服务的创新工场(2)

简介: Prompt Sapper:基础模型的灵魂伴侣,AI服务的创新工场

我们的 AI 链生产平台将不同于现有以代码为中心的开发环境,因为 AI 链将由很多没有计算机和编程背景的人开发。因此,我们的最高设计准则是 “以人为本”,体现在三个方面:首先,我们将 “提示客剑谱”(AI 链工程方法学)无缝地物化到 Sapper IDE 中,使任何人都能有效地应用最佳 AI 链实践和方法。其次,我们充分利用大语言模型的知识和对话能力,开发智能副驾驶(co-pilots),为非技术人员提供全过程 AI 链开发支持。第三,我们提供全过程无代码 AI 链分析、设计、开发和部署,让任何人都能轻松将创意转化为 AI 服务。我们的 AI 链 IDE 可谓是 “AI 服务的孵化器”,因为它的主要功能就是站在基础模型的巨人肩膀上打造 AI 服务。这些服务不仅可以直接满足人们的 AI 链开发需求,还能启发他们去探索更多可能性,并帮助他们创造出更多更优秀的 AI 服务。我们相信,这将会是一个 AI 创新无限的时代,我们的 Sapper IDE 将成为千行百业开启这一无限潜力的 “工兵铁锹”!我们在Sapper IDE已开发或正在开发多样的AI服务演示,涉及教育,职业培训,创意写作,游戏,软件工程等多个领域。我们也欢迎社区用Prompt Sapper创作更多的创意AI服务,并分享到我们的AI服务市场。探索视图(Exploration View)

探索视图支持任务探索和初步设计阶段的活动,允许用户获得大致的任务模型,了解任务挑战,以及初步了解任务步骤、工作流、输入 / 输出数据和提示有效性。如图所示,探索视图的左侧部分是一个聊天机器人(目前封装 GPT-3.5 API),其工作方式与普通聊天机器人(例如,ChatGPT )相同。聊天机器人允许用户与大型语言模型(LLM)进行任何类型的对话。当然,我们假设用户将围绕他们需要开发的 AI 服务进行交谈。与普通聊天机器人不同,探索视图配备了一个基于 LLM(大型语言模型)的副驾驶员,该副驾驶员会自动收集和分析用户与 LLM 之间的对话,以获取可能与后续 AI 链分析、设计和开发相关的任务背景(例如,所需要的功能、用户偏好、需要避免的事项等)。这个副驾驶员本身就是是基于 LLM(目前为 GPT-3.5)构建的 AI 链服务。它以一种不干预的方式工作,并根据用户和 LLM 之间的对话动态记录笔记,如图右侧的 Task Note 面板所示。设计视图(Design View)

设计视图支持设计阶段的主要活动,并在探索和构建阶段之间起到承上启下的重要作用。因此,它具有两个主要功能:需求分析和 AI 链框架生成,分别由两个基于 LLM 的副驾驶员提供支持。与探索视图中的非干预式副驾驶员不同,设计视图中的两个副驾驶员会积极与用户互动,协助他们进行需求分析和 AI 链框架生成。需求分析设计视图的左侧是一个基于 LLM 的需求分析聊天机器人(另一个 AI 链服务)。与探索视图中的自由式聊天机器人不同,需求分析聊天机器人充当不间断的逆向提问者角色,他的工作方式如下:1) 用户在询问框中输入任务描述(通常是对所需内容的模糊描述)以开始对话。2) 需求分析聊天机器人根据初始任务描述和探索视图中收集的任务笔记(如果有),通过一系列开放式问题引导用户明确具体任务需求。3) 需求分析聊天机器人会将用户每轮的回应逐步整合到任务描述中(显示在右上角的任务需求框里)。当然,如果用户认为他已经有了明确的需求,不需要需求分析聊天机器人的帮助,他可以直接在任务需求框中输入需求。AI 链框架生成当用户认为任务需求已经清晰明确时,可以点击任务需求框下方的 “Generate AI Chain Skeleton” 按钮,请求 AI 链框架生成副驾驶生成完成任务所需的主要步骤以及每个步骤的三个候选提示。“Generate AI Chain Skeleton” 工作方式如下:1) 将任务总体描述转换为主要步骤,并为每个步骤提供名称和描述。2) 为每个步骤推荐三个候选提示,用户可以在此基础上自行修改。3) 用户可以手动添加控制流、删除或重新排序步骤等操作。4) 用户可以使用结构化表单编辑生成的提示,设置步骤的输入和执行引擎。通过这个流程,用户可以方便地生成 AI 链的框架,以及对生成的框架进行进一步的修改和完善。最后点击设计视图右下角的 “Generate AI Chain” 按钮,SapperIDE 将根据 AI 链框架自动为每个步骤创建工作者并把他们组装一个基于积木块的 AI 链,可以在编程视图中查看、编辑和执行。编程视图(Block View)

我们使用基于积木块的可视化编程来支持 AI 链的实现、执行和调试。当前的实现是基于开源的 Blockly 项目。在左侧面板中,用户可以访问 Units、Code、Prompts、Variables 和 Engines 工具箱中的积木块用以构建 AI 链。相关积木块介绍请访问我们的文档https://www.aichain.online/public/content%20pages/sapperide/blockview.html)。 为了使用户建立和修改工作者更加直观,所有可视化编程操作都可以直接在工作者 / 容器块上触发。单击插槽右侧的 "+" 图标可以直接添加或编辑插槽对应的积木块。用户可以从工具箱中拖放块模板将块添加到 AI 链编辑器中,通过在编辑器中拖放块来组装块。用户可以通过单击编辑器右侧的 “+”、“-” 和 “aim” 按钮来缩放编辑器或将所选块放置在编辑器中心。用户可以通过 “AI Chain Execution” 菜单运行或调试 AI 链。当工作者正在运行时,工作者块左上角的 “bug” 信号灯将亮起。工作者执行期间使用的实际提示和引擎输出将输出到块控制台(Block Console)。执行所需的用户输入将在块控制台中输入。在调试模式下,工作者将一个接一个地执行。当前工作者完成运行时,执行将被暂停,用户可以检查块控制台中的输出是否符合预期。如果结果符合预期,则可以继续执行下一个工作者。或者,用户可以在提示控制台(Prompt Console)中修改当前工作者的提示,然后重新运行当前工作者。如果将工作者块放置在输出块中,则其输出将显示在右下角的输出窗口中。此窗口不会显示未放置在输出块中的工作者的输出,也不会显示提示。块控制台用于帮助 AI 链工程师调试 AI 链,因此包含提示信息和中间执行结果。右下角的输出窗口允许工程师检查最终用户将看到的 AI 链输出。提示中心(Prompt Hub)

Sapper IDE 的 Prompt Hub(提示中心)提供了一个集中式的提示管理系统,让用户在 AI 链项目之间轻松共享和重用提示。通过 Prompt Builder(提示生成器)和 Prompt Base(提示库)工具箱,用户能创建、编辑、导入和导出提示,使 AI 链项目开发更高效、便捷。用户可以通过四个方面:上下文、指令、示例和输出格式,以结构化方式创建或编辑提示。这有助于实现更准确的 AI 链项目功能。未来的设计视图将允许用户搜索提示库或获得自动提示推荐,进一步提高开发效率。Prompt Hub 还支持将提示下载到本地文件或从本地文件上传到 IDE,方便在不同设备间同步提示信息。引擎管理(Engine Management)

引擎管理功能让用户在 AI 链项目之间轻松共享和重用各类引擎,如基础模型、传统机器学习模型(目前在开发中,敬请期待)和外部 API。IDE 内置了三个基础模型:gpt-3.5-turbo、text-davinci-003、DALL-E,以及 Python 标准 REPL shell。在 FM Engines(基础模型引擎)工具箱中,用户可灵活创建和配置基础模型引擎,调整参数如 Temperature、Maximum length、Top P、Frequency penalty 和 Presence penalty。点击 “Save Engine to FM Engine”,将引擎保存以供后续编辑或导出到项目。最后,用户还可将引擎信息下载至本地文件,或从本地文件上传至 IDE。AI 链项目管理(Project Management)

通过 “Project Management” 菜单,用户可创建新的 AI 链项目,将当前项目下载到本地磁盘,或在 IDE 中打开本地磁盘上的项目。点击 “Download Code” 按钮,用户可将实现 AI 链的后台代码下载至本地磁盘,用于其他软件项目。注意,执行下载的 AI 链代码需要 sapperchain Python 库(目前未开源)。在“Recent Project”菜单,我们预装了一个演示项目“Hui Xiao Shi”以便于大家上手学习。用户若想开源他的 AI 链项目,可将项目分享至 AI 链市场(正在开发)。IDE 提供了一个创意副驾驶员,根据任务需求和工作者提示为项目生成简短描述和图片。现在,IDE 支持将 AI 链作为本地 Web 服务部署,便于手动部署到外部云服务器。后续我们将推出自动云服务部署功能。IDE 功能演示教程

,时长04:22

Prompt Sapper 的与众不同之处Prompt Sapper 受很多优秀项目和工具的启发,比如 ChatGPT, AutoGPT, LangChain, no-code AI,以及大量 prompt engineering 文献和工具。但我们与众不同之处在于以下三点:

人与 AI 交互光谱

1. 强调人工智能和人类用户之间的协作智能。如上图所示,它通过 AI 链无缝地将人类智能与人工智能融合,有效地解决复杂问题并实现共同目标。这种协作智能促进了整体效率的提高,降低了错误率,并赋予了人类用户充分利用人工智能潜力的能力。这种独特的方法使 Prompt Sapper 区别于现有的人类驱动的对话机器人(例如 ChatGPT)和以人工智能为主导的代理框架(例如 AutoGPT),凸显了它的创新和独特的价值主张。2. 对计算和编程技能的更低要求。Prompt Sapper 显著降低了创建符合用户需求的复杂人工智能服务的门槛。它引入了一套基于 LLM 的虚拟产品经理、架构师和提示工程师,以帮助用户获取领域知识、分析任务要求并构建 AI 链。此外,Prompt Sapper 提供直观且用户友好的界面,使用户可以轻松地与人工智能进行交互,并在不需要高级计算或编程技能的情况下原型化 AI 功能。这种方法扩大了从人工智能进步中受益的人群,突显了 Prompt Sapper 在人工智能领域中的独特地位。3. 系统的 AI4SE4AI 框架。Prompt Sapper 高度重视软件工程和人工智能的紧密集成,致力于创建一个系统化的 AI4SE4AI 框架。在这个框架内,Prompt Sapper 利用人工智能技术,显著提高软件工程过程的效率,例如需求分析、AI 链设计、构建和测试。同时,Prompt Sapper 遵循和扩展了软件工程的最佳实践,以适应由 AI 2.0 和软件 3.0 推动的新软件环境。这个 AI4SE4AI 框架不仅大大提高了人工智能服务的开发效率和项目质量,还支持灵活的服务重用和组装,以及持续改进和优化人工智能服务,以满足不断变化的需求。下面表格总结了 Prompt Sapper 与重要相关技术的对比,详情请参阅我们的文档(https://www.aichain.online/public/content%20pages/sappervsothers.html

AutoGPT  vs.  Prompt Sapper

      LangChain  vs.  Prompt Sapper

      No-code AI  vs.  Prompt Sapper

Prompt Engineering  vs.  Prompt Sapper  

展望未来我们处于一个令人激动的 AI 和软件工程信息时代,我们共同见证着科技进步如何改变世界。Prompt Sapper 携手基础模型和软件工程,将不断探索 AI 链工程的最佳实践和方法学,推动着 AI 链工程的发展和普及。我们计划采用 “走出去” 和 “引进来” 的方式来打通 AI 链开发和终端用户之间的最后一公里,将 AI 链工程方法学、工具和实践带给更多的开发者和用户,并推动 AI 服务市场和生态系统的发展。我们相信,AI 链工程将会成为未来的核心技术之一,广泛应用于各个领域和行业,为人类创造更多的价值和福利。我们可以想象到,AI 链将能够帮助我们更快速地解决问题,提高工作效率,提供更加个性化的服务,同时推动社会经济迈向更加智能化的未来。

相关文章
|
1天前
|
机器学习/深度学习 人工智能 自然语言处理
VideoWorld:字节开源自回归视频生成模型,支持输入视频指导AI生成视频!弥补文本生成视频的短板
VideoWorld 是由字节跳动、北京交通大学和中国科学技术大学联合推出的自回归视频生成模型,能够从未标注的视频数据中学习复杂知识,支持长期推理和规划任务。
41 8
VideoWorld:字节开源自回归视频生成模型,支持输入视频指导AI生成视频!弥补文本生成视频的短板
|
2天前
|
人工智能 编解码 自然语言处理
CogView-3-Flash:智谱首个免费AI图像生成模型,支持多种分辨率,快速生成创意图像
CogView-3-Flash 是智谱推出的首个免费AI图像生成模型,支持多种分辨率,快速生成高质量图像,广泛应用于广告、设计、艺术创作等领域。
18 6
CogView-3-Flash:智谱首个免费AI图像生成模型,支持多种分辨率,快速生成创意图像
|
2天前
|
人工智能 编解码
CogVideoX-Flash:智谱首个免费AI视频生成模型,支持文生视频、图生视频,分辨率最高可达4K
CogVideoX-Flash 是智谱推出的首个免费AI视频生成模型,支持文生视频、图生视频,最高支持4K分辨率,广泛应用于内容创作、教育、广告等领域。
28 5
CogVideoX-Flash:智谱首个免费AI视频生成模型,支持文生视频、图生视频,分辨率最高可达4K
|
3天前
|
机器学习/深度学习 数据采集 人工智能
昇腾AI行业案例(七):基于 Conformer 和 Transformer 模型的中文语音识别
欢迎学习《基于 Conformer 和 Transformer 模型的中文语音识别》实验。本案例旨在帮助你深入了解如何运用深度学习模型搭建一个高效精准的语音识别系统,将中文语音信号转换成文字,并利用开源数据集对模型效果加以验证。
28 12
|
1天前
|
人工智能 弹性计算 运维
AI驱动的操作系统服务评测报告
阿里云推出AI驱动的一站式免费操作系统服务套件,包含SysOM管控组件和OS Copilot智能助手,提供集群健康监测、深度系统诊断等功能。通过直观的操作界面和详尽的诊断报告,帮助运维人员优化系统性能,提高工作效率。特别针对EOL操作系统提供订阅管理服务,确保系统安全。整体体验令人满意,但在文档详细度和定制化方面仍有提升空间。
39 13
|
1天前
|
人工智能 运维 监控
探索未来:AI驱动的操作系统服务评测
### 探索未来:AI驱动的操作系统服务评测 本文介绍阿里云新推出的AI驱动操作系统服务套件,为运维工程师和开发者提供免费、智能的操作系统管理体验。通过Alibaba Cloud Linux的实际操作,评估其安装便捷性、系统健康监控、智能助手OS Copilot等功能。该服务显著提升了工作效率约30%,并增强了服务可靠性。AI技术的融入使系统管理更加智能化,值得尝试。
40 16
|
6天前
|
人工智能 运维 Linux
AI驱动的操作系统服务体验:大模型时代的运维革新
AI驱动的操作系统服务体验:大模型时代的运维革新
22 5
|
4天前
|
人工智能 运维 安全
AI 驱动,全面升级!操作系统服务套件体验评测
作为一名运维工程师,我体验了阿里云的操作系统服务套件,选择了Alibaba Cloud Linux作为测试环境。通过安装SysOM和OS Copilot组件,轻松管理集群健康数据、进行系统诊断并获得优化建议。OS Copilot智能解答技术问题,节省查阅资料时间;订阅管理帮助我及时升级操作系统,保障安全。整体功能强大,提升了约20%的工作效率,值得推广。建议增加更多系统版本支持及自动优化功能。
|
8天前
|
人工智能 运维 物联网
云大使 X 函数计算 FC 专属活动上线!享返佣,一键打造 AI 应用
如今,AI 技术已经成为推动业务创新和增长的重要力量。但对于许多企业和开发者来说,如何高效、便捷地部署和管理 AI 应用仍然是一个挑战。阿里云函数计算 FC 以其免运维的特点,大大降低了 AI 应用部署的复杂性。用户无需担心底层资源的管理和运维问题,可以专注于应用的创新和开发,并且用户可以通过一键部署功能,迅速将 AI 大模型部署到云端,实现快速上线和迭代。函数计算目前推出了多种规格的云资源优惠套餐,用户可以根据实际需求灵活选择。
|
4天前
|
人工智能 算法 前端开发
OmAgent:轻松构建在终端设备上运行的 AI 应用,赋能手机、穿戴设备、摄像头等多种设备
OmAgent 是 Om AI 与浙江大学联合开源的多模态语言代理框架,支持多设备连接、高效模型集成,助力开发者快速构建复杂的多模态代理应用。
120 72
OmAgent:轻松构建在终端设备上运行的 AI 应用,赋能手机、穿戴设备、摄像头等多种设备

热门文章

最新文章