微软开源TypeChat库,给大语言模型换种提示,一行代码安装

简介: 微软开源TypeChat库,给大语言模型换种提示,一行代码安装

借助 TypeChat,可以很容易地获得类型良好的结构化数据。

在过去的几个月里,我们已经见证了围绕最新一波大语言模型掀起的讨论热潮。很多人以对话的方式与大模型进行交流,这也是最直接的方式。


但这一方式面临一个问题:如何将这些模型最好地集成到现有的应用程序界面中仍然存在很大的问题。

换句话说,我们如何利用人工智能将用户的请求转化为应用程序能够处理的内容?以及我们如何确保我们的应用程序是安全的,并且进行的工作可以让开发者和用户都信赖?

为了解决上述问题,微软开源了一个名为 TypeChat 的实验性库,它可以很容易地获得类型良好的结构化数据, 其在自然语言与应用程序模式(application schema)和 API 之间建立起了一座桥梁。

项目地址:https://github.com/Microsoft/TypeChat

目前,TypeChat 已经与 OpenAI API 和 Azure OpenAI 服务进行了一些非常基本的集成。

网友表示:「借助 TypeChat,AI 能输出准确的 JSON 以与人类研发的系统集成。」

「TypeChat 将 prompt 工程替换为 schema 工程:无需编写非结构化的自然语言 prompt 来描述所需输出的格式,而是编写 TS 类型定义。」

还有网友表示 TypeChat 是迈向未来的一大步。

TypeChat 介绍

只需一行代码就能启动并运行 TypeChat:

至于为何构建 TypeChat 库,微软表示,当前人们可以与 LLM 进行对话交流,在这当中,需要解析语言,然而,人类输入的语言和 LLM 理解的语言在结构上差别很大,典型的软件很难从原始文本中重建语言。

TypeChat 可以帮助 LLM 以 JSON 的形式响应,并且响应结果非常合理:例如用户要求将这句话「我可以要一份蓝莓松饼和一杯特级拿铁咖啡吗?」转化成 JSON 格式,TypeChat 响应结果如下:

微软表示,他们一直在提示符中使用 TypeScript 类型,可以说,给定一个提示和 TS 类型,聊天机器人就会使用这些类型构造一个新提示:

以下是将 TypeChat 连接到 LLM 并确定句子是否定、中性还是肯定的基本代码。




TypeChat 可以以多种不同的方式使用。目前微软讨论的方式主要是使用数据模式将用户意图转换为结构化响应;然而,TypeChat 还可以使用 API 模式来构建基本程序。

想要体验的小伙伴,可以上手试试了。

参考链接:https://microsoft.github.io/TypeChat/blog/introducing-typechat/

相关文章
|
人工智能
IDEA完全免费AI辅助编程插件BITO-GPT4安装及中文国产化设置
IDEA完全免费AI辅助编程插件BITO-GPT4安装及中文国产化设置
1021 1
|
3月前
|
人工智能 JSON 算法
不是吧?这么好用的开源标注工具,竟然还有人不知道…
LabelU是一款专为AI项目设计的强大多模态数据标注工具,支持图像、视频、音频等多样化数据类型。它提供灵活的标注工具与自定义配置选项,让用户根据需求定制高效标注流程。特色功能包括一键载入预标注结果以简化修正工作,以及支持JSON、COCO等多种格式的导出选项。LabelU既可本地部署确保数据安全,也提供在线版本方便快速上手。此外,OpenDataLab还开源了Label-LLM对话标注工具和MinerU文档处理工具,进一步丰富了数据准备的工作流。欢迎访问[LabelU](https://github.com/opendatalab/labelU)了解更多详情,并为这些优秀工具点赞支持!
109 0
不是吧?这么好用的开源标注工具,竟然还有人不知道…
|
3月前
|
SQL 人工智能
ChatGPT 等相关大模型问题之代码生成场景中使用引导词来提示 ChatGPT如何解决
ChatGPT 等相关大模型问题之代码生成场景中使用引导词来提示 ChatGPT如何解决
|
6月前
|
存储 JavaScript 前端开发
【ChatGPT 指令大全】怎么使用ChatGPT辅助程式开发
【ChatGPT 指令大全】怎么使用ChatGPT辅助程式开发
59 0
|
6月前
|
机器学习/深度学习 PyTorch TensorFlow
机器学习PAI的1.6.1开源包依旧不全怎么办
机器学习PAI的1.6.1开源包依旧不全怎么办
157 1
|
人工智能 大数据 API
一句提示词生成整个代码库——Gpt Engineer神级项目开源(附演示视频)
一句提示词生成整个代码库——Gpt Engineer神级项目开源(附演示视频)
169 0
|
Web App开发 人工智能 API
有了这个AI翻译插件,我把其他的翻译工具都删了
有了这个AI翻译插件,我把其他的翻译工具都删了
345 0
|
人工智能 安全 机器人
ChatGPT Plus的插件是如何工作的?
ChatGPT Plus初体验,以及插件是如何工作的?
127 0
ChatGPT  Plus的插件是如何工作的?