微软开源TypeChat库,给大语言模型换种提示,一行代码安装

简介: 微软开源TypeChat库,给大语言模型换种提示,一行代码安装

借助 TypeChat,可以很容易地获得类型良好的结构化数据。

在过去的几个月里,我们已经见证了围绕最新一波大语言模型掀起的讨论热潮。很多人以对话的方式与大模型进行交流,这也是最直接的方式。


但这一方式面临一个问题:如何将这些模型最好地集成到现有的应用程序界面中仍然存在很大的问题。

换句话说,我们如何利用人工智能将用户的请求转化为应用程序能够处理的内容?以及我们如何确保我们的应用程序是安全的,并且进行的工作可以让开发者和用户都信赖?

为了解决上述问题,微软开源了一个名为 TypeChat 的实验性库,它可以很容易地获得类型良好的结构化数据, 其在自然语言与应用程序模式(application schema)和 API 之间建立起了一座桥梁。

项目地址:https://github.com/Microsoft/TypeChat

目前,TypeChat 已经与 OpenAI API 和 Azure OpenAI 服务进行了一些非常基本的集成。

网友表示:「借助 TypeChat,AI 能输出准确的 JSON 以与人类研发的系统集成。」

「TypeChat 将 prompt 工程替换为 schema 工程:无需编写非结构化的自然语言 prompt 来描述所需输出的格式,而是编写 TS 类型定义。」

还有网友表示 TypeChat 是迈向未来的一大步。

TypeChat 介绍

只需一行代码就能启动并运行 TypeChat:

至于为何构建 TypeChat 库,微软表示,当前人们可以与 LLM 进行对话交流,在这当中,需要解析语言,然而,人类输入的语言和 LLM 理解的语言在结构上差别很大,典型的软件很难从原始文本中重建语言。

TypeChat 可以帮助 LLM 以 JSON 的形式响应,并且响应结果非常合理:例如用户要求将这句话「我可以要一份蓝莓松饼和一杯特级拿铁咖啡吗?」转化成 JSON 格式,TypeChat 响应结果如下:

微软表示,他们一直在提示符中使用 TypeScript 类型,可以说,给定一个提示和 TS 类型,聊天机器人就会使用这些类型构造一个新提示:

以下是将 TypeChat 连接到 LLM 并确定句子是否定、中性还是肯定的基本代码。




TypeChat 可以以多种不同的方式使用。目前微软讨论的方式主要是使用数据模式将用户意图转换为结构化响应;然而,TypeChat 还可以使用 API 模式来构建基本程序。

想要体验的小伙伴,可以上手试试了。

参考链接:https://microsoft.github.io/TypeChat/blog/introducing-typechat/

相关文章
|
监控 Linux 芯片
Watchdog是什么?为什么要在系统初始化时候关闭什么是 watchdog?
Watchdog是什么?为什么要在系统初始化时候关闭什么是 watchdog?
1438 0
|
运维 大数据 Shell
时间命令date,你真的会用了吗?
时间命令date,你真的会用了吗?
579 0
解决IDEA提交代码时提示“Performing Code Analysis...”
解决IDEA提交代码时提示“Performing Code Analysis...”
1797 0
|
人工智能 搜索推荐 算法
【推荐系统】UserCF(基于用户的协同过滤)(理论+图解+代码实践)
【推荐系统】UserCF(基于用户的协同过滤)(理论+图解+代码实践)
3304 0
【推荐系统】UserCF(基于用户的协同过滤)(理论+图解+代码实践)
|
机器学习/深度学习 人工智能 自然语言处理
三行代码实现实时语音转文本,支持自动断句和语音唤醒,用 RealtimeSTT 轻松创建高效语音 AI 助手
RealtimeSTT 是一款开源的实时语音转文本库,支持低延迟应用,具备语音活动检测、唤醒词激活等功能,适用于语音助手、实时字幕等场景。
3415 18
三行代码实现实时语音转文本,支持自动断句和语音唤醒,用 RealtimeSTT 轻松创建高效语音 AI 助手
|
数据采集 机器学习/深度学习 人工智能
基于AI的网络流量分析:构建智能化运维体系
基于AI的网络流量分析:构建智能化运维体系
2526 13
注册域名需要多久
注册域名需要多久
594 0
|
弹性计算 编解码 大数据
小鹏汽车核心业务迁移至阿里云倚天实例,节省20%算力成本
9月20日,在2024云栖大会上,小鹏汽车宣布车联网、官网、商城、大数据等核心业务已迁移至阿里云倚天实例,节省了超过20%的算力成本。
983 14
|
存储 监控 NoSQL
Redis脑裂:预防与解决之道
在分布式系统中,Redis集群的脑裂问题是一个令人头疼的难题。它指的是由于网络分区或其他原因,导致集群中的节点无法正常通信,从而形成多个子集群,每个子集群都认为自己是主集群,进而引发数据不一致和服务可用性下降的问题。那么,如何有效预防Redis脑裂问题?当问题发生时,我们能否迅速解决?本文将围绕这一主题,分享一些实用的技术干货。
762 2