TypeChat 入门指南

本文涉及的产品
NLP自然语言处理_高级版,每接口累计50万次
NLP 自学习平台,3个模型定制额度 1个月
NLP自然语言处理_基础版,每接口每天50万次
简介: TypeChat 是一个革命性的库,它简化了使用 TypeScript 构建自然语言模型界面的过程。 它抹平了自然语言和结构化数据之间的差距,使开发人员更容易将自然语言界面集成到他们的应用程序中。

hello 大家好,我是 superZidan,这篇文章想跟大家聊聊 TypeChat 这个话题

什么是 TypeChat

TypeChat 是一个革命性的库,它简化了使用 TypeScript 构建自然语言模型界面的过程。 传统模式下,创建自然语言模型界面是一项复杂的任务,通常依赖复杂的决策树来确定意图并收集行动所需的输入。 随着大型语言模型(LLM)的出现,这个过程变得更加容易,但它也带来了新的挑战,例如限制模型回复的安全性、构建响应以供进一步处理以及确保模型回复的有效性。

TypeChat 通过用 schema 工程取代 prompt 工程来应对这些挑战。它允许开发者定义代表其自然语言模型应用程序支持的意图的类型。这适用于从简单的情感分类到复杂的购物车或音乐应用场景。一旦定义了类型,TypeChat 就会处理剩下的事情,使用类型构建对 LLM 的 prompt,根据 schema 验证 LLM 响应,总结实例来确保与用户意图保持一致。

你可以在以下位置找到该项目的网站:https://microsoft.github.io/TypeChat/

p1.png

该项目的源代码(包括示例)托管在 GitHub 上:https://github.com/microsoft/TypeChat

p2.png

TypeChat 的目的

TypeChat 的主要目的是抹平自然语言与应用程序可以使用的结构化数据之间的差距。 它的目的是让开发者更容易地将自然语言界面集成到他们的应用程序中。 通过提供具有 shema(某些类型)和请求的模型,开发者可以处理类型良好的结构化数据,从而使将自然语言集成到应用程序中的过程更加简化和高效。

构建 TypeChat 的分步指南

构建 TypeChat 的过程非常简单

  1. 安装 Node.js:确保计算机上安装了 Node.js(18.16.0 LTS 或更高版本)。 可以从 Node.js 官方网站下载

  2. 克隆 TypeChat 仓库

    $ git clone https://github.com/microsoft/TypeChat
    
  3. 进入 TypeChat 目录

    $ cd TypeChat
    
  4. 安装依赖

    $ npm i
    

    p3.png

  1. 构建 TypeChat

    $ npm run build-all
    

p4.png

  1. 配置OpenAI环境变量:需要设置 OpenAI 环境变量。 可以通过在项目的根目录中创建 .env 文件并添加以下内容来完成此操作

    OPENAI_MODEL=gpt-3.5-turbo
    OPENAI_API_KEY=openAI 帐号的key
    
  2. 运行示例,所有的示例代码都在 examples 目录中。要以互动的方式运行示例,请导航到 examples 下对应的目录并运行以下命令

    $ node ./dist/main.js
    

    你可以在出现提示时输入请求,然后键入 quitexit 来结束会话

    比如在 examples/calendar 目录下

p5.jpg

也可以直接使用项目自带的 `input` 文件,来运行

```bash
$ node ./dist/main.js ./dist/input.txt
```

你可以看到控制的输出是这样的

p6.jpg

TypeChat 的入门示例

要检验 TypeChat 代码的实际效果,让我们思考一个示例。 假设我们有一个咖啡店应用程序,我们希望将用户意图转换为咖啡订单项目列表。 我们可以为咖啡订单项目定义一个类型,并使用 TypeChat 处理自然语言输入并将其映射到经过验证的 JSON 作为输出。 通过这种方式,我们可以轻松地将用户的自然语言请求转换为我们的应用程序可以理解和处理的结构化数据。

以下是咖啡订单的 TypeScript 类型定义:

interface CoffeeOrder {
   
   
  type: string;
  size: string;
  extras: string[];
}

要使用 TypeChat,我们可以创建一个新实例并将 CoffeeOrder 类型传递给它:

import {
   
    TypeChat } from 'typechat';
const typeChat = new TypeChat<CoffeeOrder>();

// 用户输入
const userInput = "I would like a large cappuccino with extra foam and a shot of vanilla.";

// 使用 TypeChat 获取一个结构化的数据
const order = typeChat.process(userInput);
console.log(order);

// 输出: { type: 'cappuccino', size: 'large', extras: ['extra foam', 'shot of vanilla'] }

在此示例中,TypeChat 获取用户的自然语言输入并将其转换为我们的应用程序可以轻松处理的结构化数据 CoffeeOrder

总结

总之,TypeChat 是一个强大的工具,它利用 TypeScript 的强大功能来简化构建自然语言界面的过程。 它抹平了自然语言和结构化数据之间的差距,使开发人员更容易将自然语言界面集成到他们的应用程序中。 凭借其易于设置和使用的特点,TypeChat 将彻底改变我们与软件交互的方式,使其更加直观和用户友好。 因此,如果你是一名希望通过自然语言界面增强应用程序的开发人员,那么 TypeChat 绝对值得探索

后续

后面我会采用 React ,Express, TypeChat 等技术栈做一个全栈的项目,帮助大家对 TypeChat 有一个更加深刻的理解。欢迎关注我或者给我留言🌹

本文为翻译文,原文地址:https://medium.com/codingthesmartway-com-blog/building-typed-interfaces-for-large-language-models-with-typechat-a-comprehensive-guide-d5fccb29ed96

目录
相关文章
|
5月前
|
数据采集 数据可视化 数据挖掘
Python数据分析入门指南
Python数据分析涉及环境搭建(推荐Anaconda,含pandas和matplotlib库)。使用`pandas`读取CSV数据,如`data = pd.read_csv(&#39;data.csv&#39;)`。数据清洗包括检查缺失值(`data.isnull().sum()`)和处理异常值。然后进行数据处理,如创建新列、选择特定列及分组。利用`matplotlib`进行数据可视化,绘制直方图和散点图,以`plt.hist()`和`plt.scatter()`展示数据。
|
5月前
|
机器学习/深度学习 缓存 数据可视化
Streamlit入门指南
Streamlit是Python库,用于创建交互式数据科学和机器学习Web应用。它简化了定制Web应用的创建,提供内置小部件和工具进行数据展示、用户输入处理和自定义可视化。快速入门涉及安装Streamlit、导入库、定义应用并使用`streamlit run`命令运行。示例代码展示了如何创建一个显示滑块和正弦图的应用。最佳实践包括组织代码、利用缓存、优化布局以及使用内置功能。Streamlit Gallery提供了更多应用示例,如文本生成器和图像分类器。
432 0
|
Kubernetes 云计算 Docker
【K8S系列】深入解析 k8s:入门指南(一)
【K8S系列】深入解析 k8s:入门指南(一)
256 0
|
6月前
|
机器学习/深度学习 人工智能 并行计算
PyTorch入门指南:从安装到基础操作
【4月更文挑战第17天】PyTorch入门指南介绍了安装、Tensor操作、自动微分、神经网络构建及训练。安装PyTorch可通过官网选择相应环境的预构建包或使用conda命令。Tensor是基本计算单元,支持多种操作。自动微分简化了梯度计算。使用`torch.nn`定义神经网络,如示例中的全连接网络。训练网络涉及前向传播、损失计算、反向传播和权重更新,常用优化器如SGD。模型评估与测试包括在验证集或测试集上计算性能指标,如准确率。本文为初学者提供了PyTorch基础操作的快速入门。
|
Kubernetes API Docker
【K8S系列】深入解析 k8s:入门指南(二)
【K8S系列】深入解析 k8s:入门指南(二)
184 0
|
存储 Web App开发 移动开发
Day 19: EmberJS 入门指南
到目前为止,我们这一系列文章涉及了Bower、AngularJS、GruntJS、PhoneGap和MeteorJS 这些JavaScript技术。今天我打算学习一个名为Ember的框架。本文将介绍如何用Ember创建一个单页面的社交化书签应用。本教程将包括两篇:第1篇介绍客户端代码和用HTML 5本地存储持久保存数据,第2篇中我们将使用一个部署在OpenShift上的REST后端。过几天我会写第2篇。
339 0
Day 19: EmberJS 入门指南
MVVMToolkit入门教程
MVVMLight已经停止维护,可以考虑MVVMToolkit来替代,MVVMToolkit官方文档两个框架的基本使用方法类似,下面介绍一下不同之处(建议查看一下上一篇关于MVVMLight的文章)。
|
算法 Linux 网络安全
Canokey入门指南:F2A、OpenPGP、PIV
相信大伙都知道yubikey吧,那么Canokey呢?
1807 0
|
人工智能 Ubuntu IDE
Python3入门指南(持续更新)
Python3入门指南(持续更新)
175 0
Python3入门指南(持续更新)
|
IDE 程序员 开发工具
C++入门指南(持续更新)
C++入门指南(持续更新)
231 0
C++入门指南(持续更新)