❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!
🥦 微信公众号|搜一搜:蚝油菜花 🥦
🚀 快速阅读
统一接口:aisuite提供了一个统一的接口,开发者能以相同的方式调用不同大型语言模型(LLM)平台的模型。
多平台支持:aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在内的多个模型平台。
简化切换:用户只需通过更改一个字符串,即可选择不同提供商的模型,极大地简化了模型切换和对比测试的过程。
正文(附运行示例)
aisuite 是什么
aisuite是吴恩达(Andrew Ng)发布的一个开源Python库,旨在提供一个统一的接口来调用多个大型语言模型(LLM)服务。支持包括OpenAI、Anthropic、Azure等在内的11个模型平台,开发者能轻松切换和测试不同提供商的模型。通过aisuite,用户可以便捷地获取API密钥并设置环境变量,实现对不同语言模型的访问和调用。
aisuite简化了多模型管理和测试的工作,促进了人工智能技术的应用和发展。
aisuite 的主要功能
- 统一接口设计:aisuite提供了一个统一的接口,开发者能以相同的方式调用不同大型语言模型(LLM)平台的模型。
- 支持多个模型平台:aisuite 支持包括 OpenAI、Anthropic、Azure、Google、AWS、Groq、Mistral、HuggingFace 和 Ollama 在内的多个模型平台。
- 简化模型切换:用户只需通过更改一个字符串,即可选择不同提供商的模型,极大地简化了模型切换和对比测试的过程。
- 易于安装和配置:aisuite的安装过程简便,用户只需准备Python环境和所需的API密钥,可通过简单的命令安装框架。
- 主要关注聊天功能:目前,aisuite主要关注于增强聊天功能,未来计划扩展到更多使用场景。
- 扩展性:aisuite计划增加更多功能模块,例如函数调用等,以进一步丰富其实用性。
- 使用HTTP端点或SDK调用:为了确保稳定性,aisuite使用HTTP端点或SDK来与提供商进行调用。
如何运行 aisuite
安装aisuite
可以通过pip命令来安装aisuite。
- 只安装基础包,不涉及任何提供商的SDK,使用命令:
pip install aisuite
- 需要特定提供商的支持,比如Anthropic,可以使用命令:
pip install 'aisuite[anthropic]'
- 要安装所有特定于提供商的库,使用命令:
pip install 'aisuite[all]'
获取API密钥
安装后,需要为所选的提供商获取API密钥,通过环境变量进行配置。
编写Python客户端
配置好API密钥后,可以使用标准的Python客户端来请求聊天补全等功能。例如,以下是使用aisuite生成聊天补全响应的Python客户端示例代码:
import aisuite as ai
client = ai.Client()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20241022"]
messages = [
{
"role": "system", "content": "Respond in Pirate English."},
{
"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create(
model=model,
messages=messages,
temperature=0.75
)
print(response.choices[0].message.content)
资源
- GitHub 仓库:https://github.com/andrewyng/aisuite
❤️ 如果你也关注 AI 的发展现状,且对 AI 应用开发非常感兴趣,我会每日跟你分享最新的 AI 资讯和开源应用,也会不定期分享自己的想法和开源实例,欢迎关注我哦!
🥦 微信公众号|搜一搜:蚝油菜花 🥦