aitangmii_个人页

2025年02月

• 02.23 15:06:18
  发表了文章 2025-02-23 15:06:18

  eino — 基于go语言的大模型应用开发框架（二）

  本文介绍了如何使用Eino框架实现一个基本的LLM（大语言模型）应用。Eino中的`ChatModel`接口提供了与不同大模型服务（如OpenAI、Ollama等）交互的统一方式，支持生成完整响应、流式响应和绑定工具等功能。`Generate`方法用于生成完整的模型响应，`Stream`方法以流式方式返回结果，`BindTools`方法为模型绑定工具。此外，还介绍了通过`Option`模式配置模型参数及模板功能，支持基于前端和用户自定义的角色及Prompt。目前主要聚焦于`ChatModel`的`Generate`方法，后续将继续深入学习。
• 02.22 20:30:37
  发表了文章 2025-02-22 20:30:37

  eino — 基于go语言的大模型应用开发框架（一）

  Eino 是一个受开源社区优秀LLM应用开发框架（如LangChain和LlamaIndex）启发的Go语言框架，强调简洁性、可扩展性和可靠性。它提供了易于复用的组件、强大的编排框架、简洁明了的API、最佳实践集合及实用的DevOps工具，支持快速构建和部署LLM应用。Eino不仅兼容多种模型库（如OpenAI、Ollama、Ark），还提供详细的官方文档和活跃的社区支持，便于开发者上手使用。
• 02.22 19:22:56
  回答了问题 2025-02-22 19:22:56

  有没有一种可能，其实你早就在AIGC了？

  赞1 踩0 评论0

2024年12月

• 12.23 14:07:54
  回答了问题 2024-12-23 14:07:54

  在使用fastapi的时候，怎么实现流式输出？

  赞274 踩0 评论0
• 12.22 14:31:46
  发表了文章 2024-12-22 14:31:46

  [langchaingo] 智谱GLM-4在线模型体验

  本文介绍如何使用Go语言版的Langchain框架——langchaingo，结合清华大学KEG实验室开发的GLM-4模型，在本地运行AI项目。GLM-4是一个先进的自然语言处理模型，支持多种任务。通过智谱AI开放平台注册可获1000w token用于测试。文章展示了langchaingo的基本配置、构建聊天内容及生成回复的过程，并简要总结了项目的现状和未来更新计划。