开发个人Ollama-Chat--1 项目介绍

本文涉及的产品
交互式建模 PAI-DSW,5000CU*H 3个月
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
模型训练 PAI-DLC,5000CU*H 3个月
简介: **开发个人Ollama-Chat** 是一系列教程,聚焦于使用`go-zero`框架构建聊天应用后端,并通过`Docker`部署至公网。涉及`Ollama`API调用、`Docker`本地环境、`cloudflare`免费部署、内网穿透及阿里云域名绑定。项目包括服务拆分、用户&模型管理、UI设计及多步骤部署。

开发个人Ollama-Chat--1 项目介绍

Ollama-Chat

本文将以一个使用Ollama部署的ChatGPT为背景,主要还是介绍和学习使用 go-zero 框架,开发个人Ollama-Chat的服务器后端,使用Docker部署网站到公网,体验和了解微服务架构,发布微服务到网站的具体流程。

知识点大纲

  • Docker本地开发环境搭建

  • go-zero api rpc服务,鉴权,验证的使用

  • github.com/tmc/langchaingo/llms``Ollamaapi调用

  • cloudflare部署个人网站(白嫖)

  • fps内网穿透

  • 阿里云绑定域名,备案

文章目录

  • 开发个人Ollama-Chat--1 项目介绍

  • 开发个人Ollama-Chat--2 环境搭建

  • 开发个人Ollama-Chat--3 服务拆分

  • 开发个人Ollama-Chat--4 用户管理

  • 开发个人Ollama-Chat--5 模型管理

  • 开发个人Ollama-Chat--6 OpenUI

  • 开发个人Ollama-Chat--7 服务部署

  • 开发个人Ollama-Chat--8 网站部署

  • 开发个人Ollama-Chat--9 Frp穿透

  • 开发个人Ollama-Chat--10 绑定域名

项目地址

openui-frontend

openui-backend-go

相关文章
|
4天前
langchain 入门指南 - 使用 Agent
langchain 入门指南 - 使用 Agent
16 0
|
3月前
|
人工智能 API 决策智能
Modelscope结合α-UMi:基于Modelscope的多模型协作Agent
基于单个开源小模型的工具调用Agent,由于模型容量和预训练能力获取的限制,无法在推理和规划、工具调用、回复生成等任务上同时获得比肩大模型等性能。
|
2月前
|
Linux iOS开发 MacOS
【chat-gpt问答记录】python虚拟环境venv的简介及使用
【chat-gpt问答记录】python虚拟环境venv的简介及使用
37 2
|
5天前
|
Linux 测试技术 API
Ollama+Qwen2,轻松搭建支持函数调用的聊天系统
本文介绍如何通过Ollama结合Qwen2,搭建OpenAI格式的聊天API,并与外部函数结合来拓展模型的更多功能。
|
21天前
|
自然语言处理
Ollama部署本地模型
Ollama 是一个用于本地部署大型语言模型的平台。首先关闭 ollama 服务,在环境变量中设置 `OLLAMA_MODELS` 为目标模型路径,`OLLAMA_ORIGINS` 为 `"*"`,重启服务和 VSCode。启动服务 `ollama serve`,运行 `ollama run codegeex4`。配置插件接口地址为 `http://localhost:11434/v1/chat/completions`,并在模型名称处填入 `codegeex4` 启用高级模式。可能需优化下载速度并解决其他问题。
116 4
|
1月前
|
存储 自然语言处理 测试技术
使用 LlamaIndex 和 Llama 2-Chat 构建知识驱动的应用程序
使用 LlamaIndex 和 Llama 2-Chat 构建知识驱动的对话应用程序
32 0
使用 LlamaIndex 和 Llama 2-Chat 构建知识驱动的应用程序
|
4天前
|
算法 API 人机交互
LangChain 构建问题之Gorilla-CLI的安装如何解决
LangChain 构建问题之Gorilla-CLI的安装如何解决
8 0
|
4天前
|
JSON Go 数据格式
langchain 入门指南 - 让 LLM 自动选择不同的 Prompt
langchain 入门指南 - 让 LLM 自动选择不同的 Prompt
12 0
|
3月前
|
Linux 开发者 iOS开发
|
3月前
|
Java 程序员 API
全民上手大模型--ollama+langchain+通义千问零费用java+python跑通本机大模型
全民上手大模型--ollama+langchain+通义千问零费用java+python跑通本机大模型
543 0