Infortress远程访问本地大模型和知识库之深度体验

本文涉及的产品
对象存储 OSS,20GB 3个月
对象存储OSS,敏感数据保护2.0 200GB 1年
文件存储 NAS,50GB 3个月
简介: Infortress是一款革新性的AI工具,解决本地AI部署缺乏远程访问能力的痛点。通过简单配置,用户可轻松搭建本地大模型和知识库,并通过PC客户端与手机APP实现远程访问。其内网穿透技术确保稳定高效的数据交互,所有计算在本地完成,保障数据安全。此外,Infortress还支持家庭数据中心搭建,具备AI分类、异地双活等功能。

作为一名长期关注AI技术发展的从业者,我曾深度体验过Ollama、AnythingLLM等本地化AI部署工具。这些工具大大降低了在本地大模型和私有知识库部署的门槛,第一次将普通人进行AI私有化部署变为现实,但在实际应用场景中,始终存在一个难以回避的痛点,那就是使用这些本地AI工具局限在本机,缺乏远程访问的能力,更不用提移动端访问能力了,让本地部署的优越性大打折扣。

我尝试过多种方案试图打破这一局限。有的需要通过复杂的内网穿透技术将设备暴露在公网,或者直接使用远程桌面工具。但无论哪种方式,都增加了方案的难度和不可靠性,直到遇见Infortress,我才真正意识到:本地AI的“私有化”与“易用性”,原来可以兼得。

Infortress的解决方案堪称革新。它不仅完整保留了本地AI部署的核心优势,更通过一系列技术创新,将本地AI的用户体验拉齐到了大厂AI App的高度。其移动端应用实现了透明的本地AI的跨网络访问,这意味着我可以在通勤路上通过手机调取家中电脑的AI模型和知识库,分析客户发来的合同条款,而所有计算均在本地完成,数据无需经过任何第三方服务器。更令我惊喜的是,即便在4G/5G网络环境下,通过Infortress自带的的内网穿透技术,远程访问速度与稳定性竟与局域网无异。

Infortress本地部署大模型和知识库非常简单,打开Infortress电脑服务端,在左侧的菜单中找到【设置】,之后找到【本地大模型】,
image.png

在本地大模型页面,根据自己的需求,任意选择deepseek的版本,点击后面的【下载】按钮,程序即可自动完成安装部署。
image.png

等待程序安装部署完成后,点击【对话】按钮,即可使用本地大模型。
image.png

本地知识库的配置也很简单,需要先安装anythingLLM软件,可以到anythingLLM官网下载,安装好anythingLLM之后,打开anythingLLM,在左下角到设置中(如下图),找到API密钥,image.png
然后点击【创建新的API密钥】,
image.png
之后根据提示创建新的密钥,并复制出来,
image.png
image.png

之后打开Infortress服务端,同样在设置页面,找到【本地知识库】
image.png

将密钥粘贴到API密钥这里,并点击【保存】
image.png

保存成功后,点击【对话】按钮,就能和本地知识库进行对话了!

Infortress作为一款颠覆性的智能AI工具,不仅配置简单,使用起来更是超方便,可以通过PC客户端和手机APP远程访问本地AI大模型和知识库,PC端安装好客户端并登录,在左侧菜单中,找到AI大模型,点击进去,即可与本地大模型或者知识库进行对话了!
image.png

页面顶部title这里,可以根据自己的需求,在大模型或者知识库之间进行切换,
image.png

工作区下拉菜单这里,还可以在不同的大模型之间进行切换
image.png

手机APP的使用也是非常简单,登录APP,在首页功能区找到AI大模型,点击进入即可使用本地大模型和知识库了!
image.png

顶部也可以进行大模型和知识库的切换!
image.png

image.png

Infortress不仅能够轻松搭建本地大模型和知识库,更是一款专业的NAS软件,可以轻松搭建家庭数据中心。它支持外接硬盘与私有云搭建,不仅支持手机相册自动上传,AI智能分类功能让照片、文档、视频的检索效率呈指数级提升。更有高级的内网穿透+异地双活功能,让数据“永不掉线”,出差时通过Infortress的“内网穿透”功能,用酒店电脑安全访问家中数据,速度堪比本地局域网;两台电脑同时存储,即使地震掀翻数据中心,另一台电脑也能无缝衔接,确保数据永不丢失!

体验越深入,我越能理解Infortress的核心理念:私有化部署,应当以用户为中心构建完整闭环。从本地部署到移动端调用,从家庭数据存储到异地安全访问,Infortress用技术重新定义了AI的边界。当行业还在探讨“数据主权”的归属问题时,Infortress用户早已将数据牢牢掌握在自己手中——这种掌控感,正是数字时代最珍贵的资产。

当然,作为一款处于快速迭代中的产品,Infortress仍有广阔的进化空间。目前,它尚未提供与Ollama等独立部署框架的无缝对接方案,这对于已深度使用特定工具的用户而言,无疑是一个待填补的缺口。
当然除了deepseek和anythingLLM,还有一系列大模型框架和知识库值得Infortress未来集成,例如,Dify作为可视化AI应用开发平台,负责工作流编排、API接口管理和多模型调度,支持RAG管道构建,可动态组合检索与生成节点,在知识库系统中起到核心调度和管理的作用,连接RAGFlow和DeepSeek,实现完整的问答流程。

相关文章
|
27天前
|
人工智能 文件存储 数据中心
Ollama部署本地大模型并通过Infortress APP远程访问保姆级教程
本文介绍如何快速上手本地大模型部署工具Ollama及AI远程访问工具Infortress。通过Ollama,开发者可轻松部署如Llama、Deepseek等主流开源模型,仅需几行命令即可完成安装与运行。结合Infortress,用户能实现对本地大模型的远程访问,支持多设备无缝对接,同时提供便捷的模型切换与知识库管理功能。Infortress更兼具NAS软件特性,成为个人AI数据中心的理想选择。
|
2月前
|
人工智能 自然语言处理 知识图谱
Yuxi-Know:开源智能问答系统,基于大模型RAG与知识图谱技术快速构建知识库
Yuxi-Know是一个结合大模型RAG知识库与知识图谱技术的智能问答平台,支持多格式文档处理和复杂知识关系查询,具备多模型适配和智能体拓展能力。
287 0
Yuxi-Know:开源智能问答系统,基于大模型RAG与知识图谱技术快速构建知识库
|
1月前
|
人工智能 Linux iOS开发
本地部署大模型DeepSeek并通过Infortress App远程访问
本地部署DeepSeek大模型后,如何在外网用手机随时随地访问?无需复杂设置,通过Infortress App即可轻松实现!只需三步:安装Infortress服务端、一键部署DeepSeek大模型、安装手机/电脑客户端。Infortress支持纯图形化操作,适合新手,还自带内网穿透功能,跨网络访问无忧。让本地AI随身携带,数据掌控在手,随时随地使用!
本地部署大模型DeepSeek并通过Infortress App远程访问
|
3月前
|
存储 人工智能 搜索推荐
WiseMindAI:一款AI智能知识库,数据完全本地化,支持文档对话、10+种文档、10+AI大模型等
WiseMindAI 是一款由 Chris 开发的 AI 智能学习助手,支持数据完全本地化存储,确保用户隐私安全。它兼容多种文档格式(如 PDF、Markdown 等),并提供 AI 文档总结、智能笔记、沉浸式翻译、知识卡片生成等功能。此外,WiseMindAI 支持 10+ 大语言模型和自定义 AI 插件,适用于 Windows 和 Mac 平台,支持简体中文、繁体中文及英文。
336 74
WiseMindAI:一款AI智能知识库,数据完全本地化,支持文档对话、10+种文档、10+AI大模型等
|
2月前
|
人工智能 安全 数据安全/隐私保护
本地部署阿里通义千问Qwen3:一键远程访问,还能解决Ollama安全隐患
阿里开源模型通义千问Qwen3本地部署教程来啦!借助Ollama与Open WebUI,轻松实现图形化操作。通过贝锐花生壳内网穿透,不仅可安全远程访问,还有效防止未授权访问,保障AI资源私密性。从安装Ollama、配置参数到使用Open WebUI及花生壳设置,手把手教你完成全部流程!
1864 1
|
2月前
|
人工智能 搜索推荐 Java
【重磅】JeecgBoot 里程碑 v3.8.0 发布,支持 AI 大模型、应用、AI 流程编排和知识库
JeecgBoot 最新推出了一整套 AI 大模型功能,包括 AI 模型管理、AI 应用、知识库、AI 流程编排和 AI 对话助手。这标志着其转型为 “AI 低代码平台”,旨在帮助开发者快速构建和部署个性化 AI 应用,降低开发门槛,提升效率。
121 12
|
3月前
|
人工智能 自然语言处理 前端开发
【AI落地应用实战】大模型加速器2.0:基于 ChatDoc + TextIn ParseX+ACGE的RAG知识库问答系统
本文探讨了私有知识库问答系统的难点及解决方案,重点分析了企业知识管理中的痛点,如信息孤岛、知识传承依赖个人经验等问题。同时,介绍了IntFinQ这款知识管理工具的核心特点和实践体验,包括智能问答、深度概括与多维数据分析等功能。文章还详细描述了IntFinQ的本地化部署过程,展示了其从文档解析到知识应用的完整技术闭环,特别是自研TextIn ParseX引擎和ACGE模型的优势。最后总结了该工具对企业和开发者的价值,强调其在提升知识管理效率方面的潜力。
|
8月前
|
机器学习/深度学习 数据采集 人工智能
文档智能 & RAG 让AI大模型更懂业务 —— 阿里云LLM知识库解决方案评测
随着数字化转型的深入,企业对文档管理和知识提取的需求日益增长。阿里云推出的文档智能 & RAG(Retrieval-Augmented Generation)解决方案,通过高效的内容清洗、向量化处理、精准的问答召回和灵活的Prompt设计,帮助企业构建强大的LLM知识库,显著提升企业级文档管理的效率和准确性。
|
4月前
|
人工智能 自然语言处理 监控
通过阿里云向量检索 Milvus 版和通义千问快速构建基于专属知识库的问答系统
通过阿里云向量检索 Milvus 版和通义千问快速构建基于专属知识库的问答系统
|
8月前
|
机器学习/深度学习 数据采集 人工智能
大模型体验报告:阿里云文档智能 & RAG结合构建LLM知识库
大模型体验报告:阿里云文档智能 & RAG结合构建LLM知识库