国产AI神器Deepseek,本地离线使用教程!

本文涉及的产品
模型在线服务 PAI-EAS,A10/V100等 500元 1个月
交互式建模 PAI-DSW,每月250计算时 3个月
模型训练 PAI-DLC,100CU*H 3个月
简介: 国产AI神器Deepseek,本地离线使用教程!

0x00 前言

         

DeepSeek大语言模型系以Transformer架构为基础,自主研发的深度神经网络模型。模型基于注意力机制,通过海量语料数据进行预训练,并经过监督微调、人类反馈的强化学习等进行对齐,构建形成深度神经网络,并增加审核、过滤等安全机制,使算法模型部署后能够根据人类的指令或者提示,实现语义分析、计算推理、问答对话、篇章生成、代码编写等任务。

         

         

0x01 准备工具

         

Ollama(https://ollama.com/download),下载windows版

         

Chatbox(https://chatboxai.app/zh),下载windows版    

         

         

         

0x02 安装使用

         

首先安装Ollama,点击Install进行安装,默认路径,打开cmd,输入ollama,然后回车。    

         

         

         

         

安装完成Ollama之后,浏览器访问https://ollama.com,在搜索框中搜索并选中deepseek-r1。    

         

         

         

在命令行中执行命令“ollama run deepseek-r1:1.5b”,下载deepseek,出现success表示安装成功。    

         

         

         

         

         

第二步,安装Chatbox,把deepseek加入其中。

             

         

             

         

         

选择下方的按钮使用自己的API Key本地模型选项。

         

         

弹出的页面中选择“Ollama API”,自动跳转下一步。    

         

         

在跳转的页面里面选择模型,直接保存,完成

         

   

         

在对话框中直接输入提示词或问题,然后回车就可以看到问题的结果。

         

         

         

0x03 参考链接    

          

https://ollama.com/download           

          

https://chatboxai.app/zh           

          

https://www.deepseek.com/               

         

         

                   

         

         

         

         

         

         

         

         

         

         

             

相关实践学习
使用PAI-EAS一键部署ChatGLM及LangChain应用
本场景中主要介绍如何使用模型在线服务(PAI-EAS)部署ChatGLM的AI-Web应用以及启动WebUI进行模型推理,并通过LangChain集成自己的业务数据。
机器学习概览及常见算法
机器学习(Machine Learning, ML)是人工智能的核心,专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能,它是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。 本课程将带你入门机器学习,掌握机器学习的概念和常用的算法。
相关文章
|
2天前
|
机器学习/深度学习 物联网 PyTorch
小白避坑指南:国内用Colossal-AI微调DeepSeek 1.5B的完整踩坑记录(附镜像加速方案)
本文详细记录了使用Colossal-Ai对DeepSeek-Qwen模型进行微调的过程,包括模型下载、环境部署、数据集处理及代码实现等环节。重点介绍了LoRA低秩适配方法和Colossal-Ai分布式训练框架的使用技巧,解决了模型封装后函数调用冲突、梯度检查点配置等问题。通过命令行参数灵活调整训练配置,最终在两块A100 GPU上完成训练,单卡显存占用约11GB,利用率达85%。文章总结了常见问题及解决方法,为后续研究提供参考。
56 15
小白避坑指南:国内用Colossal-AI微调DeepSeek 1.5B的完整踩坑记录(附镜像加速方案)
|
2天前
|
人工智能 并行计算 语音技术
Open-LLM-VTuber:宅男福音!开源AI老婆离线版上线,实时语音+Live2D互动还会脸红心跳
Open-LLM-VTuber 是一个开源的跨平台语音交互 AI 伴侣项目,支持实时语音对话、视觉感知和生动的 Live2D 动态形象,完全离线运行,保护用户隐私。
66 10
Open-LLM-VTuber:宅男福音!开源AI老婆离线版上线,实时语音+Live2D互动还会脸红心跳
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
AI 世界生存手册(二):从LR到DeepSeek,模型慢慢变大了,也变强了
大家都可以通过写 prompt 来和大模型对话,那大模型之前的算法是怎样的,算法世界经过了哪些比较关键的发展,最后为什么是大模型这条路线走向了 AGI,作者用两篇文章共5.7万字详细探索一下。 第一篇文章指路👉《AI 世界生存手册(一):从LR到DeepSeek,模型慢慢变大了,也变强了》
AI 世界生存手册(二):从LR到DeepSeek,模型慢慢变大了,也变强了
|
5天前
|
人工智能 自然语言处理 API
AI双轨革命:DeepSeek与Manus
DeepSeek与Manus是当前人工智能领域的两款明星产品,技术定位和核心能力各有千秋。DeepSeek基于混合专家模型,参数达6710亿,擅长知识推理与文本生成,提供高性价比的企业级应用;Manus采用多智能体协作架构,实现任务全流程自动化,支持跨平台工具调用。两者并非直接竞争,而是互补,共同推动AI向智慧化和实用化发展。
50 2
|
7天前
|
人工智能 JavaScript 前端开发
【最佳实践系列】AI程序员让我变成全栈:基于阿里云百炼DeepSeek的跨语言公告系统实战
本文介绍了如何在Java开发中通过跨语言编程,利用阿里云百炼服务平台的DeepSeek大模型生成公告内容,并将其嵌入前端页面。
|
3天前
|
人工智能 算法 JavaScript
DeepSeek:全栈开发者视角下的AI革命者
当模型部署门槛降低后,如何设计更具创意的应用场景?当开源社区以每月30%的速度贡献新模块时,怎样构建可持续的技术护城河?或许正如Linux当年开启的开源盛世,DeepSeek正在为AI时代的技术创新写下新的注脚。唯一可以确定的是,那些还在纠结于调用哪个API接口的开发者,即将错过这个时代最激动人心的技术浪潮。
|
4天前
|
存储 人工智能 运维
阿里云操作系统控制台评测:国产AI+运维 一站式运维管理平台
本文详细评测了阿里云操作系统控制台,作为一款集运维管理、智能助手和系统诊断于一体的工具,它为企业提供了高效管理云资源的解决方案。文章涵盖登录与服务开通、系统管理与实例纳管、组件管理与扩展功能、系统诊断与问题排查以及实时热点分析与性能优化等内容。通过实际操作展示,该平台显著提升了运维效率,并借助AI智能助手简化了复杂操作。建议进一步完善组件库并增强第三方兼容性,以满足更多高级运维需求。
32 0
|
5天前
|
人工智能 自然语言处理 供应链
AI直播销售奇迹:00后DeepSeek的3.3亿真相探究
近日,“00后主播借DeepSeek技术直播卖出3.3亿”的新闻引发关注。此次成功不仅得益于主播个人魅力,更离不开“交个朋友”直播间团队对AI技术的深度融合。通过DeepSeek大模型,AI在内容生成、流程优化等方面大幅提升效率,实现了直播话术自动生成、多场景适配及全球化支持。团队还利用AI进行选品、合规审核和数据分析,优化直播策略。多位主播精细分工,结合强大的背景资源,确保高效带货。AI与真人主播互补,提升转化率。尽管存在版权、就业等争议,此次销售奇迹展示了AI技术商业化的潜力,并为行业提供了宝贵案例。
31 0
|
5天前
|
数据采集 人工智能 搜索推荐
DeepSeek告诉你眼中不会被AI替代的职业,打工人可以这样华丽转型
在AI技术飞速发展的今天,职场正经历前所未有的变革。麦肯锡预测,到2030年全球约30%的岗位可能被AI替代,但AI并非终结者,而是转型推手。DeepSeek揭示了教育、医疗、手工艺和创意等难以被AI替代的职业领域,并提供了从“被替代者”到“AI指挥官”的转型指南。生成式人工智能(GAI)认证成为提升自我、适应AI时代的关键工具,助力职场人掌握核心技能,实现华丽转型。未来赢家将是善用AI放大自身优势的人。
|
6天前
|
人工智能 自然语言处理 开发者
DeepSeek们,会让文科无用吗?——AI时代下的文科新机遇
在AI技术迅猛发展的今天,生成式AI如DeepSeek的出现引发了关于“文科无用”的讨论。本文探讨了AI时代文科的新机遇,指出人文能力在大模型内容生成中的不可替代性,并介绍了通过GAI认证提升个人竞争力的方法。文科生不仅不会被替代,反而能在AIGC内容官、智能体开发者和多模态创作者等新领域找到发展机遇。

热门文章

最新文章