一、下载和安装 Ollama,这是DeepSeek本地部署、运行和管理工具
1. 首先,下载Ollama安装文件
Ollama官方下载网址:https://ollama.com/download

我是通过上面Ollama官网下载的安装文件,如果下载不了,也可以在Ollama官方GitHub仓库下载。

2. 安装Ollama
双击下载的安装包,开始安装Ollama:

安装完毕会自动运行,在Windows电脑桌面右下角状态栏中,显示Ollama图标。
安装后如果自动打开了命令提示符窗口,不要关闭,如果没有自动打开也没关系,先继续下一步骤。
3. 选择要部署的DeepSeek模型并下载
在CMD终端下通过命令下载DeepSeek R1越狱版,由于本人显卡为3060,直接使用14B参数基本满足需求,32B参数较卡,低于14B参数的模型极其降智。
##7b: ollama run huihui_ai/deepseek-r1-abliterated:7b ##8b: ollama run huihui_ai/deepseek-r1-abliterated:8b ##14b: ollama run huihui_ai/deepseek-r1-abliterated:14b ##32b: ollama run huihui_ai/deepseek-r1-abliterated:32b ##70b: ollama run huihui_ai/deepseek-r1-abliterated:70b

🚀参数模型硬件推荐
| 模型参数量 | CPU要求 | 内存要求 | 硬盘空间需求 | 显卡显存推荐 | 场景描述 |
|---|---|---|---|---|---|
| DeepSeek-R1-1.5B | 最低4核(推荐Intel/AMD多核) | 8GB+ | 3GB+(模型文件约1.5-2GB) | 非必需,可选4GB+如GTX 1650 | 低资源设备部署,例如树莓派、旧款笔记本等 |
| DeepSeek-R1-7B | 8核以上(推荐现代多核CPU) | 16GB+ | 8GB+(模型文件约4-5GB) | 推荐8GB+如RTX 3070/4060 | 中小型企业本地开发测试、中等复杂度NLP任务 |
| DeepSeek-R1-8B | 8核以上(推荐现代多核CPU) | 16GB+ | 8GB+(模型文件约4-5GB) | 推荐8GB+如RTX 3070/4060 | 更高精度的轻量级任务,如代码生成、逻辑推理 |
| DeepSeek-R1-14B | 12核以上 | 32GB+ | 15GB+ | 16GB+如RTX 4090或A5000 | 企业级复杂任务、长文本理解与生成 |
| DeepSeek-R1-32B | 16核以上(如AMD Ryzen 9或Intel i9) | 64GB+ | 30GB+ | 24GB+如A100 40GB或双卡RTX 3090 | 高精度专业领域任务、多模态任务预处理 |
| DeepSeek-R1-70B | 32核以上(服务器级CPU) | 128GB+ | 70GB+ | 多卡并行如2x A100 80GB或4x RTX 4090 | 科研机构/大型企业、高复杂度生成任务 |
| DeepSeek-R1-671B | 64核以上(服务器集群) | 512GB+ | 300GB+ | 多节点分布式训练如8x A100/H100 | 超大规模AI研究、通用人工智能探索 |
ollama轻松拉取huggingface上的大模型
要使用Ollama拉取Hugging Face上的大模型,你可以按照以下步骤操作:
- 升级Ollama:确保你的Ollama是最新版本,因为新版本支持直接运行Hugging Face上的GGUF格式模型。
- 找到模型:访问Hugging Face官网,找到你需要的大模型,并记录下模型的网址。
- 使用镜像站:由于国内网络环境的问题,可能无法直接访问huggingface.co,可以将网址替换为镜像站网址hf-mirror.com,例如将 https://huggingface.co/NexaAIDev/omnivision-968M 替换为 https://hf-mirror.com/NexaAIDev/omnivision-968M。

- 拉取模型:使用Ollama命令拉取模型,格式为 ollama run hf-mirror.com/{username}/{repository}:{quantization},其中 {quantization} 是模型的量化版本,如果不写的话默认为 latest,即最新发布的版本。例如,拉取一个名为 omnivision-968M 的模型,命令可以是 ollama run hf-mirror.com/NexaAIDev/omnivision-968M:494M-Q8_0。
在hf上直接复制拉取的地址后,将
hf.co替换成hf-mirror.com。如,直接复制的命令为,ollama run hf.co/mradermacher/DeepSeek-R1-Distill-Qwen-14B-Uncensored-GGUF:IQ4_XS
替换后成,ollama run hf-mirror.com/mradermacher/DeepSeek-R1-Distill-Qwen-14B-Uncensored-GGUF:IQ4_XS

二、Chatbox官网下载地址、GitHub网址、网页版地址
1.下载Chatbox
这里选择使用chatbox,是因为比较简单,也可以使用其他,比如open webui,使用open webui需要使用在win上安装docker,对新手不友好。
还有个项目,同样也很方便的,也可以使用:Cherry Studio - 全能的AI助手
github地址:Releases · CherryHQ/cherry-studio
Chatbox中文官网地址:https://www.chatboxai.app/zh (⚠️注意:国内访问可能较慢,推荐从GitHub下载)
Chatbox官方GitHub下载网址:https://github.com/Bin-Huang/chatbox/releases (👉 选最新版本,Windows选.exe,macOS选.dmg)
Chatbox网页版:https://web.chatboxai.app (👉 新手建议先安装客户端,更稳定!)
在GitHub下载列表页中,向下滚动,找到下图所需的版本:

在这里下载的Chatbox安装包,安装后默认就是简体中文,不需要额外设置。
2. Chatbox安装
双击下载的安装包,按提示安装,运行Chatbox软件,界面类似聊天工具,下面开始配置DeepSeek。
✏️注意:开始之前,确认本地电脑已经运行Ollama软件,并且已经按照第一步执行加载DeepSeek模型的命令,通过ollama完成模型本地化部署。
3.启用和配置deepseek模型
下面开始傻瓜式配置操作,选择Ollama的API。

选择对应的模型即可调用。
打开Chatbox软件 → 点左下角齿轮图标(设置);
点击「模型提供方」下接菜单,这里选择「Ollama」,因为我是用Ollama配置的DeepSeek;
在「API域名」框中,自动填充了
http://localhost:11434,如果没有自动填充,或者还安装了其他模型,请手动填充。选择模型,在「模型」下拉菜单中,选择
deepseek-r1:14b,根据自己运行的模型选择。其他「显示」「对话」「其他」选项,保持默认就可以了,根据情况修改,最后点击「保存」。
4.开始与DeepSeek在本地聊天
在Chatbox界面左侧栏中,选择一个AI智能助手,或者直接开启「新对话」,在下面的输入框中问「 介绍下你自己, 我需要发布到个人博客www.zkcoi.com作为展示」,DeepSeek模型先思考,再回答,如下图所示:

如果不想使用越狱版可以直接在CMD中部署原版。
ollama run deepseek-r1:14b


整体上原版效果好像更好。

三、【清华大学】《 DeepSeek:从入门到精通》(后附pdf网盘下载地址)
《DeepSeek从入门到精通》是由清华大学新闻与传播学院新媒体研究中心元宇宙文化实验室的余梦珑博士后及其团队撰写。文档的核心内容围绕DeepSeek的技术特点、应用场景、使用方法以及如何通过提示语设计提升AI使用效率等方面展开,帮助用户从入门到精通DeepSeek的使用。

1.DeepSeek简介
- DeepSeek是什么?
- 是一家专注于通用人工智能(AGI)的中国科技公司,主攻大模型研发与应用。DeepSeek-R1 是开源的推理模型,擅长处理复杂任务且可免费商用。主要特点:AI + 国产 + 免费 + 开源 + 强大。
- DeepSeek能做什么?
- 直接面向用户或者支持开发者,提供智能对话,文本生成,语义理解,计算推理,代码生成补全等应用场景,支持联网搜索与深度搜索模式,同时支持文件上传,能扫描读取各类文件及图片中的文字内容。

2.如何使用DeepSeek
-
使用平台:访问DeepSeek官方网站。
- 推理模型与通用模型的选择:根据任务类型选择合适的模型(如DeepSeek-R1)。
-
推理模型:擅长数学推导、逻辑分析、代码生成等,适合逻辑密度高的任务。
-
通用模型:擅长文本生成、创意写作、多轮对话等,适合多样性高的任务。
-
- 快思慢想:概率预测模型 vs 链式推理模型。快速反应模型(如ChatGPT)与慢速思考模型(如OpenAI的推理模型)的差异。

3.提示语设计与AI交互
- 提示语的定义与类型
- 提示语是用户输入给AI系统的指令或信息,用于引导AI生成特定的输出或执行特定的任务。 包括指令型、问答型、角色扮演型、创意型等,强调了根据任务类型选择合适的提示语策略的重要性。
- 提示语设计的核心技能
-
问题重构、创意引导、结果优化、跨域整合、系统思维
-
- 提示语设计的进阶技能
-
语境理解、抽象化能力、批判性思考、创新思维、伦理意识
-

4.提示语的DNA与组合策略
- 提示语的基本元素分类
-
信息类、结构类、控制类
-
- 提示语元素组合矩阵
-
提高输出准确性、增强创造性思维、优化任务执行效率等
-
- 提示语组合的协同效应理论

5.调教AI的秘籍:关键策略与常见陷阱
- 提示语设计的关键策略
- 精准定义任务、分解复杂任务、引导性问题设计等策略
- 常见陷阱及应对方法
-
缺乏迭代、过度指令、假设偏见、幻觉生成、忽视伦理边界等常见陷阱及应对方法
-

6.AI的伦理与局限
- AI幻觉现象及其产生原因
-
AI可能带来的伦理问题,如隐私保护、公平性、透明度等,提供了相应的应对策略。提到AI幻觉(AI Hallucinations)现象,AI生成看似合理但实际错误的内容,分析了其产生的原因和应对方法。
-
- AI的潜在缺点与局限
- 包含可解释性、数据偏见、实时更新等
- AI伦理考虑要点
- 隐私保护、公平性、透明度等

7.实战技巧与案例
- 不同需求类型的提示语设计
-
通过多个实战案例展示了如何根据不同的任务需求设计有效的提示语,包括决策需求、分析需求、创造性需求、验证需求、执行需求等不同需求类型的提示语设计
-
- 提示语链的概念、作用机制、设计原则与模型
- 提供详细的提示语示例和实战技巧,帮助用户更好地理解和应用AI技术。
- 提示语链优化策略
-
思维拓展、聚合思维、跨界思维、深度融合等提示语链优化策略
-

8.高级提示语设计方法
- 创新设计策略
-
抽象—具体循环法、反向设计思维、矛盾思维法、涌现思维模型等创新设计策略
-
- 提示语链的实战应用
-
复杂任务分解、多模态信息处理、质量控制等
-
- 高级技巧(PIA、TFM、DES等)
- 语用意图分析(PIA)、主题聚焦机制(TFM)、细节增强策略(DES)等高级技巧

9.特定应用场景的提示语设计
- 文案写作:信息传递、情感共鸣、行动引导
- 营销策划:创意概念、传播策略、执行方案
- 品牌故事:品牌定位、价值主张、未来愿景
- 年终总结:业绩回顾、成就展示、未来规划
- 社交媒体内容创作:微信公众号、微博、小红书、抖音

10.人机共生与能力培养
- 人机共生时代的能力培养体系
- 四大核心能力:AI思维、整合力、引导力、判断力
- 提示词工程与提示词框架
- TASTE、ALIGN
- 从“使用者”到“创新者”的进阶之路
- 知识唤醒,AI辅助头脑风暴;知识整合,AI辅助关联分析;知识创新,形成结构化提示
- AI使用层次与突破路径
- 基础使用、进阶使用、创新使用;建立提示词体系、设计协作流程、发展创新方法、打造个人特色

11.总结与展望
AI技术未来将朝着模型性能提升、多模态融合、伦理与可持续性发展、行业深度整合以及人机协作更加紧密的方向发展。
提示词设计作为人机交互的关键环节,其重要性在于能够精准传达用户需求、提升AI性能并避免误解与偏见,而其持续优化则需要根据任务需求调整、结合AI反馈进行迭代,并不断学习最新研究成果以实现跨领域创新。
人机协作具有巨大的潜力,能够提升工作效率、加速创新、促进知识共享与个性化服务,但同时也面临着建立信任、明确责任、更新技能知识以及应对伦理与法律问题等挑战。
本文作者:ZKCOI
文章名称:ollama+chatbox,本地部署deepseek越狱版,附全网热搜:清华大学《 DeepSeek:从入门到精通》pdf下载
文章链接:https://www.zkcoi.com/365up/skills/4095.html
本站资源仅供个人学习和交流,如若转载,请注明出处,详见《免责声明》。


微信扫一扫
支付宝扫一扫
