Windows部署DeepSeek-R1-Distill-Qwen-1.5B
下载Ollama用于本地运行大模型.
香港节点下载:Ollama.exe
下载完成且安装完毕之后,打开CMD命令,输入ollama
检测是否已经成功安装ollama
Ollama运行且安装Deepseek模型
前往Ollama网站,找到对应想要安装的模型;我这里机器条件限制,默认使用1.5B模型。访问https://ollama.com/library/deepseek-r1以获取想要下载的模型,有不同参数量的模型可供考虑,对计算机存储的要求也不同,这里选择参数量为8b的模型,这样虽然推理能力不咋样,文字生成速度还行。
版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要
4.7GB空余空间)
ollama run deepseek-r1:7b
版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b
PS F:\> ollama run deepseek-r1:1.5b
pulling manifest
pulling manifest
pulling 96c415656d37... 100% ▕████████████████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████████████████▏ 387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████████████████▏ 148 B
pulling 40fb844194b2... 100% ▕████████████████████████████████████████████████████▏ 487 B
verifying sha256 digest
writing manifest
success
演示
总的来说,为人类智慧的进步鼓掌!!!!
🏆 每日挑战:你知道答案吗?
如何在 PowerShell 中获取当前用户的 SID?
温馨提示 : 非特殊注明,否则均为©李联华的博客网原创文章,本站文章未经授权禁止任何形式转载;IP地址:18.223.156.172,归属地:俄亥俄州Dublin ,欢迎您的访问!
文章链接:https://www.lilianhua.com/windows-deployment-deepseek-r1-distill-qwen-1-5b.html
文章链接:https://www.lilianhua.com/windows-deployment-deepseek-r1-distill-qwen-1-5b.html