使用Olama部署本地ai(以deepseek为例)
0.下载环境
官方下载链接 https://ollama.com/download
包含Windows,MacOS,Linux
1.下载deepseek模型到Olama
接下来以1.5b蒸馏模型为例。其他蒸馏模型尺寸自行按需下载,其包括:1.5b
,7b
,8b
,14b
,32b
,70b
。
进入终端,输入
ollama run deepseek-r1:1.5b
如果要更换模型尺寸,请把1.5b
更换成自己想要的尺寸。
下载完成后,将自动运行模型。
2.运行模型
和上一部分一样,在终端输入
ollama run deepseek-r1:1.5b
评论
匿名评论
隐私政策
你无需删除空行,直接评论以获取最佳展示效果