开发方法

模型本地运行

模型本地运行的封面

安装

请按照以下步骤操作:

第一步:创建或编辑目录(如果不存在) 首先确保覆盖目录存在:

sudo mkdir -p /etc/systemd/system/ollama.service.d

第二步:用 Vim 编辑文件 直接指定用 Vim 打开这个覆盖文件:

sudo vim /etc/systemd/system/ollama.service.d/override.conf

第三步:在 Vim 中输入内容 进入 Vim 后,请按以下步骤操作:

按 i 键进入插入模式(左下角会显示 -- INSERT --)。 清空里面可能存在的乱七八糟的内容,然后复制粘贴下面这段干净的配置进去:

[Service]
    Environment="OLLAMA_MODELS=/home/ygc/ollama_models"

按 Esc 键退出插入模式。 输入 :wq (保存并退出),然后按回车。

第四步:重启服务(非常重要) 修改完文件后,必须重新加载配置并重启服务才能生效:

sudo systemctl daemon-reload
sudo systemctl restart ollama

第五步:验证 最后检查一下是否设置成功:

systemctl show ollama | grep OLLAMA_MODELS

如果看到输出 /home/ygc/ollama_models,就说明大功告成了!

opencode配置

vim ~/.config/opencode/opencode.json