[Linux服务器] Linux 安装 Ollama

1184 0
Honkers 2025-4-7 13:12:40 来自手机 | 显示全部楼层 |阅读模式

1、下载地址 Download Ollama on Linux

2、有网络直接执行 curl -fsSL https://ollama.com/install.sh | sh 命令

3、下载慢的解决方法 

  1. 1、curl -fsSL https://ollama.com/install.sh -o ollama_install.sh
  2. 2、sed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.5.7/ollama-linux|g' ollama_install.sh
  3. 3、chmod +x ollama_install.sh
  4. 4、sh ollama_install.sh
复制代码

4、修改端口和模型路径

  1.  vim /etc/systemd/system/ollama.service
复制代码

     这个是增加的变量

     "OLLAMA_MODELS=/mnt/ollama/models"       "OLLAMA_HOST=0.0.0.0:1001

  1. [Unit]
  2. Description=Ollama Service
  3. After=network-online.target
  4. [Service]
  5. ExecStart=/usr/local/bin/ollama serve
  6. User=ollama
  7. Group=ollama
  8. Restart=always
  9. RestartSec=3
  10. Environment="PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/dat/java/jdk1.8.0_271/bin:/dat/java/jdk1.8.0_271/jre/bin:/root/bin" "OLLAMA_MODELS=/mnt/ollama/models" "OLLAMA_HOST=0.0.0.0:1001"
  11. [Install]
  12. WantedBy=default.target
复制代码

文件夹赋权限

  1. 1、 chomd 775 -R /mnt/ollama/models/
  2. 2、 chown ollama.ollama -R /mnt/ollama/models
复制代码

保存之后执行,重载和重启命令

  1. 1、sudo systemctl daemon-reload
  2. 2、sudo systemctl restart ollama
复制代码

4、查看状态启动成功

5、运行模型一定要用这个... 指定端口,因为改了端口。客户端找不到默认了,就会提示

could not connect to ollama app, is it running?(坑了好长一会...)

  1. OLLAMA_HOST=127.0.0.1:1001 ollama list
  2. OLLAMA_HOST=127.0.0.1:44311 ollama ps
  3. OLLAMA_HOST=127.0.0.1:44311 ollama run deepseek-r1:7b
复制代码

6、感谢Ubuntu 24.04上报:Error: could not connect to ollama app, is it running?的解决方法-CSDN博客

Ubuntn下载Ollama慢或卡顿解决方案_ollama下载慢怎么办-CSDN博客

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

中国红客联盟公众号

联系站长QQ:5520533

admin@chnhonker.com
Copyright © 2001-2026 Discuz Team. Powered by Discuz! X3.5 ( 粤ICP备13060014号 )|天天打卡 本站已运行