首页 > 运维 > linux运维 > 正文

Linux内网离线安装Ollama

蓮花仙者
发布: 2025-07-21 12:28:22
原创
557人浏览过

在线安装

在线安装Ollama非常简单,只需访问https://ollama.com/download,选择适合您的服务器系统,然后按照步骤完成安装即可。

离线安装

首先,您需要查看服务器的CPU型号。使用以下命令可以查看Linux系统的CPU型号:

## 查看Linux系统CPU型号命令,我的服务器cpu型号是x86_64
lscpu
登录后复制

Linux内网离线安装Ollama

根据CPU型号从以下地址下载Ollama安装包:

https://www.php.cn/link/f220707c3afe39d1779e0a34af72bb7f

# x86_64 CPU选择下载ollama-linux-amd64
# aarch64|arm64 CPU选择下载ollama-linux-arm
登录后复制

Linux内网离线安装Ollama

接下来,您需要下载Linux环境的Ollama安装脚本。可以通过以下地址下载:

## 下载地址1,浏览器中打开下面地址
https://ollama.com/install.sh
## 下载地址2
https://github.com/ollama/ollama/blob/main/scripts/install.sh
登录后复制

修改install.sh脚本时,需要注意两个关键点:Ollama下载地址和Ollama安装包存放目录。

首先,注释掉下载链接:

status "Downloading ollama..."
## 在install.sh的第65行
#curl --fail --show-error --location --progress-bar -o $TEMP_DIR/ollama "https://ollama.com/download/ollama-linux-${ARCH}${VER_PARAM}"
登录后复制

然后,修改ollama安装目录:

status "Installing ollama to $BINDIR..."
## 在install.sh的第73行
#$SUDO install -o0 -g0 -m755 $TEMP_DIR/ollama $BINDIR/ollama
$SUDO install -o0 -g0 -m755 ./ollama-linux-amd64  $BINDIR/ollama
登录后复制

运行install.sh脚本进行安装:

# 执行installl.sh脚本,需要sudo 权限
chmod +x install.sh
./install.sh
# 如果报错误权限不足,执行
chmod +x install.sh
登录后复制

运行大模型,如通义千问:

稿定在线PS
稿定在线PS

PS软件网页版

稿定在线PS 99
查看详情 稿定在线PS
# 需要先将大模型下载到OLLAMA_MODELS文件中
# ollama run
ollama run qwen2:7b
登录后复制

关闭Ollama服务:

# 关闭ollama服务
service ollama stop
登录后复制

Ollama常用命令:

## 启动Ollama服务
ollama serve
## 从模型文件创建模型
ollama create
## 显示模型信息
ollama show
## 运行模型
ollama run 模型名称
## 从注册表中拉去模型
ollama pull 模型名称
## 将模型推送到注册表
ollama push
## 列出模型
ollama list
## 复制模型
ollama cp
## 删除模型
ollama rm 模型名称
## 获取有关Ollama任何命令的帮助信息
ollama help
登录后复制

FAQ

如何查看运行的日志?

在Linux上运行命令journalctl -u ollama,即可查看运行日志。

如何配置本地大模型对局域网提供服务?

在Linux上修改配置文件,并配置环境变量 OLLAMA_HOST 来指定对局域网提供服务的地址,再重启Ollama服务即可。

vim /etc/systemd/system/ollama.service
在[Service]下面加上:
Environment="OLLAMA_HOST=0.0.0.0:11434"
登录后复制

重启后,就可以通过http在局域网中访问了。

下载的大模型存储在哪个路径?

默认情况下,不同操作系统存储的路径如下:

macOS: ~/.ollama/models
Linux: /usr/share/ollama/.ollama/models
Windows: C:\Users<username>.ollama\models
登录后复制

本文由 小马哥 创作,采用 知识共享署名4.0 国际许可协议进行许可。本站文章除注明转载/出处外,均为本站原创或翻译,转载前请务必署名。

以上就是Linux内网离线安装Ollama的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号