在 Linux 上安装

您所在的位置：网站首页 › 手动安装su二进制文件 › 在 Linux 上安装

在 Linux 上安装

2024-07-12 16:26| 来源: 网络整理| 查看: 265

在 Linux 上安装 Ollama¶ 安装¶

运行以下一行命令来安装 Ollama：

curl -fsSL https://ollama.com/install.sh | sh AMD Radeon GPU 支持¶

虽然 AMD 已将 amdgpu 驱动程序上游贡献给官方 Linux 内核源代码，但该版本较旧，可能不支持所有 ROCm 功能。我们建议您从 AMD 官网安装最新驱动程序，以获得对您 Radeon GPU 的最佳支持。

手动安装¶ 下载 ollama 二进制文件¶

Ollama 以自包含的二进制文件形式分发。将其下载到您的 PATH 中的目录：

sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama sudo chmod +x /usr/bin/ollama 将 Ollama 添加为启动服务（推荐）¶

为 Ollama 创建一个用户：

sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama

在 /etc/systemd/system/ollama.service 中创建一个服务文件：

[Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 [Install] WantedBy=default.target

然后启动服务：

sudo systemctl daemon-reload sudo systemctl enable ollama 安装 CUDA 驱动程序（可选 - 适用于 Nvidia GPU）¶

Download and install CUDA.

通过运行以下命令验证驱动程序是否已安装，该命令应打印出有关您 GPU 的详细信息：

nvidia-smi 安装 ROCm（可选 - 适用于 Radeon GPU）¶

Download and Install

确保安装 ROCm v6

启动 Ollama¶

使用 systemd 启动 Ollama：

sudo systemctl start ollama 更新¶

通过再次运行安装脚本来更新 ollama：

curl -fsSL https://ollama.com/install.sh | sh

或者通过下载 ollama 二进制文件：

sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama sudo chmod +x /usr/bin/ollama 查看日志¶

要查看作为启动服务运行的 Ollama 的日志，请运行：

journalctl -u ollama 卸载¶

移除 ollama 服务：

sudo systemctl stop ollama sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service

从您的 bin 目录（/usr/local/bin、/usr/bin 或 /bin）中移除 ollama 二进制文件：

sudo rm $(which ollama)

移除下载的模型以及 Ollama 服务用户和组：

sudo rm -r /usr/share/ollama sudo userdel ollama sudo groupdel ollama

【本文地址】

在 Linux 上安装

在 Linux 上安装

今日新闻

推荐新闻