Ollama安装和实例部署(Linux版本)
创始人
2024-10-22 09:12:27

下载 Ollama

Ollama的官网地址

在 Linux 上安装 - Ollama中文网

Ollame的官网介绍

1、ollama安装或者更新

自动安装或者更新

#Linux curl -fsSL https://ollama.com/install.sh | sh

这块我们可以直接下载,他是默认下载最新版本的。你也可以手动安装

手动安装

将其下载到您的 PATH 中的目录 sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama sudo chmod +x /usr/bin/ollama 为 Ollama 创建一个用户 sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama 在 /etc/systemd/system/ollama.service 中创建一个服务文件: [Unit]  Description=Ollama Service After=network-online.target  [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3  [Install] WantedBy=default.target  然后启动服务: sudo systemctl daemon-reload sudo systemctl enable ollama

2、ollama常用指令

#使用感觉和docker类似,输出ollama就会有提示 ollama serve        #启动ollama ollama create        #从模型文件创建模型 ollama show                #显示模型信息 ollama run                #运行模型 ollama pull                #从注册表中拉取模型 ollama push                #将模型推送到注册表 ollama list                #列出模型 ollama cp                #复制模型 ollama rm                #删除模型 ollama help                #获取有关任何命令的帮助信息

3、卸载

移除 ollama 服务: sudo systemctl stop ollama sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service

4、使用实例:举例 Llama3使用示例

#下载模型 ollama pull llama3 #下载成功查看模型 ollama list #运行模型 ollama run llama3 

相关内容

热门资讯

科技+养生,咋成好搭档? 原标题:打一套“科技养生拳”(我的养生故事) 退休语文教师国立朗(右一)与家人交流电子产品使用方法...
中国平安联合主办世界互联网大会... 4月13日至14日,2026年世界互联网大会亚太峰会在香港会展中心召开,聚焦人工智能安全治理、智能体...
我国牵头为全球人形机器人编写“... IT之家 4 月 17 日消息,据央视新闻今日报道,从国家标准委了解到,我国在国际标准化组织成功立项...
诺基亚竟然还在做笔记本!能扛1... 快科技4月15日消息,继曝光诺基亚Mission-Safe Phone 2三防手机后,smashx_...
世界数据组织成立!你的数据到底... 据国家数据局消息,世界数据组织日前在北京正式宣告成立。该组织旨在打破全球数据壁垒,建立可持续的数据发...