手機(jī)掃描下載
應(yīng)用指數(shù)：5 分
騰訊文檔linux客戶端linux軟件
qq音樂linux客戶端66.17Mlinux軟件
LXmuSiC洛雪音樂播放器linux版471.90Mlinux軟件
gparted分區(qū)工具553.90Mlinux軟件
百度網(wǎng)盤Linux版本98.40Mlinux軟件
ubuntu桌面版和服務(wù)器版5427.20Mlinux軟件
qq linux版本linux軟件
wps office linux版本648.48Mlinux軟件
騰訊會議Linux版本linux軟件
搜狗輸入法linux版本318.59Mlinux軟件
騰訊視頻linux客戶端47.87Mlinux軟件
釘釘linux最新版本linux軟件
應(yīng)用介紹應(yīng)用截圖相關(guān)版本網(wǎng)友評論下載地址
ollama github linux安裝包部署到本地之后，就可以實(shí)現(xiàn)linux系統(tǒng)上運(yùn)行deepseek，目前deepseek要想在電腦上運(yùn)行，就需要搭配ollama使用，但是注意，部分用戶ollama安裝deepseek失敗，主要原因是大家下載了不匹配的大模型，大家務(wù)必要根據(jù)電腦的配置和內(nèi)存，下載和部署對應(yīng)的模型版本。
Ollama支持多種不同的硬件加速選項(xiàng)，包括純CPU推理和各類底層計(jì)算架構(gòu)，如AppleSilicon。這使得Ollama能夠更好地利用不同類型的硬件資源，提高模型的運(yùn)行效率。作為一個(gè)開源框架，專門設(shè)計(jì)用于在本地運(yùn)行大型語言模型。它的主要特點(diǎn)是將模型權(quán)重、配置和數(shù)據(jù)捆綁到一個(gè)包中，從而優(yōu)化了設(shè)置和配置細(xì)節(jié)，包括GPU使用情況，簡化了在本地運(yùn)行大型模型的過程。Ollama支持macOS和Linux操作系統(tǒng)，并且已經(jīng)為Windows平臺發(fā)布了預(yù)覽版。Ollama的一個(gè)重要優(yōu)勢是其易用性。安裝過程簡單，例如在macOS上，用戶可以直接從官網(wǎng)下載安裝包并運(yùn)行。對于Windows用戶，官方推薦在WSL2中以Linux方式使用命令安裝。安裝完成后，用戶可以使用命令行工具來下載和運(yùn)行不同的模型。Ollama還提供了對模型量化的支持，這可以顯著降低顯存要求。例如，4-bit量化可以將FP16精度的權(quán)重參數(shù)壓縮為4位整數(shù)精度，從而大幅減小模型權(quán)重體積和推理所需顯存。這使得在普通家用計(jì)算機(jī)上運(yùn)行大型模型成為可能。
Ollama的項(xiàng)目結(jié)構(gòu)主要包括以下部分：
api：用Go編寫的客戶端API庫。
discover：負(fù)責(zé)掃描系統(tǒng)中的可用模型、加載配置文件，或者幫助用戶查找符合特定需求的模型。
docs：項(xiàng)目的文檔目錄,包括安裝步驟、API文檔、常見問題解答（FAQ）和示例代碼等。
envconfig：包含環(huán)境配置文件或腳本
format：用于單位和時(shí)間的格式處理的工具。
app：桌面應(yīng)用程序（主要是一個(gè)托盤）。
auth：用于用戶身份驗(yàn)證，確保只有授權(quán)用戶才能訪問特定的功能或模型。
cmd：命令和相關(guān)的處理程序。
convert：用于將不同的模型格式轉(zhuǎn)換為Ollama可以使用的格式
integration：用于將Ollama與其他系統(tǒng)或應(yīng)用程序集成的代碼。這些集成可能包括與Web服務(wù)、數(shù)據(jù)庫、API、第三方服務(wù)、其他框架等的集成。
macapp：mac桌面應(yīng)用程序。
scripts：包含構(gòu)建、測試、發(fā)布等操作所需的腳本文件。確保項(xiàng)目能夠在不同環(huán)境中順利編譯和運(yùn)行。
server：用Go編寫的Web服務(wù)實(shí)現(xiàn)。
version：版本信息。
openai：用于Ollama的OpenAIAPI兼容封裝。
parser：模型信息和消息的解析器。
progress：顯示加載進(jìn)度的實(shí)用程序。
readline:命令輸入工具用于用戶與命令行工具的交互。
Ollama的構(gòu)建系統(tǒng)利用Go提供的構(gòu)建工具，并結(jié)合cmake來處理C/C++部分的編譯。這兩個(gè)構(gòu)建系統(tǒng)共存，以構(gòu)建不同的部分：
CMake：用于構(gòu)建llama.cpp，并提供接口。
Go構(gòu)建系統(tǒng)：編譯、鏈接和打包其余部分，以生成Ollama的應(yīng)用程序和CLI。
核心原理：
獨(dú)立性：強(qiáng)調(diào)在本地環(huán)境中運(yùn)行，減少對外部網(wǎng)絡(luò)和云服務(wù)的依賴，提高數(shù)據(jù)安全性。
一致性：通過版本控制和依賴管理，確保模型在不同環(huán)境中的一致性和可重復(fù)性。
封裝性：通過容器化技術(shù)，Ollama將模型及其運(yùn)行時(shí)環(huán)境封裝在一起，確保一致的運(yùn)行環(huán)境。
便捷性：通過簡單的CLI工具，用戶可以快速進(jìn)行模型的部署和管理，降低了操作復(fù)雜性。
注意：如果之前已經(jīng)安裝了舊版本的ollama，那么需要先完成手動(dòng)卸載，sudo rm -rf /usr/lib/ollama
遠(yuǎn)程安裝教程
官網(wǎng)提供了一條命令行快速安裝的方法。
curl -fsSL https://ollama.com/install.sh | shCopy to clipboardErrorCopied
此命令將自動(dòng)下載最新版本的 Ollama 并完成安裝
本地安裝教程
一、安裝
1.下載并解壓與操作系統(tǒng)匹配的安裝包
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
Copy to clipboardErrorCopied
AMD GPU下載：
curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz
sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgz
Copy to clipboardErrorCopied
ARM 64下載：
curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz
sudo tar -C /usr -xzf ollama-linux-arm64.tgz
Copy to clipboardErrorCopied
2.2 啟動(dòng) Ollama并驗(yàn)證
輸入以下命令啟動(dòng) Ollama：
ollama serve
Copy to clipboardErrorCopied
另開啟一個(gè)終端，輸入以下命令，驗(yàn)證ollama是否運(yùn)行成功
ollama -v
Copy to clipboardErrorCopied
2.3 將 Ollama 添加為自啟動(dòng)服務(wù)（推薦）
首先，為 Ollama 創(chuàng)建用戶和組：
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
Copy to clipboardErrorCopied
然后在該位置：/etc/systemd/system/ollama.service 創(chuàng)建服務(wù)文件
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=default.target
Copy to clipboardErrorCopied
最后啟動(dòng)服務(wù)：
sudo systemctl daemon-reload
sudo systemctl enable ollama
Copy to clipboardErrorCopied
三、更新
再次運(yùn)行之前的安裝語句來更新 Ollama：
curl -fsSL https://ollama.com/install.sh | sh
Copy to clipboardErrorCopied
或者重新下載最新的Ollama包：
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
Copy to clipboardErrorCopied
四、安裝特定版本
設(shè)置 OLLAMA_VERSION字段，，可以安裝對應(yīng)的版本
curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh
Copy to clipboardErrorCopied
五、查看日志
查看作為啟動(dòng)服務(wù)運(yùn)行的 Ollama 的日志：
journalctl -e -u ollama
刪除 Ollama 服務(wù)：
sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.serviceCopy to clipboardErrorCopied
從 bin 目錄中刪除 Ollama 二進(jìn)制文件： /usr/local/bin,/usr/bin ,/bin
sudo rm $(which ollama)
刪除下載的模型和 Ollama 服務(wù)用戶和組：
sudo rm -r /usr/share/ollama
sudo groupdel ollama
刪除下載的庫文件
sudo rm -rf /usr/local/lib/ollama
ollama serve? ?#啟動(dòng)ollama
ollama create? #從模型文件創(chuàng)建模型
ollama show? ? #顯示模型信息
ollama run? ? ?#運(yùn)行模型
ollama pull? ? #從注冊表中拉取模型
ollama push? ? #將模型推送到注冊表
ollama list? ? #列出模型
ollama cp? ? ? #復(fù)制模型
ollama rm? ? ? #刪除模型
ollama help? ? #獲取有關(guān)任何命令的幫助信息
更多l(xiāng)inux版本，可以查看：https://github.com/ollama/ollama/releases/tag/v0.9.0（若打不開，需要加速器或科學(xué)上網(wǎng)工具）
靈犀AI軟件
Vidu AI軟件
lm studio電腦版
小猿ai軟件最新版本
Chatbox ai軟件電腦版
當(dāng)貝ai平臺電腦版
小小運(yùn)動(dòng)家官方版
漢王天地大模型官方軟件
咕嚕播客app
emoai手機(jī)版
冬甲智能助手app
weshop唯象app
gparted分區(qū)工具553.90Mlinux軟件
同花順linux版linux軟件
山東通麒麟版linux軟件
360安全衛(wèi)士linux版本linux軟件
浙政釘linux版本300.00Mlinux軟件
360安全瀏覽器linux版linux軟件
飛書linux版370.48Mlinux軟件
AMD Linux開源顯卡驅(qū)動(dòng)54linux軟件
政務(wù)微信linux版linux軟件
紅蓮花安全瀏覽器linux安裝包97.03Mlinux軟件
LXmuSiC洛雪音樂播放器linux版471.90Mlinux軟件
天翼云盤linux版本13.51Mlinux軟件
linux系統(tǒng)