docker model pull
| 描述 | 從 Docker Hub 或 HuggingFace 拉取模型到本地環境 |
|---|---|
| 用法 | docker model pull MODEL |
描述
將模型拉取到本地環境。下載的模型也會顯示在 Docker Desktop Dashboard 中。
選項
| 選項 | 預設值 | 描述 |
|---|---|---|
--ignore-runtime-memory-check | 如果模型估計的執行時記憶體超出系統資源，則不阻止拉取。 |
示例
從 Docker Hub 拉取模型
docker model pull ai/smollm2
從 HuggingFace 拉取
您可以直接從 Hugging Face 拉取 GGUF 模型。
關於量化的說明： 如果未指定標籤，該命令會嘗試拉取模型的 Q4_K_M 版本。如果 Q4_K_M 不存在，該命令會拉取在 HuggingFace 模型“檔案”檢視中找到的第一個 GGUF。要指定量化，請將其作為標籤提供，例如：docker model pull hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF:Q4_K_S
docker model pull hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF