docker model package
| 描述 | 將 GGUF 檔案打包成 Docker 模型 OCI 工件，可選擇新增許可證。 |
|---|---|
| 用法 | docker model package --gguf <路徑> [--license <路徑>...] [--context-size <令牌數>] [--push] MODEL |
描述
將 GGUF 檔案打包成 Docker 模型 OCI 工件，可選擇新增許可證。除非指定 --push，否則該包將傳送到模型執行器。打包分片模型時，--gguf 應指向第一個分片。所有分片檔案應位於同一目錄，檔名應包含索引（例如 model-00001-of-00015.gguf）。
選項
| 選項 | 預設值 | 描述 |
|---|---|---|
--context-size | 上下文大小（以令牌為單位） | |
--gguf | gguf 檔案的絕對路徑（必填） | |
-l, --license | 許可證檔案的絕對路徑 | |
--push | 推送到登錄檔（如果未設定，模型將載入到模型執行器內容儲存中） |