GGUFからモデルを作成する

POST

http://localhost:11434/api/create

formatがjsonに設定されている場合、出力は常に整形式の JSON オブジェクトになります。モデルに JSON で応答するように指示することも重要です。

Request Example

Shell

JavaScript

Java

Swift

curl --location --request POST 'http://localhost:11434/api/create' \
--header 'Content-Type: application/json' \
--data-raw '{
    "model": "llama-2-7b-chat",
    "files": {
        "test.gguf": "sha256:9f86d081884c7d659a2feaa0c55ad015a3bf4f1b2b0b822cd15d6c15b0f00a08"
    }
}'

Response Example

{"status":"parsing GGUF"}
{"status":"using existing layer sha256:432f310a77f4650a88d0fd59ecdd7cebed8d684bafea53cbff0473542964f0c3"}
{"status":"writing manifest"}
{"status":"success"}

Requestパラメータ

Request Bodyパラメータapplication/json

model

string

必須

サンプル値:

llama-2-7b-chat

files

object

必須

test.gguf

string

必須

SHA256 checksum for model files

サンプル値:

sha256:9f86d081884c7d659a2feaa0c55ad015a3bf4f1b2b0b822cd15d6c15b0f00a08

正規マッチ:

^sha256:[a-f0-9]{64}$

Examples

Response

🟢200Success

application/json

A stream of JSON objects is returned:

Body

status

string

必須

モデルを量子化する

Safetensorsディレクトリからモデルを作成する