Lokales LLM in Godot 4 einrichten
Ein lokales LLM in Godot 4 betreiben: ein Modell mit Ollama bereitstellen, es mit HTTPRequest aus GDScript aufrufen, den Chatverlauf speichern und wissen, was lokale Modelle Spieler kosten.
Sercan AltundasFounder of Neocortex
· 8 Min. Lesezeit

Ein Sprachmodell lokal in Godot laufen zu lassen bedeutet, dass Ihre NPCs ohne Internet und ohne Kosten pro Nachricht sprechen können. Der einfachste Aufbau ist Ollama, das offene Modelle auf Ihrem eigenen Rechner bereitstellt, zusammen mit dem eingebauten HTTPRequest-Knoten von Godot. Dieser Leitfaden baut einen lokalen NPC-Chat in GDScript und erklärt danach, was die Auslieferung eines lokalen Modells an Spieler wirklich bedeutet.
Zwei Wege, ein Modell lokal zu betreiben
- Ein lokaler Server wie Ollama läuft neben dem Spiel und antwortet über HTTP. Das ist einfach einzurichten und ideal für Prototypen, aber jeder Spieler bräuchte ihn installiert.
- Ein Modell im Spiel über eine GDExtension, die llama.cpp einbettet, wie es Open-Source-Addons wie NobodyWho tun. Spieler müssen nichts zusätzlich installieren, doch das Modell wird mit Ihrem Spiel ausgeliefert und läuft auf ihrer Hardware.
Dieser Leitfaden nutzt Ollama, weil es zehn Minuten dauert und der GDScript-Code für jeden HTTP-Modellserver nach dem gleichen Prinzip funktioniert.
Schritt 1: Ein Modell mit Ollama starten
Installieren Sie Ollama, laden Sie ein kleines Modell herunter und testen Sie es im Terminal. Kleine Modelle mit einigen Milliarden Parametern antworten auf einer typischen Gaming-GPU schnell, und für das Testen von Dialogen reichen sie völlig. Ollama lauscht auf http://localhost:11434, solange es läuft.
Schritt 2: Aus GDScript aufrufen
Fügen Sie einen HTTPRequest-Knoten als Kind Ihres NPCs hinzu und hängen Sie dann dieses Skript an. Es speichert den Gesprächsverlauf, damit das Modell weiß, was zuvor gesagt wurde:
extends Node
@onready var http: HTTPRequest = $HTTPRequest
var history: Array = [
{"role": "system", "content": "You are Brannoch, a gruff village blacksmith. Answer in one or two sentences."}
]
func _ready() -> void:
http.request_completed.connect(_on_request_completed)
func ask(player_line: String) -> void:
history.append({"role": "user", "content": player_line})
var body := JSON.stringify({"model": "MODEL_NAME", "messages": history, "stream": false})
http.request("http://localhost:11434/api/chat", ["Content-Type: application/json"], HTTPClient.METHOD_POST, body)
func _on_request_completed(result: int, code: int, _headers: PackedStringArray, body: PackedByteArray) -> void:
if result != HTTPRequest.RESULT_SUCCESS or code != 200:
push_warning("Local model request failed: %d" % code)
return
var reply: Dictionary = JSON.parse_string(body.get_string_from_utf8())["message"]
history.append(reply)
print(reply["content"]) # show it in your dialogue UIErsetzen Sie MODEL_NAME durch das Modell, das Sie heruntergeladen haben, rufen Sie ask("Is the north road safe?") auf, und Brannoch antwortet von Ihrem eigenen Rechner. Ein HTTPRequest bearbeitet jeweils nur eine Anfrage. Warten Sie deshalb auf die Antwort, bevor Sie die nächste Zeile senden.
Schritt 3: Den Charakter lebendig machen
Ein rohes Modell ist ein Chatbot. Damit daraus ein NPC wird, brauchen Sie:
- Einen präziseren System-Prompt: was der Charakter will, was er nicht weiß und wie er spricht. Siehe wie Sie NPCs einzigartige Persönlichkeiten geben.
- Kürzen des Verlaufs: Der Verlauf wächst mit jeder Zeile, und mit ihm die Antwortzeit. Behalten Sie den System-Prompt und die letzten paar Wortwechsel.
- Spielkontext: Fügen Sie vor der Nachricht des Spielers eine kurze Zeile hinzu, was gerade passiert ist („Der Spieler hat den gestohlenen Hammer zurückgebracht.“).
Was ein lokales Modell den Spieler kostet
Lokale Inferenz verschiebt die Kosten von einer Serverrechnung auf die Hardware des Spielers:
- Speicher. Das Modell teilt sich die GPU mit Ihrem Spiel. Auf unserer eigenen On-Device-Laufzeit braucht ein 3B-Modell etwa 3 GB VRAM und ein 2B-Modell weniger als 1 GB.
- Downloadgröße. Modelle machen Ihr Spiel um Gigabytes größer.
- Qualität. Kleine Modelle wissen weniger und fallen leichter aus der Rolle.
- Plattformen. Web-Exporte und die meisten Telefone können sie nicht gut ausführen.
Was Sie selbst bauen müssen
Ein lokales Modell liefert Text. Ein Spielcharakter braucht meist mehr:
- Stimme: Spracherkennung für den Spieler und Text-to-Speech für die Antwort, dazu Streaming, damit die Wartezeit kurz bleibt. Siehe wie die KI-NPC-Sprachpipeline funktioniert.
- Emotion und Aktionen: Prompts für strukturierte Ausgaben und deren zuverlässiges Auslesen.
- In der Rolle bleiben, wenn Spieler Druck machen. Siehe wie Sie KI-NPCs in der Rolle halten.
Der Cloud-Weg in Godot
Wenn Sie einen Charakter statt eines Chatbots wollen, betreibt das Neocortex Godot SDK Charaktere in der Cloud. Spieler müssen dann nichts installieren und brauchen keine freie GPU. Sie gestalten den Charakter in einem Browser-Editor mit Persönlichkeit, Wissensbasis, Stimme und Aktionen. Das SDK liefert Ihnen Sprache hinein und heraus, eine Emotion für jede Zeile und Aktionen als Daten, alles aus GDScript. Die Anleitung dazu steht unter wie Sie KI-NPC-Dialoge in Godot 4 hinzufügen.
Studios, die On-Device-Inferenz im Produktivbetrieb brauchen, können mit uns über unsere On-Device-Laufzeit sprechen, die im Custom-Tarif verfügbar ist. Sie liefert ihr erstes Token in 0.06 Sekunden und beginnt auf einem Laptop mit RTX 3080 nach etwa einer Sekunde zu sprechen. Kontaktieren Sie uns, um das zu planen.
Nächste Schritte
Zu den Latenz-Abwägungen lesen Sie wie Sie KI-NPC-Sprachantworten unter einer Sekunde bekommen. Für Unity behandelt wie Sie ein LLM lokal in einem Unity-Spiel betreiben dasselbe Thema. Alle Anleitungen finden Sie im Leitfaden zum Bauen von KI-NPCs.
Häufige Fragen
Wie betreibe ich ein lokales LLM in Godot?
Starten Sie ein Modell auf Ihrem Rechner mit Ollama und rufen Sie dann dessen lokale HTTP-API aus GDScript über einen HTTPRequest-Knoten auf. Es funktioniert offline und kostet pro Nachricht nichts, was es zu einer guten Wahl für Prototypen von NPC-Dialogen macht.
Kann ich ein Spiel ausliefern, das Ollama nutzt?
Nur wenn jeder Spieler Ollama installiert und ein Modell herunterlädt, was kaum jemand tun wird. Ausgelieferte Spiele bündeln das Modell entweder im Build oder nutzen einen Cloud-Dienst wie Neocortex, der auf dem Rechner des Spielers nichts braucht.
Welche Größe eines lokalen Modells kann ein NPC nutzen?
Modelle mit einigen Milliarden Parametern laufen auf typischen Gaming-GPUs. Auf unserer eigenen On-Device-Laufzeit braucht ein 3B-Modell etwa 3 GB VRAM. Größere Modelle antworten besser, brauchen aber deutlich mehr Speicher.
Unterstützt ein lokales LLM in Godot Sprache?
Nicht von allein. Spracherkennung und Text-to-Speech müssten Sie separat ergänzen. Das Neocortex Godot SDK gibt Charakteren Sprache hinein und heraus, dazu Emotionen und Aktionen, und läuft in der Cloud.






