LLM lokal in einem Unity-Spiel ausführen: Anleitung
Ein LLM lokal in Unity ausführen: NPC-Chat mit Ollama und dem Neocortex-Paket prototypen, sehen, was lokale Modelle Spieler kosten, und wann Inferenz auf dem Gerät sich lohnt.
Sercan AltundasFounder of Neocortex
· Aktualisiert 3. Nov. 2026 · 8 Min. Lesezeit

Ein Sprachmodell lokal in Unity laufen zu lassen bedeutet, dass das Gehirn des NPCs auf dem Rechner lebt statt auf einem Server: kein Internet nötig, nichts verlässt das Gerät, und keine Kosten pro Nachricht. Dieser Leitfaden zeigt den schnellsten Weg zum Ausprobieren, das Prototyping mit Ollama und dem Neocortex Ollama Support Paket, und erklärt danach, was es wirklich bedeutet, ein lokales Modell an Spieler auszuliefern.
Drei Wege, ein Modell lokal laufen zu lassen
| Weg | Wo das Modell läuft | Geeignet für |
|---|---|---|
| Ollama auf Ihrem Rechner | Ein separater lokaler Server | Prototyping und Offline-Tests |
| Ein Modell im Build eingebettet | Im Spielprozess | Ausgelieferte Spiele mit kleinen Modellen |
| Die Neocortex-Laufzeit auf dem Gerät | Im Spiel, mit Stimme | Studios, die sprechende Charaktere auf dem Gerät ausliefern |
Open-Source-Pakete wie LLMUnity gehen den eingebetteten Weg mit llama.cpp und überlassen Ihnen die Charakterlogik. Der Rest dieses Leitfadens behandelt den Ollama-Weg Schritt für Schritt und danach die Laufzeit auf dem Gerät.
Mit Ollama in Unity prototypen
Ollama lädt offene Modelle herunter und führt sie auf Ihrem Computer hinter einem kleinen lokalen Server aus. Das Neocortex Ollama Support Paket verbindet Unity damit, mit einer Modellauswahl und einem fertigen Chat-Beispiel.
Schritt 1: die Pakete installieren
Sie brauchen Unity 6 mit dem Neocortex Unity SDK, denn das Ollama-Paket nutzt dessen Chat-Oberfläche. Fügen Sie dann im Package Manager das Ollama-Paket über die Git-URL hinzu:
https://github.com/neocortex-link/neocortex-ollama-support.git
Schritt 2: Ollama installieren und ein Modell wählen
Öffnen Sie Tools > Neocortex > Ollama Support. Das Fenster führt Sie durch die Installation von Ollama und die Wahl eines Modells zum Herunterladen. Fangen Sie klein an: Modelle mit einigen Milliarden Parametern antworten auf einer typischen Gaming-GPU schnell, größere brauchen deutlich mehr Speicher.
Schritt 3: das Chat-Beispiel starten
Öffnen Sie im Package Manager den Reiter Samples des Ollama Support Pakets und importieren Sie das Chat Sample. Drücken Sie Play, wählen Sie das Modell im Dropdown und tippen Sie. Der NPC antwortet mit dem Modell auf Ihrem eigenen Rechner.
Schritt 4: aus dem eigenen Code aufrufen
Die OllamaRequest aus dem Beispiel reicht, um ein lokales Modell in Ihren eigenen NPC einzubinden:
using UnityEngine;
using Neocortex;
using Neocortex.Data;
public class LocalNpc : MonoBehaviour
{
private OllamaRequest request;
private void Start()
{
request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
request.OnChatResponseReceived += OnReply;
request.Send("Is the north road safe?");
}
private void OnReply(ChatResponse response) => Debug.Log(response.message);
}Die Anfrage behält den Gesprächsverlauf selbst, sodass jedes Send denselben Chat fortsetzt.
Was der Ollama-Weg nicht abdeckt
Es ist ein Werkzeug zum Prototyping, und es ist nur Textchat:
- Keine Stimme. Spracherkennung und Text-to-Speech gehören nicht dazu.
- Keine Emotionen und keine Aktionen. Sie bekommen nur Klartext zurück.
- Spieler bräuchten Ollama. Jeder Spieler müsste es installieren und ein Modell herunterladen. Das wird fast niemand tun.
Sobald der Prototyp die Idee belegt, spricht dasselbe Unity SDK mit Neocortex-Charakteren in der Cloud, mit Stimme, Emotionen, Aktionen und einem visuellen Editor, und ohne Modell auf dem Rechner des Spielers. Unser Tutorial zu KI-Charakteren in Unity behandelt diese Einrichtung.
Was die Auslieferung eines lokalen Modells wirklich kostet
Lokale Inferenz verschiebt die Kosten von Ihrer Serverrechnung auf die Hardware des Spielers:
- Speicher. Das Modell muss neben Ihrem Spiel im VRAM Platz finden. Ein 3B-Modell braucht auf unserer Laufzeit etwa 3 GB, ein 2B-Modell weniger als 1 GB.
- Downloadgröße. Modelle addieren Gigabytes zur Installation.
- Qualität. Kleine Modelle sind weniger leistungsfähig als große Cloud-Modelle. Charaktere brauchen deshalb genauer geschriebene Texte und enger umrissenes Wissen.
- Plattformen. WebGL kann es nicht, und die meisten Telefone haben nicht genug Speicher übrig.
Die Neocortex-Laufzeit auf dem Gerät
Für Studios, die Charaktere mit Stimme auf dem Gerät des Spielers brauchen, bietet Neocortex eine Laufzeit auf dem Gerät als individuellen Tarif an. Auf einem Laptop mit RTX 3080 liefert sie das erste Token in 0.06 Sekunden und beginnt nach etwa einer Sekunde zu sprechen, mit einem 3B-Modell in etwa 3 GB VRAM. Spracherkennung und Stimme laufen auf der CPU. Kontaktieren Sie uns, um eine Einführung zu planen. Wie sich die Optionen vergleichen, zeigt lokale und lokal betriebene KI-NPC-Plattformen.
Videoanleitung
Das Video führt durch das Ollama Support Paket in Unity.
Nächste Schritte
Zur Geschwindigkeitsseite der Entscheidung lesen Sie wie Sie KI-NPC-Sprachantworten unter einer Sekunde bekommen. Für den Cloud-Weg ohne Einrichtung auf den Rechnern der Spieler siehe wie Sie NPCs in Unity mit ChatGPT sprechen lassen. Dieser Beitrag vergleicht den direkten API-Aufruf mit dem Neocortex SDK. Jedes Tutorial finden Sie im Leitfaden zum Bau von KI-NPCs.
Häufig gestellte Fragen
Kann ich ein LLM in Unity lokal ausführen?
Ja. Der schnellste Weg ist Ollama auf Ihrem eigenen Rechner mit dem Neocortex Ollama Support Paket, das Ihnen eine Modellauswahl und ein Chat-Beispiel gibt. Es ist Textchat zum Prototyping. Um KI auf dem Gerät an Spieler auszuliefern, können Studios die Laufzeit von Neocortex auf dem Gerät als individuellen Tarif vereinbaren.
Wie viel VRAM braucht ein lokales LLM für einen NPC?
Das hängt von der Modellgröße ab. Auf unserer eigenen Laufzeit auf dem Gerät läuft ein 3B-Modell mit etwa 3 GB VRAM und ein 2B-Modell mit weniger als 1 GB, Spracherkennung und Stimme laufen auf der CPU. Größere Modelle brauchen deutlich mehr.
Können Spieler Ollama in meinem ausgelieferten Spiel nutzen?
Nur wenn jeder Spieler Ollama selbst installiert und ein Modell herunterlädt, was wenige tun werden. Ollama ist ein gutes Werkzeug zum Prototyping. Ausgelieferte Spiele nutzen entweder einen Cloud-Dienst oder bündeln eine Laufzeit auf dem Gerät.
Funktioniert ein lokales LLM in Unity WebGL oder auf dem Handy?
Selten in der Praxis. Browser-Builds erreichen keinen lokalen Modellserver, und Telefone haben wenig Speicher übrig. Cloud-Charaktere funktionieren auf beidem, einschließlich der Stimme in WebGL über die Neocortex-Vorlage.
Ist ein lokales LLM schneller als die Cloud?
Es umgeht das Netzwerk, deshalb kann das erste Wort sehr schnell kommen. Unsere Laufzeit auf dem Gerät liefert das erste Token in 0.06 Sekunden und beginnt auf einem Laptop mit RTX 3080 nach etwa einer Sekunde zu sprechen.






