Neocortex Logo

LLM lokal in einem Unity-Spiel ausführen: Anleitung

Ein LLM lokal in Unity ausführen: NPC-Chat mit Ollama und dem Neocortex-Paket prototypen, sehen, was lokale Modelle Spieler kosten, und wann Inferenz auf dem Gerät sich lohnt.

Sercan AltundasFounder of Neocortex

· Aktualisiert 3. Nov. 2026 · 8 Min. Lesezeit

Ein LLM lokal in Unity ausführen: NPC-Chat mit Ollama und dem Neocortex-Paket prototypen, sehen, was lokale Modelle Spieler kosten, und wann Inferenz auf dem Gerät sich lohnt.

Ein Sprachmodell lokal in Unity laufen zu lassen bedeutet, dass das Gehirn des NPCs auf dem Rechner lebt statt auf einem Server: kein Internet nötig, nichts verlässt das Gerät, und keine Kosten pro Nachricht. Dieser Leitfaden zeigt den schnellsten Weg zum Ausprobieren, das Prototyping mit Ollama und dem Neocortex Ollama Support Paket, und erklärt danach, was es wirklich bedeutet, ein lokales Modell an Spieler auszuliefern.

Drei Wege, ein Modell lokal laufen zu lassen

WegWo das Modell läuftGeeignet für
Ollama auf Ihrem RechnerEin separater lokaler ServerPrototyping und Offline-Tests
Ein Modell im Build eingebettetIm SpielprozessAusgelieferte Spiele mit kleinen Modellen
Die Neocortex-Laufzeit auf dem GerätIm Spiel, mit StimmeStudios, die sprechende Charaktere auf dem Gerät ausliefern

Open-Source-Pakete wie LLMUnity gehen den eingebetteten Weg mit llama.cpp und überlassen Ihnen die Charakterlogik. Der Rest dieses Leitfadens behandelt den Ollama-Weg Schritt für Schritt und danach die Laufzeit auf dem Gerät.

Mit Ollama in Unity prototypen

Ollama lädt offene Modelle herunter und führt sie auf Ihrem Computer hinter einem kleinen lokalen Server aus. Das Neocortex Ollama Support Paket verbindet Unity damit, mit einer Modellauswahl und einem fertigen Chat-Beispiel.

Schritt 1: die Pakete installieren

Sie brauchen Unity 6 mit dem Neocortex Unity SDK, denn das Ollama-Paket nutzt dessen Chat-Oberfläche. Fügen Sie dann im Package Manager das Ollama-Paket über die Git-URL hinzu:

https://github.com/neocortex-link/neocortex-ollama-support.git

Schritt 2: Ollama installieren und ein Modell wählen

Öffnen Sie Tools > Neocortex > Ollama Support. Das Fenster führt Sie durch die Installation von Ollama und die Wahl eines Modells zum Herunterladen. Fangen Sie klein an: Modelle mit einigen Milliarden Parametern antworten auf einer typischen Gaming-GPU schnell, größere brauchen deutlich mehr Speicher.

Schritt 3: das Chat-Beispiel starten

Öffnen Sie im Package Manager den Reiter Samples des Ollama Support Pakets und importieren Sie das Chat Sample. Drücken Sie Play, wählen Sie das Modell im Dropdown und tippen Sie. Der NPC antwortet mit dem Modell auf Ihrem eigenen Rechner.

Schritt 4: aus dem eigenen Code aufrufen

Die OllamaRequest aus dem Beispiel reicht, um ein lokales Modell in Ihren eigenen NPC einzubinden:

using UnityEngine;
using Neocortex;
using Neocortex.Data;

public class LocalNpc : MonoBehaviour
{
    private OllamaRequest request;

    private void Start()
    {
        request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
        request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
        request.OnChatResponseReceived += OnReply;
        request.Send("Is the north road safe?");
    }

    private void OnReply(ChatResponse response) => Debug.Log(response.message);
}

Die Anfrage behält den Gesprächsverlauf selbst, sodass jedes Send denselben Chat fortsetzt.

Was der Ollama-Weg nicht abdeckt

Es ist ein Werkzeug zum Prototyping, und es ist nur Textchat:

  • Keine Stimme. Spracherkennung und Text-to-Speech gehören nicht dazu.
  • Keine Emotionen und keine Aktionen. Sie bekommen nur Klartext zurück.
  • Spieler bräuchten Ollama. Jeder Spieler müsste es installieren und ein Modell herunterladen. Das wird fast niemand tun.

Sobald der Prototyp die Idee belegt, spricht dasselbe Unity SDK mit Neocortex-Charakteren in der Cloud, mit Stimme, Emotionen, Aktionen und einem visuellen Editor, und ohne Modell auf dem Rechner des Spielers. Unser Tutorial zu KI-Charakteren in Unity behandelt diese Einrichtung.

Was die Auslieferung eines lokalen Modells wirklich kostet

Lokale Inferenz verschiebt die Kosten von Ihrer Serverrechnung auf die Hardware des Spielers:

  • Speicher. Das Modell muss neben Ihrem Spiel im VRAM Platz finden. Ein 3B-Modell braucht auf unserer Laufzeit etwa 3 GB, ein 2B-Modell weniger als 1 GB.
  • Downloadgröße. Modelle addieren Gigabytes zur Installation.
  • Qualität. Kleine Modelle sind weniger leistungsfähig als große Cloud-Modelle. Charaktere brauchen deshalb genauer geschriebene Texte und enger umrissenes Wissen.
  • Plattformen. WebGL kann es nicht, und die meisten Telefone haben nicht genug Speicher übrig.

Die Neocortex-Laufzeit auf dem Gerät

Für Studios, die Charaktere mit Stimme auf dem Gerät des Spielers brauchen, bietet Neocortex eine Laufzeit auf dem Gerät als individuellen Tarif an. Auf einem Laptop mit RTX 3080 liefert sie das erste Token in 0.06 Sekunden und beginnt nach etwa einer Sekunde zu sprechen, mit einem 3B-Modell in etwa 3 GB VRAM. Spracherkennung und Stimme laufen auf der CPU. Kontaktieren Sie uns, um eine Einführung zu planen. Wie sich die Optionen vergleichen, zeigt lokale und lokal betriebene KI-NPC-Plattformen.

Videoanleitung

Das Video führt durch das Ollama Support Paket in Unity.

Das Video auf YouTube ansehen

Nächste Schritte

Zur Geschwindigkeitsseite der Entscheidung lesen Sie wie Sie KI-NPC-Sprachantworten unter einer Sekunde bekommen. Für den Cloud-Weg ohne Einrichtung auf den Rechnern der Spieler siehe wie Sie NPCs in Unity mit ChatGPT sprechen lassen. Dieser Beitrag vergleicht den direkten API-Aufruf mit dem Neocortex SDK. Jedes Tutorial finden Sie im Leitfaden zum Bau von KI-NPCs.

Häufig gestellte Fragen

Kann ich ein LLM in Unity lokal ausführen?

Ja. Der schnellste Weg ist Ollama auf Ihrem eigenen Rechner mit dem Neocortex Ollama Support Paket, das Ihnen eine Modellauswahl und ein Chat-Beispiel gibt. Es ist Textchat zum Prototyping. Um KI auf dem Gerät an Spieler auszuliefern, können Studios die Laufzeit von Neocortex auf dem Gerät als individuellen Tarif vereinbaren.

Wie viel VRAM braucht ein lokales LLM für einen NPC?

Das hängt von der Modellgröße ab. Auf unserer eigenen Laufzeit auf dem Gerät läuft ein 3B-Modell mit etwa 3 GB VRAM und ein 2B-Modell mit weniger als 1 GB, Spracherkennung und Stimme laufen auf der CPU. Größere Modelle brauchen deutlich mehr.

Können Spieler Ollama in meinem ausgelieferten Spiel nutzen?

Nur wenn jeder Spieler Ollama selbst installiert und ein Modell herunterlädt, was wenige tun werden. Ollama ist ein gutes Werkzeug zum Prototyping. Ausgelieferte Spiele nutzen entweder einen Cloud-Dienst oder bündeln eine Laufzeit auf dem Gerät.

Funktioniert ein lokales LLM in Unity WebGL oder auf dem Handy?

Selten in der Praxis. Browser-Builds erreichen keinen lokalen Modellserver, und Telefone haben wenig Speicher übrig. Cloud-Charaktere funktionieren auf beidem, einschließlich der Stimme in WebGL über die Neocortex-Vorlage.

Ist ein lokales LLM schneller als die Cloud?

Es umgeht das Netzwerk, deshalb kann das erste Wort sehr schnell kommen. Unsere Laufzeit auf dem Gerät liefert das erste Token in 0.06 Sekunden und beginnt auf einem Laptop mit RTX 3080 nach etwa einer Sekunde zu sprechen.

Ähnliche Beiträge

Weiterlesen