Neocortex Logo

Lokale und On-Premise-KI-NPC-Plattformen für Studios

Vergleich von On-Premise-KI-NPC-Plattformen und On-Device-SDKs: Tryll, NVIDIA ACE, Snapdragon, X&Immersion, LLMUnity, NobodyWho, Convai, Meta und Neocortex.

Neocortex TeamThe team behind Neocortex

· 9 Min. Lesezeit

Vergleich von On-Premise-KI-NPC-Plattformen und On-Device-SDKs: Tryll, NVIDIA ACE, Snapdragon, X&Immersion, LLMUnity, NobodyWho, Convai, Meta und Neocortex.

Lokale und On-Premise-KI-NPC-Plattformen gibt es in zwei Arten: On-Device-SDKs, die das Modell auf der Hardware des Spielers laufen lassen, und On-Premise-Plattformen, die das Charakter-Backend auf Servern betreiben, die Sie kontrollieren. Diese Übersicht behandelt neun Optionen aus beiden Gruppen, mit einem Entscheidungsleitfaden für Cloud-, On-Premise- und On-Device-Betrieb.

Die Gründe sind unterschiedlich. Ein Trainingssimulator für eine gesicherte Anlage darf Stimmen nicht an eine fremde Cloud senden. Ein Museumskiosk steht in einem Netz mit schlechter Verbindung. Ein Publisher will das Backend in der eigenen Infrastruktur haben. Ein Team, das gesehen hat, wie KI-Figuren-Anbieter abgeschaltet wurden, will einen Plan, der nicht von fremden Servern abhängt.

On-Premise-KI-NPC-Plattformen auf einen Blick

PlattformWo sie läuftEnginesStimmeWerkzeuge für FigurenPreise
NeocortexUnsere Cloud (Self-Service); Ihre Server, air-gapped oder im Spiel-Build (Custom)Unity, Unreal Engine 5, Godot, Web-APISTT und TTS, lokal on-premiseVisueller Node-EditorEUR 9 bis EUR 99/Monat; Custom für On-Premise
Tryll EngineGPU des SpielersUnreal und Unity (Alpha auf Anfrage), C++ geplantLokales STT und TTSSDK-FunktionenZum Start kostenlos, danach ein Anteil je verkaufter Kopie
NVIDIA ACE Game Agent SDKRTX-PC des SpielersUnreal Engine 5 Plugins, C und C++Lokales ASR und TTSCodeOpen Source (Beta)
Snapdragon Game AI SDKSnapdragon-NPU auf Handys und PCsUnreal Engine 5.6 und 5.7 PluginsASR und TTS auf dem GerätCodePlugin-Quellcode BSD 3-Clause
X&ImmersionGerät des Spielers, private Server oder APIUnity, Unreal Engine, WwiseStimme Ariel, Lip-Sync GeppettoDialogwerkzeug DiaGenNicht veröffentlicht
LLMUnityGerät des Spielers oder Ihr Server-BuildUnityKeineInspector und C#Kostenlos, Apache-2.0
NobodyWhoGerät des SpielersGodot, dazu Bindings für Mobil und PythonLokales STT und TTSCodeKostenlos, EUPL-1.2
Convai on-premiseIhr RechenzentrumUnity, Unreal, WebJaWeb-DashboardCustom Enterprise
Meta AI Building BlocksKleine LLMs auf der Quest, Sprache in der CloudUnity 6Cloud-AnbieterUnity-KomponentenTeil des Meta XR SDK

Die neun Optionen

Tryll Engine

Tryll Engine führt Sprachmodelle, Spracherkennung, Text-to-Speech, Bildmodelle und Agenten auf der GPU des Spielers aus und erkennt Hardware von NVIDIA, AMD und Intel. Unreal und Unity sind als aktiv gelistet, mit Alpha-Zugang auf Anfrage, und eine native C++-Anbindung ist geplant. Zu den Funktionen gehören Wissen aus Spieldokumentation und Lore, dauerhaftes NPC-Gedächtnis, Agenten-Aktionen und Erzeugung von Inhalten zur Laufzeit. Es wählt ein Modell zwischen 4B und 14B Parametern mit Quantisierung und braucht 8GB VRAM, empfohlen werden 12GB oder mehr. Der Preis ist zum Start kostenlos, danach etwa $0,08 pro verkaufter Kopie bei einem Preis von $15, und er skaliert mit dem Preis. Das Projekt wird von Epic MegaGrants und Early Game Ventures unterstützt, und es sind keine ausgelieferten Spiele aufgelistet. Mehr dazu unter Tryll Engine vs. Neocortex.

NVIDIA ACE Game Agent SDK

Das Game Agent SDK ist ein Open-Source-Framework in C und C++, in der Beta, für Spiel-Agenten, die kleine Modelle auf RTX-PCs ausführen. Es bietet eine Agent-API mit Chat-Verlauf und Tool-Nutzung, eine zustandslose Chat-API und eine RAG-API für Spieldaten. Die Unreal-Engine-5-Plugins ergänzen lokale Spracherkennung, GGUF-Sprachmodelle mit Funktionsaufrufen (Qwen 3.5 4B ist enthalten) und Text-to-Speech mit Chatterbox Turbo. Ein Unity-Plugin ist nicht aufgelistet. Siehe unsere NVIDIA-ACE-Alternative für Unity.

Snapdragon Game AI SDK

Das erste eigene KI-SDK für Spiele von Qualcomm, auf der GDC angekündigt, führt Spracherkennung, quantisierte Sprachmodelle und Text-to-Speech auf der Snapdragon-NPU, CPU und GPU aus. Es richtet sich an Android-Handys und Windows-PCs mit Snapdragon, XR-Geräte sind als künftig angekündigt. Qualcomm stellt es rund um NPCs, KI-Teamkollegen, Begleiter und Coaches dar. Die Funktionen laufen derzeit als Unreal-Engine-5-Plugins für 5.6 und 5.7. Der Plugin-Quellcode steht unter BSD 3-Clause, SDK-Binaries und Modelle haben eigene Bedingungen. Spieler mit anderen Chips brauchen einen anderen Weg. Lesen Sie Snapdragon Game AI SDK vs. Neocortex.

X&Immersion

X&Immersion mit Sitz in Paris verkauft lokale KI-Werkzeuge: DiaGen für Dialoge und Spieltexte, Ariel für Stimme und Geppetto für Lip-Sync und Gesichtsanimation. Die Laufzeitversionen laufen auf dem Gerät des Spielers oder auf privaten Servern, und Ariel und Geppetto lassen sich auch über einen API-Aufruf nutzen. Die Website nennt Integrationen für Unity, Unreal Engine und Wwise. Die Preise sind nicht veröffentlicht und beginnen mit einer Demo-Anfrage. Siehe unsere X&Immersion-Alternative.

LLMUnity

LLMUnity ist ein Open-Source-Paket für Unity unter Apache-2.0, das GGUF-Modelle über llama.cpp auf PC, Mobilgeräten und VR ausführt, vollständig offline. Es enthält Retrieval, Funktionsaufrufe über Grammatiken und gespeicherten Chat-Verlauf, dazu einen Remote-Modus, der Figuren auf einen Server-Build zeigen lässt, den Sie selbst betreiben. Eine Stimme gibt es nicht, und auf Handys empfiehlt es Modelle mit etwa 1 bis 2 Milliarden Parametern. Vergleich unter LLMUnity vs. Neocortex.

NobodyWho

NobodyWho ist eine Rust-Inferenz-Engine auf Basis von llama.cpp, lizenziert unter EUPL-1.2, kostenlos für die kommerzielle Nutzung. Es liefert ein Godot-Plugin sowie Bindings für Kotlin, Swift, React Native, Flutter und Python und läuft auf Desktop, Android und iOS, ohne Web-Export. Es unterstützt Tool-Aufrufe, Whisper-Spracherkennung und lokales Text-to-Speech. Unsere Übersicht zu KI-NPCs für Godot ordnet es ein.

Convai on-premise

Der Enterprise-Tarif von Convai nennt isolierte Cloud-, private und On-Premise-Betriebsmodelle, bei denen das Convai-Backend und die KI-Dienste in Ihrem eigenen Rechenzentrum laufen. Preise und SLAs sind individuell. Die Dokumentation zum Selbst-Hosting beschreibt die Komponenten, darunter einen Auth-Server mit SSO, einen REST-API-Server und einen WebRTC-Gesprächsdienst, mit Anleitungen für GCP, AWS und Kubernetes. Siehe unsere Convai-Alternative.

Meta AI Building Blocks

Die AI Building Blocks von Meta sind Unity-Komponenten im Meta XR SDK für Unity 6 und Quest 3 oder 3S. Kleine Sprachmodelle wie SmolLM, Qwen und Phi können auf dem Headset laufen, und Objekterkennung läuft über die Inference Engine von Unity. Spracherkennung und Text-to-Speech nutzen Cloud-Anbieter wie OpenAI und ElevenLabs, eine vollständig offline betriebene Figur mit Stimme ist also nicht abgedeckt. Lesen Sie Meta Quest AI Building Blocks vs. Neocortex und für die eigene Laufzeit von Unity Unity Sentis vs. Neocortex.

Neocortex

Neocortex ist eine Plattform für KI-Figuren. Das Self-Service-Produkt läuft in unserer Cloud mit einem visuellen Node-Editor, Stimme und SDKs für Unity, Unreal Engine 5 und Godot, dazu eine Web-API. Bei einer Custom-Vereinbarung läuft dieselbe Plattform auf Ihren eigenen Servern, air-gapped oder im Spiel-Build.

Entscheidungsleitfaden: Cloud, On-Premise oder On-Device

CloudOn-PremiseOn-Device
Wo die Inferenz läuftServer des AnbietersServer, die Sie kontrollierenGerät des Spielers
Funktioniert ohne InternetNeinJa, in Ihrem Netz oder air-gappedJa
Mindestanforderung an die Hardware der SpielerKeineKeine für SpielerVRAM, NPU oder RAM auf jedem Zielgerät
ModellgrößeNicht durch Spieler begrenztAn Ihre Server angepasstDurch das schwächste Zielgerät begrenzt
Wer betreibt esDer AnbieterIhr Team, mit Unterstützung des AnbietersEs wird mit dem Build ausgeliefert
KostenstrukturTarif oder NutzungHardware plus VereinbarungEntwicklungszeit, Lizenzen, in manchen Fällen Umsatzbeteiligung

Wählen Sie Cloud, wenn Ihr Spiel ohnehin online läuft, Ihre Spieler ein breites Spektrum an Hardware haben und Autoren Figuren schon heute bearbeiten sollen.

Wählen Sie On-Premise, wenn Daten Ihr Netz nicht verlassen dürfen, der Standort keine verlässliche Internetverbindung hat oder ein Kundenvertrag das Backend in Ihrer Infrastruktur verlangt. Trainingssimulatoren, Verteidigung, Gesundheitswesen, Museen und Veranstaltungen landen meist hier.

Wählen Sie On-Device, wenn die Figur für Spieler offline funktionieren muss und Sie eine Hardware-Untergrenze festlegen und auf jeder Gerätestufe testen können.

Viele Projekte kombinieren beides: Cloud beim Prototyping, dann On-Premise oder On-Device, sobald die Anforderungen feststehen. Unser Preisvergleich für KI-NPCs zeigt, wie sich jede Kostenstruktur summiert.

Was der Betrieb auf der Hardware des Spielers kostet

On-Device-Inferenz verschiebt die Rechnung vom Server auf den Rechner des Spielers, und das Spiel bezahlt auf andere Weise.

  • Gemeinsamer Speicher. Das Modell liegt im selben VRAM oder RAM wie Ihre Texturen und Meshes.
  • Frame-Budget. Die Inferenz konkurriert mit Rendering und Physik und muss um den Frame herum geplant werden.
  • Kleinere Modelle. Was neben einem Spiel Platz hat, ist kleiner als das, was ein Server betreibt, und das zeigt sich in langen Gesprächen.
  • Test pro Gerät. Jede GPU-Stufe, jedes Handy oder Headset braucht einen eigenen Durchlauf für Geschwindigkeit, Speicher und Hitze.
  • Modelllizenzen. Jedes Modell, das Sie ausliefern, hat eigene Bedingungen, und Stimmmodelle unterscheiden sich dabei stärker als Textmodelle.

Gemessene Geschwindigkeit. Auf einem Laptop mit RTX 3080 (8 GB) liefert unsere On-Device-Laufzeit das erste Token in 0.06 Sekunden und beginnt nach etwa einer Sekunde zu sprechen, weil sie den ersten Satz vorliest, während der Rest noch erzeugt wird. Spracherkennung und Text-to-Speech laufen auf der CPU, daher braucht ein 3B-Modell etwa 3 GB VRAM, und ein 2B-Modell erzeugt mit weniger als 1 GB über 300 Token pro Sekunde.

Die Hardware Ihrer Spieler setzt die endgültigen Werte, testen Sie also auf Ihrem niedrigsten Ziel. Unser Cloud-Produkt ist für Echtzeit-Gespräche gebaut, und On-Premise-Installationen werden mit jedem Studio für die erwartete Last dimensioniert.

Wo Neocortex passt

Neocortex gibt Studios die Wahl, wo Figuren laufen, mit derselben Figurendefinition in jedem Fall. Bei Custom-Vereinbarungen (Enterprise), die im Gespräch mit unserem Team festgelegt werden:

  • Volle Plattform auf Ihren eigenen Servern oder in der privaten Cloud: der Figuren-Editor, die API, Ihre Figuren und Conversation Flows.
  • Lokale Stimme: Spracherkennung und Text-to-Speech laufen on-premise, nicht nur das Sprachmodell.
  • Air-gapped-Betrieb: vollständig offline, für gesicherte Standorte, Trainingssimulatoren, Kioske und Veranstaltungen.
  • On-Device-Inferenz: Die Inferenz kann im Spiel-Build ausgeliefert werden und auf dem Gerät des Spielers laufen.
  • Individueller Support: Unser Team begleitet Sie bei Ausrollung, Modellwahl und Integration.

Wenn Ihr Projekt eines dieser Dinge braucht, kontaktieren Sie uns.

Figuren werden in jeder Installation gleich aufgebaut: ein visueller Node-Editor mit Persönlichkeit, Emotion, Wissen (PDF oder TXT), Welt, Objekten, Absichten, Aktionen und Stimme. Conversation Flows liefern Checkpoint-Schlüsselwörter (flowState), auf die Ihr Spiel reagiert, und Antworten enthalten Emotions-Tags und Aktionen wie OPEN_DOOR. Das Self-Service-Produkt ergänzt Stimmklonen und Stimmgestaltung, Gruppenchats mit bis zu sechs Figuren in Pro und Team sowie Tarife von Starter bis Team.

Nächste Schritte für Ihr Studio

  1. Legen Sie fest, wo Ihre Figuren laufen müssen: in Ihrer Cloud, auf Ihren Servern, an einem air-gapped Standort oder auf dem Gerät des Spielers.
  2. Listen Sie Ihre Zielhardware auf und entscheiden Sie, ob eine VRAM- oder NPU-Untergrenze akzeptabel ist.
  3. Bauen Sie eine Figur im Neocortex-Editor und testen Sie sie im Browser.
  4. Starten Sie sie in Unity, Unreal oder Godot über unsere SDKs, um die Integration zu sehen.
  5. Kontaktieren Sie unser Team, um eine On-Premise-, Offline- oder On-Device-Ausrollung um Ihr Projekt herum zu planen.

Alle Direktvergleiche an einem Ort finden Sie unter Neocortex-Vergleiche und in unserem früheren Beitrag KI-NPC-Tools mit lokaler KI.

Die Angaben zu Mitbewerbern wurden zuletzt im Oktober 2026 geprüft.

Häufig gestellte Fragen

Können KI-NPCs ohne Internetverbindung laufen?

Ja, On-Device-SDKs wie Tryll Engine, NVIDIA ACE, das Snapdragon Game AI SDK, LLMUnity und NobodyWho führen Modelle auf der Hardware des Spielers aus. Neocortex kann ebenfalls vollständig air-gapped laufen, mit der Plattform und lokaler Stimme auf Ihren eigenen Rechnern, als Custom-Vereinbarung mit unserem Team.

Welche KI-NPC-Plattformen lassen sich On-Premise selbst hosten?

Convai bietet On-Premise-Betrieb im Enterprise-Tarif mit individuellem Preis an. Neocortex betreibt die volle Plattform, einschließlich Figuren-Editor, API und lokaler Sprache, auf Ihren eigenen Servern oder in der privaten Cloud, über eine Custom-Vereinbarung.

Funktioniert NVIDIA ACE in Unity?

Ein Unity-Plugin ist nicht aufgelistet. ACE liefert ein Game Agent SDK in C und C++ sowie Plugins für Unreal Engine 5 für RTX-PCs. Neocortex hat ein Unity-6-SDK mit sechs Beispielszenen, dazu Unreal Engine 5 und Godot.

Wie viel VRAM braucht ein KI-NPC auf dem Gerät?

Das hängt vom Modell ab: Tryll Engine verlangt 8GB VRAM und empfiehlt 12GB oder mehr, während LLMUnity auf Handys Modelle mit etwa 1 bis 2 Milliarden Parametern empfiehlt. Neocortex läuft in der Cloud ohne Hardware-Untergrenze für Spieler, und On-Device-Ausrollungen werden mit unserem Team geplant.

Ist On-Device- oder Cloud-KI besser für Spiel-NPCs?

On-Device-KI entfernt Netzwerk und Kosten pro Nachricht, begrenzt die Modellgröße aber auf das schwächste Zielgerät. Neocortex unterstützt beides: Cloud für breite Hardware-Abdeckung und On-Premise- oder On-Device-Ausrollungen für Projekte, die sie brauchen.

Ähnliche Beiträge

Weiterlesen