Neocortex Logo

Come far girare un LLM in locale in un gioco Unity

Far girare un LLM in locale in Unity: un prototipo di chat per NPC con Ollama e il pacchetto Neocortex, quanto costano i modelli locali ai giocatori e quando l'inferenza sul dispositivo conviene.

Sercan AltundasFounder of Neocortex

· Aggiornato il 3 nov 2026 · 8 min di lettura

Far girare un LLM in locale in Unity: un prototipo di chat per NPC con Ollama e il pacchetto Neocortex, quanto costano i modelli locali ai giocatori e quando l'inferenza sul dispositivo conviene.

Far girare un modello linguistico in locale in Unity significa che il cervello dell'NPC vive sulla macchina invece che su un server: non serve internet, nulla lascia il dispositivo e non c'è alcun costo per messaggio. Questa guida mostra il modo più rapido per provarlo, prototipando con Ollama e il pacchetto Neocortex Ollama Support, poi spiega cosa comporta davvero distribuire un modello locale ai giocatori.

Tre modi per far girare un modello in locale

StradaDove gira il modelloIdeale per
Ollama sulla tua macchinaUn server locale separatoPrototipi e test offline
Un modello incorporato nella buildDentro il processo del giocoGiochi distribuiti con modelli contenuti
Il runtime on-device di NeocortexDentro il gioco, con voceStudi che distribuiscono personaggi con voce sul dispositivo

I pacchetti open source come LLMUnity seguono la strada incorporata con llama.cpp, lasciando a te la logica del personaggio. Il resto di questa guida copre la strada Ollama passo per passo, poi il runtime on-device.

Prototipo con Ollama in Unity

Ollama scarica ed esegue modelli aperti sul tuo computer, dietro un piccolo server locale. Il pacchetto Neocortex Ollama Support collega Unity a Ollama, con un selettore di modelli e un esempio di chat pronto.

Passo 1: installa i pacchetti

Ti serve Unity 6 con la Unity SDK di Neocortex installata, perché il pacchetto Ollama usa la sua interfaccia di chat. Poi aggiungi il pacchetto Ollama dall'URL git nel Package Manager:

https://github.com/neocortex-link/neocortex-ollama-support.git

Passo 2: installa Ollama e scegli un modello

Apri Tools > Neocortex > Ollama Support. La finestra ti guida nell'installazione di Ollama e nella scelta di un modello da scaricare. Parti in piccolo: i modelli da qualche miliardo di parametri rispondono in fretta su una GPU da gaming tipica, mentre quelli più grandi richiedono molta più memoria.

Passo 3: esegui l'esempio di chat

Nel Package Manager, apri la scheda Samples del pacchetto Ollama Support e importa il Chat Sample. Premi Play, scegli il modello dal menu a tendina e scrivi. L'NPC risponde con il modello sulla tua macchina.

Passo 4: chiamalo dal tuo codice

L'OllamaRequest dell'esempio è tutto ciò che serve per collegare un modello locale al tuo NPC:

using UnityEngine;
using Neocortex;
using Neocortex.Data;

public class LocalNpc : MonoBehaviour
{
    private OllamaRequest request;

    private void Start()
    {
        request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
        request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
        request.OnChatResponseReceived += OnReply;
        request.Send("Is the north road safe?");
    }

    private void OnReply(ChatResponse response) => Debug.Log(response.message);
}

La richiesta mantiene da sola la cronologia della conversazione, quindi ogni Send continua la stessa chat.

Ciò che la strada Ollama non copre

È uno strumento per prototipi, e fa solo chat testuale:

  • Nessuna voce. Il riconoscimento vocale e il text to speech non ne fanno parte.
  • Nessuna emozione né azione. Ricevi solo testo semplice.
  • I giocatori dovrebbero avere Ollama. Ogni giocatore dovrebbe installarlo e scaricare un modello, cosa che quasi nessuno farà.

Quando il prototipo dimostra l'idea, la stessa Unity SDK parla con i personaggi Neocortex nel cloud, con voce, emozioni, azioni e un editor visivo, e nessun modello sulla macchina del giocatore. La nostra guida personaggio IA in Unity copre quella configurazione.

Quanto costa davvero distribuire un modello locale

L'inferenza locale sposta il costo dalla bolletta del server all'hardware del giocatore:

  • Memoria. Il modello deve stare accanto al tuo gioco nella VRAM. Un modello da 3B richiede circa 3 GB sul nostro runtime, un modello da 2B meno di 1 GB.
  • Dimensione del download. I modelli aggiungono gigabyte all'installazione.
  • Qualità. I modelli piccoli sono meno capaci dei grandi modelli cloud, quindi i personaggi richiedono una scrittura più stretta e conoscenze più circoscritte.
  • Piattaforme. WebGL non può farlo, e la maggior parte dei telefoni non ha memoria da cedere.

Il runtime on-device di Neocortex

Per gli studi che hanno bisogno di personaggi sul dispositivo del giocatore, con voce, Neocortex offre un runtime on-device come piano Custom. Su un laptop RTX 3080 restituisce il primo token in 0,06 secondi e inizia a parlare in circa un secondo, con un modello da 3B in circa 3 GB di VRAM, mentre il riconoscimento vocale e la voce girano sulla CPU. Contattaci per pianificare una distribuzione, e vedi piattaforme NPC IA locali e on-premise per il confronto tra le opzioni.

Video tutorial

Il video mostra il pacchetto Ollama Support in Unity.

Guarda il video su YouTube

Prossimi passi

Per il lato velocità della decisione, leggi come ottenere risposte vocali degli NPC IA in meno di un secondo. Per la strada cloud senza alcuna configurazione sulle macchine dei giocatori, vedi come far parlare gli NPC con ChatGPT in Unity, che confronta la chiamata diretta a un'API con la Neocortex SDK. Ogni tutorial è nella guida alla creazione di NPC IA.

Domande frequenti

Posso far girare un LLM in locale in Unity?

Sì. Il modo più rapido è Ollama sulla tua macchina con il pacchetto Neocortex Ollama Support, che ti dà un selettore di modelli e un esempio di chat. È chat testuale per i prototipi. Per distribuire IA sul dispositivo ai giocatori, gli studi possono richiedere il runtime on-device di Neocortex come piano Custom.

Quanta VRAM serve a un LLM locale per un NPC?

Dipende dalla dimensione del modello. Sul nostro runtime on-device, un modello da 3B gira in circa 3 GB di VRAM e un modello da 2B in meno di 1 GB, con riconoscimento vocale e voce sulla CPU. I modelli più grandi ne richiedono molta di più.

I giocatori possono usare Ollama nel mio gioco distribuito?

Solo se ogni giocatore installa Ollama e scarica un modello da solo, cosa che in pochi faranno. Ollama è un buon strumento per prototipi. I giochi distribuiti usano un servizio cloud oppure includono un runtime on-device.

Un LLM locale funziona in Unity WebGL o su mobile?

Raramente nella pratica. Le build browser non possono raggiungere un server di modelli locale, e i telefoni hanno poca memoria da cedere. I personaggi cloud funzionano su entrambi, compresa la voce in WebGL tramite il template Neocortex.

Un LLM locale è più veloce del cloud?

Salta la rete, quindi la prima parola può arrivare molto rapidamente. Il nostro runtime on-device restituisce il primo token in 0,06 secondi e inizia a parlare in circa un secondo su un laptop RTX 3080.

Articoli simili

Continua a leggere