Jak uruchomić LLM lokalnie w grze w Unity
Uruchom LLM lokalnie w Unity: prototyp czatu NPC z Ollama i pakietem Neocortex, koszt modeli lokalnych dla graczy i kiedy wnioskowanie na urządzeniu się opłaca.
Sercan AltundasFounder of Neocortex
· Zaktualizowano 3 lis 2026 · 8 min czytania

Uruchomienie modelu językowego lokalnie w Unity oznacza, że „mózg” NPC działa na maszynie zamiast na serwerze: nie potrzeba internetu, nic nie opuszcza urządzenia i nie ma kosztu za wiadomość. Ten poradnik pokazuje najszybszy sposób, by to wypróbować, czyli prototypowanie z Ollama i pakietem Neocortex Ollama Support, a potem wyjaśnia, co naprawdę wiąże się z wysłaniem lokalnego modelu do graczy.
Trzy sposoby na lokalne uruchomienie modelu
| Droga | Gdzie działa model | Dobre do |
|---|---|---|
| Ollama na twoim komputerze | Osobny lokalny serwer | Prototypowania i testów offline |
| Model wbudowany w build | Wewnątrz procesu gry | Wydanych gier ze skromnymi modelami |
| Runtime Neocortex na urządzeniu | Wewnątrz gry, z głosem | Studiów wydających postacie z głosem na urządzeniu |
Pakiety open source, takie jak LLMUnity, idą drogą wbudowaną, z llama.cpp, a logikę postaci zostawiają tobie. Reszta poradnika omawia krok po kroku drogę przez Ollama, a potem runtime na urządzeniu.
Prototyp z Ollama w Unity
Ollama pobiera i uruchamia modele otwarte na twoim komputerze, za małym lokalnym serwerem. Pakiet Neocortex Ollama Support łączy z nim Unity, z wyborem modelu i gotowym przykładem czatu.
Krok 1: zainstaluj pakiety
Potrzebujesz Unity 6 z zainstalowanym SDK Neocortex dla Unity, bo pakiet Ollama korzysta z jego interfejsu czatu. Następnie dodaj pakiet Ollama z adresu git w Package Managerze:
https://github.com/neocortex-link/neocortex-ollama-support.git
Krok 2: zainstaluj Ollama i wybierz model
Otwórz Tools > Neocortex > Ollama Support. Okno przeprowadzi cię przez instalację Ollama i wybór modelu do pobrania. Zacznij od małego: modele z kilkoma miliardami parametrów odpowiadają szybko na typowej karcie do gier, a większe potrzebują znacznie więcej pamięci.
Krok 3: uruchom przykład czatu
W Package Managerze otwórz zakładkę Samples pakietu Ollama Support i zaimportuj Chat Sample. Naciśnij Play, wybierz model z listy i pisz. NPC odpowiada z modelu na twoim własnym komputerze.
Krok 4: wywołaj go z własnego kodu
OllamaRequest z przykładu wystarcza, by podłączyć lokalny model do własnego NPC:
using UnityEngine;
using Neocortex;
using Neocortex.Data;
public class LocalNpc : MonoBehaviour
{
private OllamaRequest request;
private void Start()
{
request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
request.OnChatResponseReceived += OnReply;
request.Send("Is the north road safe?");
}
private void OnReply(ChatResponse response) => Debug.Log(response.message);
}Żądanie samo przechowuje historię rozmowy, więc każde Send kontynuuje ten sam czat.
Czego droga przez Ollama nie obejmuje
To narzędzie do prototypowania i obsługuje wyłącznie czat tekstowy:
- Brak głosu. Rozpoznawanie mowy i zamiana tekstu na mowę nie są jego częścią.
- Brak emocji i akcji. Dostajesz z powrotem zwykły tekst.
- Gracze musieliby mieć Ollama. Każdy gracz musiałby ją zainstalować i pobrać model, a prawie nikt tego nie zrobi.
Gdy prototyp potwierdzi pomysł, ten sam SDK Unity rozmawia z postaciami Neocortex w chmurze, z głosem, emocjami, akcjami i wizualnym edytorem, bez modelu na maszynie gracza. Nasz poradnik o postaciach AI w Unity opisuje tę konfigurację.
Ile naprawdę kosztuje wysłanie lokalnego modelu
Wnioskowanie lokalne przenosi koszt z rachunku za serwer na sprzęt gracza:
- Pamięć. Model musi zmieścić się obok gry w VRAM. Model 3B potrzebuje około 3 GB w naszym runtime, a model 2B mniej niż 1 GB.
- Rozmiar pobierania. Modele dodają gigabajty do instalacji.
- Jakość. Małe modele są mniej zdolne niż duże modele w chmurze, więc postacie wymagają ciaśniejszego pisania i węższej wiedzy.
- Platformy. WebGL tego nie udźwignie, a większość telefonów nie ma pamięci do oddania.
Runtime Neocortex na urządzeniu
Dla studiów, które potrzebują postaci na urządzeniu gracza, z głosem, Neocortex oferuje runtime na urządzeniu jako plan Custom. Na laptopowym RTX 3080 zwraca pierwszy token w 0,06 sekundy i zaczyna mówić po około sekundzie, z modelem 3B zajmującym około 3 GB VRAM, a rozpoznawanie mowy i głos działają na CPU. Skontaktuj się z nami, by zaplanować wdrożenie, a porównanie opcji znajdziesz we wpisie o lokalnych i on-premise platformach dla NPC AI.
Film instruktażowy
Film przechodzi przez pakiet Ollama Support w Unity.
Następne kroki
Po stronie szybkości decyzji przeczytaj, jak uzyskać odpowiedzi głosowe NPC AI w mniej niż sekundę. Dla drogi w chmurze bez konfiguracji na maszynach graczy zobacz jak sprawić, by NPC mówiły z ChatGPT w Unity, który porównuje samodzielne wywoływanie API z SDK Neocortex. Wszystkie poradniki są w przewodniku po budowaniu NPC AI.
Często zadawane pytania
Czy mogę uruchomić LLM lokalnie w Unity?
Tak. Najszybszy sposób to Ollama na własnym komputerze z pakietem Neocortex Ollama Support, który daje wybór modelu i przykład czatu. To czat tekstowy do prototypowania. Do wysyłania AI na urządzeniu do graczy studia mogą zamówić runtime Neocortex na urządzeniu jako plan Custom.
Ile pamięci VRAM potrzebuje lokalny LLM dla NPC?
Zależy od rozmiaru modelu. W naszym runtime na urządzeniu model 3B działa w około 3 GB VRAM, a model 2B w mniej niż 1 GB, przy rozpoznawaniu mowy i głosie na CPU. Większe modele potrzebują znacznie więcej.
Czy gracze mogą używać Ollama w wydanej grze?
Tylko gdy każdy gracz sam zainstaluje Ollama i pobierze model, a niewielu to zrobi. Ollama to dobre narzędzie do prototypowania. Wydane gry albo korzystają z usługi w chmurze, albo dołączają runtime na urządzeniu.
Czy lokalny LLM działa w Unity WebGL lub na telefonie?
W praktyce rzadko. Buildy przeglądarkowe nie mogą sięgnąć do lokalnego serwera modeli, a telefony mają mało pamięci do oddania. Postacie w chmurze działają na obu, w tym głos w WebGL przez szablon Neocortex.
Czy lokalny LLM jest szybszy niż chmura?
Omija sieć, więc pierwsze słowo może pojawić się bardzo szybko. Nasz runtime na urządzeniu zwraca pierwszy token w 0,06 sekundy i zaczyna mówić po około sekundzie na laptopowym RTX 3080.






