Neocortex Logo

Jak uruchomić LLM lokalnie w grze w Unity

Uruchom LLM lokalnie w Unity: prototyp czatu NPC z Ollama i pakietem Neocortex, koszt modeli lokalnych dla graczy i kiedy wnioskowanie na urządzeniu się opłaca.

Sercan AltundasFounder of Neocortex

· Zaktualizowano 3 lis 2026 · 8 min czytania

Uruchom LLM lokalnie w Unity: prototyp czatu NPC z Ollama i pakietem Neocortex, koszt modeli lokalnych dla graczy i kiedy wnioskowanie na urządzeniu się opłaca.

Uruchomienie modelu językowego lokalnie w Unity oznacza, że „mózg” NPC działa na maszynie zamiast na serwerze: nie potrzeba internetu, nic nie opuszcza urządzenia i nie ma kosztu za wiadomość. Ten poradnik pokazuje najszybszy sposób, by to wypróbować, czyli prototypowanie z Ollama i pakietem Neocortex Ollama Support, a potem wyjaśnia, co naprawdę wiąże się z wysłaniem lokalnego modelu do graczy.

Trzy sposoby na lokalne uruchomienie modelu

DrogaGdzie działa modelDobre do
Ollama na twoim komputerzeOsobny lokalny serwerPrototypowania i testów offline
Model wbudowany w buildWewnątrz procesu gryWydanych gier ze skromnymi modelami
Runtime Neocortex na urządzeniuWewnątrz gry, z głosemStudiów wydających postacie z głosem na urządzeniu

Pakiety open source, takie jak LLMUnity, idą drogą wbudowaną, z llama.cpp, a logikę postaci zostawiają tobie. Reszta poradnika omawia krok po kroku drogę przez Ollama, a potem runtime na urządzeniu.

Prototyp z Ollama w Unity

Ollama pobiera i uruchamia modele otwarte na twoim komputerze, za małym lokalnym serwerem. Pakiet Neocortex Ollama Support łączy z nim Unity, z wyborem modelu i gotowym przykładem czatu.

Krok 1: zainstaluj pakiety

Potrzebujesz Unity 6 z zainstalowanym SDK Neocortex dla Unity, bo pakiet Ollama korzysta z jego interfejsu czatu. Następnie dodaj pakiet Ollama z adresu git w Package Managerze:

https://github.com/neocortex-link/neocortex-ollama-support.git

Krok 2: zainstaluj Ollama i wybierz model

Otwórz Tools > Neocortex > Ollama Support. Okno przeprowadzi cię przez instalację Ollama i wybór modelu do pobrania. Zacznij od małego: modele z kilkoma miliardami parametrów odpowiadają szybko na typowej karcie do gier, a większe potrzebują znacznie więcej pamięci.

Krok 3: uruchom przykład czatu

W Package Managerze otwórz zakładkę Samples pakietu Ollama Support i zaimportuj Chat Sample. Naciśnij Play, wybierz model z listy i pisz. NPC odpowiada z modelu na twoim własnym komputerze.

Krok 4: wywołaj go z własnego kodu

OllamaRequest z przykładu wystarcza, by podłączyć lokalny model do własnego NPC:

using UnityEngine;
using Neocortex;
using Neocortex.Data;

public class LocalNpc : MonoBehaviour
{
    private OllamaRequest request;

    private void Start()
    {
        request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
        request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
        request.OnChatResponseReceived += OnReply;
        request.Send("Is the north road safe?");
    }

    private void OnReply(ChatResponse response) => Debug.Log(response.message);
}

Żądanie samo przechowuje historię rozmowy, więc każde Send kontynuuje ten sam czat.

Czego droga przez Ollama nie obejmuje

To narzędzie do prototypowania i obsługuje wyłącznie czat tekstowy:

  • Brak głosu. Rozpoznawanie mowy i zamiana tekstu na mowę nie są jego częścią.
  • Brak emocji i akcji. Dostajesz z powrotem zwykły tekst.
  • Gracze musieliby mieć Ollama. Każdy gracz musiałby ją zainstalować i pobrać model, a prawie nikt tego nie zrobi.

Gdy prototyp potwierdzi pomysł, ten sam SDK Unity rozmawia z postaciami Neocortex w chmurze, z głosem, emocjami, akcjami i wizualnym edytorem, bez modelu na maszynie gracza. Nasz poradnik o postaciach AI w Unity opisuje tę konfigurację.

Ile naprawdę kosztuje wysłanie lokalnego modelu

Wnioskowanie lokalne przenosi koszt z rachunku za serwer na sprzęt gracza:

  • Pamięć. Model musi zmieścić się obok gry w VRAM. Model 3B potrzebuje około 3 GB w naszym runtime, a model 2B mniej niż 1 GB.
  • Rozmiar pobierania. Modele dodają gigabajty do instalacji.
  • Jakość. Małe modele są mniej zdolne niż duże modele w chmurze, więc postacie wymagają ciaśniejszego pisania i węższej wiedzy.
  • Platformy. WebGL tego nie udźwignie, a większość telefonów nie ma pamięci do oddania.

Runtime Neocortex na urządzeniu

Dla studiów, które potrzebują postaci na urządzeniu gracza, z głosem, Neocortex oferuje runtime na urządzeniu jako plan Custom. Na laptopowym RTX 3080 zwraca pierwszy token w 0,06 sekundy i zaczyna mówić po około sekundzie, z modelem 3B zajmującym około 3 GB VRAM, a rozpoznawanie mowy i głos działają na CPU. Skontaktuj się z nami, by zaplanować wdrożenie, a porównanie opcji znajdziesz we wpisie o lokalnych i on-premise platformach dla NPC AI.

Film instruktażowy

Film przechodzi przez pakiet Ollama Support w Unity.

Obejrzyj film na YouTube

Następne kroki

Po stronie szybkości decyzji przeczytaj, jak uzyskać odpowiedzi głosowe NPC AI w mniej niż sekundę. Dla drogi w chmurze bez konfiguracji na maszynach graczy zobacz jak sprawić, by NPC mówiły z ChatGPT w Unity, który porównuje samodzielne wywoływanie API z SDK Neocortex. Wszystkie poradniki są w przewodniku po budowaniu NPC AI.

Często zadawane pytania

Czy mogę uruchomić LLM lokalnie w Unity?

Tak. Najszybszy sposób to Ollama na własnym komputerze z pakietem Neocortex Ollama Support, który daje wybór modelu i przykład czatu. To czat tekstowy do prototypowania. Do wysyłania AI na urządzeniu do graczy studia mogą zamówić runtime Neocortex na urządzeniu jako plan Custom.

Ile pamięci VRAM potrzebuje lokalny LLM dla NPC?

Zależy od rozmiaru modelu. W naszym runtime na urządzeniu model 3B działa w około 3 GB VRAM, a model 2B w mniej niż 1 GB, przy rozpoznawaniu mowy i głosie na CPU. Większe modele potrzebują znacznie więcej.

Czy gracze mogą używać Ollama w wydanej grze?

Tylko gdy każdy gracz sam zainstaluje Ollama i pobierze model, a niewielu to zrobi. Ollama to dobre narzędzie do prototypowania. Wydane gry albo korzystają z usługi w chmurze, albo dołączają runtime na urządzeniu.

Czy lokalny LLM działa w Unity WebGL lub na telefonie?

W praktyce rzadko. Buildy przeglądarkowe nie mogą sięgnąć do lokalnego serwera modeli, a telefony mają mało pamięci do oddania. Postacie w chmurze działają na obu, w tym głos w WebGL przez szablon Neocortex.

Czy lokalny LLM jest szybszy niż chmura?

Omija sieć, więc pierwsze słowo może pojawić się bardzo szybko. Nasz runtime na urządzeniu zwraca pierwszy token w 0,06 sekundy i zaczyna mówić po około sekundzie na laptopowym RTX 3080.

Podobne artykuły

Czytaj dalej