Как запустить LLM локально в игре на Unity
Запуск LLM локально в Unity: прототип чата NPC с Ollama и пакетом Neocortex, сколько локальные модели стоят игрокам и когда вывод на устройстве окупается.
Sercan AltundasFounder of Neocortex
· Обновлено 3 нояб. 2026 г. · 8 мин чтения

Запуск языковой модели локально в Unity означает, что «мозг» NPC живет на машине, а не на сервере: интернет не нужен, ничего не покидает устройство и нет платы за каждое сообщение. Это руководство показывает самый быстрый способ попробовать: прототип с Ollama и пакетом Neocortex Ollama Support. Затем объясняется, что на самом деле требует выпуск локальной модели игрокам.
Три способа запустить модель локально
| Способ | Где работает модель | Подходит для |
|---|---|---|
| Ollama на вашей машине | Отдельный локальный сервер | Прототипов и офлайн-тестов |
| Модель, встроенная в сборку | Внутри процесса игры | Выпущенных игр с компактными моделями |
| Среда выполнения Neocortex на устройстве | Внутри игры, с голосом | Студий, которые выпускают озвученных персонажей на устройстве |
Открытые пакеты вроде LLMUnity идут по пути встроенной модели через llama.cpp, а логику персонажа оставляют вам. Остальная часть руководства описывает путь через Ollama по шагам, затем среду выполнения на устройстве.
Прототип с Ollama в Unity
Ollama загружает и запускает открытые модели на вашем компьютере за небольшим локальным сервером. Пакет Neocortex Ollama Support подключает Unity к нему, с выбором модели и готовым примером чата.
Шаг 1: установите пакеты
Нужны Unity 6 с установленным Neocortex Unity SDK, потому что пакет Ollama использует его интерфейс чата. Затем добавьте пакет Ollama по git-ссылке в Package Manager:
https://github.com/neocortex-link/neocortex-ollama-support.git
Шаг 2: установите Ollama и выберите модель
Откройте Tools > Neocortex > Ollama Support. Окно проведет вас через установку Ollama и выбор модели для загрузки. Начните с малого: модели на несколько миллиардов параметров быстро отвечают на типичной игровой GPU, а большим нужно гораздо больше памяти.
Шаг 3: запустите пример чата
В Package Manager откройте вкладку Samples пакета Ollama Support и импортируйте Chat Sample. Нажмите Play, выберите модель в выпадающем списке и печатайте. NPC отвечает от модели на вашей машине.
Шаг 4: вызовите модель из своего кода
Для подключения локальной модели к собственному NPC достаточно OllamaRequest из примера:
using UnityEngine;
using Neocortex;
using Neocortex.Data;
public class LocalNpc : MonoBehaviour
{
private OllamaRequest request;
private void Start()
{
request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
request.OnChatResponseReceived += OnReply;
request.Send("Is the north road safe?");
}
private void OnReply(ChatResponse response) => Debug.Log(response.message);
}Запрос сам хранит историю разговора, поэтому каждый Send продолжает один и тот же чат.
Что не покрывает путь через Ollama
Это инструмент для прототипа, и он работает только с текстовым чатом:
- Нет голоса. Распознавание речи и синтез речи в него не входят.
- Нет эмоций и действий. Вы получаете обычный текст.
- Игрокам понадобилась бы Ollama. Каждому игроку пришлось бы установить ее и скачать модель, что почти никто не станет делать.
Когда прототип подтвердит идею, тот же Unity SDK работает с персонажами Neocortex в облаке, с голосом, эмоциями, действиями и визуальным редактором, и без модели на машине игрока. Наше руководство по ИИ-персонажам в Unity описывает эту настройку.
Сколько на самом деле стоит выпуск локальной модели
Локальный вывод переносит расходы из счета за сервер на железо игрока:
- Память. Модель должна помещаться рядом с игрой в VRAM. Модели на 3 млрд параметров нужно около 3 ГБ в нашей среде выполнения, модели на 2 млрд - меньше 1 ГБ.
- Размер загрузки. Модели добавляют гигабайты к установке.
- Качество. Небольшие модели слабее крупных облачных, поэтому персонажам нужны более точные тексты и более узкие знания.
- Платформы. WebGL этого не может, а большинству телефонов не хватает памяти.
Среда выполнения Neocortex на устройстве
Для студий, которым нужны персонажи на устройстве игрока с голосом, Neocortex предлагает среду выполнения на устройстве по индивидуальному тарифу Custom. На ноутбучной RTX 3080 она выдает первый токен за 0,06 секунды и начинает говорить примерно через секунду, при модели на 3 млрд параметров около 3 ГБ VRAM, а распознавание речи и голос работают на CPU. Свяжитесь с нами, чтобы спланировать внедрение, а сравнение вариантов см. в посте локальные и on-premise платформы ИИ NPC.
Видеоурок
В видео разбирается пакет Ollama Support в Unity.
Следующие шаги
Чтобы разобраться со скоростью, прочитайте как получить голосовой ответ ИИ NPC быстрее секунды. Для облачного варианта без настройки на машинах игроков см. как заставить NPC говорить через ChatGPT в Unity, где сравниваются вызов API самостоятельно и Neocortex SDK. Все уроки собраны в руководстве по созданию ИИ NPC.
Частые вопросы
Можно ли запустить LLM локально в Unity?
Да. Самый быстрый путь - Ollama на вашей машине с пакетом Neocortex Ollama Support, который дает выбор модели и пример чата. Это текстовый чат для прототипа. Чтобы выпустить ИИ на устройстве для игроков, студии могут подключить среду выполнения Neocortex на устройстве по тарифу Custom.
Сколько VRAM нужно локальной LLM для NPC?
Зависит от размера модели. В нашей среде выполнения на устройстве модель на 3 млрд параметров работает примерно в 3 ГБ VRAM, а модель на 2 млрд - меньше чем в 1 ГБ, при этом распознавание речи и голос работают на CPU. Большим моделям нужно намного больше.
Может ли игрок использовать Ollama в выпущенной игре?
Только если каждый игрок установит Ollama и скачает модель сам, а таких немного. Ollama - хороший инструмент для прототипа. Выпущенные игры либо используют облачный сервис, либо поставляют среду выполнения на устройстве.
Работает ли локальная LLM в Unity WebGL или на мобильных устройствах?
На практике редко. Сборки для браузера не могут подключиться к локальному серверу модели, а в телефонах мало свободной памяти. Облачные персонажи работают на обеих платформах, включая голос в WebGL через шаблон Neocortex.
Быстрее ли локальная LLM облака?
Она не ходит по сети, поэтому первое слово может появиться очень быстро. Наша среда выполнения на устройстве выдает первый токен за 0,06 секунды и начинает говорить примерно через секунду на ноутбучной RTX 3080.






