Neocortex Logo

Unity Oyununda LLM Yerel Olarak Nasıl Çalıştırılır

Unity'de LLM'i yerel çalıştırın: Ollama ve Neocortex paketiyle NPC sohbetini prototipleyin, yerel modellerin oyunculara maliyetini görün ve cihaz üzerinde çıkarımın ne zaman kazandırdığını öğrenin.

Sercan AltundasFounder of Neocortex

· 3 Kas 2026 tarihinde güncellendi · 8 dk okuma

Unity'de LLM'i yerel çalıştırın: Ollama ve Neocortex paketiyle NPC sohbetini prototipleyin, yerel modellerin oyunculara maliyetini görün ve cihaz üzerinde çıkarımın ne zaman kazandırdığını öğrenin.

Unity'de yerel bir dil modeli çalıştırmak, NPC'nin beyninin bir sunucu yerine makinede yaşaması demektir: internet gerekmez, hiçbir şey cihazdan çıkmaz ve mesaj başına maliyet yoktur. Bu rehber denemenin en hızlı yolunu gösterir: Ollama ve Neocortex Ollama Support paketiyle prototip yapmak. Sonra yerel bir modeli oyuncularınıza göndermenin gerçekte neleri gerektirdiğini açıklar.

Yerel olarak bir modeli çalıştırmanın üç yolu

YolModelin çalıştığı yerEn uygun olduğu
Makinenizdeki OllamaAyrı bir yerel sunucuPrototipleme ve çevrimdışı testler
Derlemeye gömülü bir modelOyun sürecinin içindeMütevazı modellerle gönderilen oyunlar
Neocortex cihaz üzerinde çalışma zamanıOyunun içinde, sesle birlikteSesli, cihaz üzerinde karakterler gönderen stüdyolar

LLMUnity gibi açık kaynak paketler gömülü yolu llama.cpp ile alır ve karakter mantığını size bırakır. Bu rehberin geri kalanı Ollama yolunu adım adım, ardından cihaz üzerindeki çalışma zamanını anlatır.

Unity'de Ollama ile prototip

Ollama, modelleri küçük bir yerel sunucunun arkasında bilgisayarınızda indirip çalıştırır. Neocortex Ollama Support paketi Unity'yi ona bağlar; bir model seçici ve hazır bir sohbet örneği içerir.

Adım 1: paketleri kurun

Ollama paketi kendi sohbet arayüzünü kullandığı için Neocortex Unity SDK kurulu olan Unity 6'ya ihtiyacınız var. Sonra Package Manager'da git URL'sinden Ollama paketini ekleyin:

https://github.com/neocortex-link/neocortex-ollama-support.git

Adım 2: Ollama'yı kurun ve bir model seçin

Tools > Neocortex > Ollama Support menüsünü açın. Pencere, Ollama'yı kurmanın ve indirilecek bir model seçmenin adımlarını gösterir. Küçük başlayın: birkaç milyar parametreli modeller tipik bir oyun GPU'sunda hızlı yanıt verir; daha büyükleri çok daha fazla bellek ister.

Adım 3: sohbet örneğini çalıştırın

Package Manager'da Ollama Support paketinin Samples sekmesini açın ve Chat Sample'ı içe aktarın. Play'e basın, açılır listeden modeli seçin ve yazın. NPC, yanıtlarını kendi makinenizdeki modelden verir.

Adım 4: kendi kodunuzdan çağırın

Örnekteki OllamaRequest, yerel bir modeli kendi NPC'nize bağlamak için ihtiyacınız olan her şeydir:

using UnityEngine;
using Neocortex;
using Neocortex.Data;

public class LocalNpc : MonoBehaviour
{
    private OllamaRequest request;

    private void Start()
    {
        request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
        request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
        request.OnChatResponseReceived += OnReply;
        request.Send("Is the north road safe?");
    }

    private void OnReply(ChatResponse response) => Debug.Log(response.message);
}

İstek konuşma geçmişini kendisi tutar; bu yüzden her Send aynı sohbeti sürdürür.

Ollama yolunun kapsamadıkları

Bu bir prototip aracıdır ve yalnızca metin sohbetidir:

  • Ses yok. Konuşma tanıma ve metinden konuşmaya bunun parçası değildir.
  • Duygu ya da eylem yok. Size düz metin döner.
  • Oyuncuların Ollama'ya ihtiyacı olur. Her oyuncunun Ollama'yı kurup bir model indirmesi gerekir; bunu neredeyse kimse yapmaz.

Prototip fikri kanıtladığında, aynı Unity SDK'sı bulutta Neocortex karakterleriyle konuşur: ses, duygu, eylemler ve görsel bir editörle, oyuncunun makinesinde hiçbir model olmadan. Unity yapay zeka karakter eğitimimiz bu kurulumu anlatır.

Yerel bir modeli gerçekte göndermek neye mal olur

Yerel çıkarım, maliyeti sunucu faturanızdan oyuncunun donanımına taşır:

  • Bellek. Model, VRAM'de oyununuzun yanına sığmalıdır. Çalışma zamanımızda 3B bir model yaklaşık 3 GB, 2B bir model 1 GB'ın altında ihtiyaç duyar.
  • İndirme boyutu. Modeller kuruluma gigabaytlar ekler.
  • Kalite. Küçük modeller büyük bulut modellerinden daha az yeteneklidir; bu yüzden karakterler daha sıkı yazılmış ve daha dar bilgiyle kurulmalıdır.
  • Platformlar. WebGL bunu yapamaz ve çoğu telefon belleğini ayıramaz.

Neocortex cihaz üzerinde çalışma zamanı

Sesle birlikte karakterlerin oyuncunun cihazında olmasını isteyen stüdyolar için Neocortex, bir Custom planı olarak bir cihaz üzerinde çalışma zamanı sunar. Dizüstü bir RTX 3080'de ilk token 0,06 saniyede döner ve yaklaşık bir saniyede konuşmaya başlar; 3B model yaklaşık 3 GB VRAM'de çalışır ve konuşma tanıma ile ses CPU'da çalışır. Bir dağıtımı planlamak için bizimle iletişime geçin ve seçeneklerin nasıl karşılaştığı için yerel ve şirket içi yapay zeka NPC platformları yazısına bakın.

Video eğitimi

Video, Unity'de Ollama Support paketini adım adım gösterir.

YouTube'da videoyu izleyin

Sonraki adımlar

Hızın tarafındaki karar için yapay zeka NPC sesli yanıtlarını bir saniyenin altında nasıl alırsınız yazısını okuyun. Oyuncuların makinelerinde hiçbir kurulum olmadan bulut yolu için Unity'de ChatGPT ile NPC'lerin nasıl konuşturulacağı yazısına bakın; bu, bir API'yi kendiniz çağırmayı Neocortex SDK ile karşılaştırır. Her eğitim yapay zeka NPC'leri yapma rehberinde yer alır.

Sık sorulan sorular

Unity'de yerel olarak bir LLM çalıştırabilir miyim?

Evet. En hızlı yol, Neocortex Ollama Support paketiyle kendi makinenizde Ollama'dır; size bir model seçici ve bir sohbet örneği verir. Bu prototip için metin sohbetidir. Cihaz üzerindeki yapay zekayı oyuncularınıza göndermek için stüdyolar Neocortex cihaz üzerinde çalışma zamanını Custom planı olarak ayarlayabilir.

Bir NPC için yerel bir LLM ne kadar VRAM ister?

Model boyutuna bağlıdır. Kendi cihaz üzerindeki çalışma zamanımızda 3B model yaklaşık 3 GB VRAM'de, 2B model 1 GB'ın altında çalışır; konuşma tanıma ve ses CPU'dadır. Daha büyük modeller çok daha fazlasını ister.

Oyuncular gönderilmiş oyunumda Ollama kullanabilir mi?

Yalnızca her oyuncu Ollama'yı kendisi kurup bir model indirirse, ki çok az kişi bunu yapar. Ollama iyi bir prototip aracıdır. Gönderilmiş oyunlar ya bir bulut hizmetini kullanır ya da bir cihaz üzerinde çalışma zamanı paketler.

Yerel bir LLM Unity WebGL'de ya da mobilde çalışır mı?

Pratikte nadiren. Tarayıcı derlemeleri yerel bir model sunucusuna ulaşamaz ve telefonların ayıracak çok az belleği vardır. Bulut karakterleri ikisinde de çalışır; WebGL'de ses dahil, Neocortex şablonu üzerinden.

Yerel bir LLM buluttan daha hızlı mı?

Ağı atladığı için ilk kelime çok hızlı gelebilir. Cihaz üzerindeki çalışma zamanımız, dizüstü bir RTX 3080'de ilk token'ı 0,06 saniyede döndürür ve yaklaşık bir saniyede konuşmaya başlar.

Benzer yazılar

Okumaya devam et