Cara Menjalankan LLM Secara Lokal di Game Unity
Jalankan LLM secara lokal di Unity: buat prototipe chat NPC dengan Ollama dan paket Neocortex, lihat biaya model lokal bagi pemain, dan kapan inferensi di perangkat terbayar.
Sercan AltundasFounder of Neocortex
· Diperbarui 3 Nov 2026 · 8 menit baca

Menjalankan model bahasa secara lokal di Unity berarti otak NPC tinggal di mesin, bukan di server: tanpa internet, tidak ada yang meninggalkan perangkat, dan tanpa biaya per pesan. Panduan ini menunjukkan cara tercepat untuk mencobanya, membuat prototipe dengan Ollama dan paket Neocortex Ollama Support, lalu menjelaskan apa yang sebenarnya terlibat dalam mengirim model lokal ke pemain.
Tiga cara menjalankan model secara lokal
| Rute | Tempat model berjalan | Cocok untuk |
|---|---|---|
| Ollama di mesin Anda | Server lokal terpisah | Prototipe dan uji offline |
| Model tertanam di build | Di dalam proses game | Game yang dirilis dengan model yang sederhana |
| Runtime on-device Neocortex | Di dalam game, dengan suara | Studio yang merilis karakter bersuara di perangkat |
Paket open-source seperti LLMUnity mengambil rute tertanam dengan llama.cpp, dan logika karakter diserahkan kepada Anda. Sisa panduan ini membahas rute Ollama langkah demi langkah, lalu runtime on-device.
Buat prototipe dengan Ollama di Unity
Ollama mengunduh dan menjalankan model terbuka di komputer Anda di balik server lokal kecil. Paket Neocortex Ollama Support menghubungkan Unity ke sana, dengan pemilih model dan contoh chat siap pakai.
Langkah 1: pasang paketnya
Anda memerlukan Unity 6 dengan Neocortex Unity SDK terpasang, karena paket Ollama menggunakan UI chat-nya. Lalu tambahkan paket Ollama dari URL git di Package Manager:
https://github.com/neocortex-link/neocortex-ollama-support.git
Langkah 2: pasang Ollama dan pilih model
Buka Tools > Neocortex > Ollama Support. Jendela itu memandu Anda memasang Ollama dan memilih model untuk diunduh. Mulailah dari yang kecil: model beberapa miliar parameter menjawab dengan cepat pada GPU game yang umum, sedangkan yang lebih besar membutuhkan memori jauh lebih banyak.
Langkah 3: jalankan contoh chat
Di Package Manager, buka tab Samples pada paket Ollama Support dan impor Chat Sample. Tekan Play, pilih model dari dropdown, dan ketik. NPC menjawab dari model di mesin Anda sendiri.
Langkah 4: panggil dari kode Anda sendiri
OllamaRequest dari contoh sudah cukup untuk menghubungkan model lokal ke NPC Anda sendiri:
using UnityEngine;
using Neocortex;
using Neocortex.Data;
public class LocalNpc : MonoBehaviour
{
private OllamaRequest request;
private void Start()
{
request = new OllamaRequest { ModelName = "MODEL_NAME" }; // a model you downloaded with Ollama
request.AddSystemMessage("You are Brannoch, a gruff village blacksmith. Answer in one or two sentences.");
request.OnChatResponseReceived += OnReply;
request.Send("Is the north road safe?");
}
private void OnReply(ChatResponse response) => Debug.Log(response.message);
}Permintaan itu menyimpan riwayat percakapan sendiri, sehingga setiap Send melanjutkan chat yang sama.
Apa yang tidak dicakup rute Ollama
Ini alat prototipe, dan hanya chat teks:
- Tanpa suara. Pengenalan ucapan dan text-to-speech bukan bagian darinya.
- Tanpa emosi atau aksi. Anda hanya mendapat teks biasa.
- Pemain perlu Ollama. Setiap pemain harus memasang Ollama dan mengunduh model, dan hampir tidak ada yang mau melakukan itu.
Ketika prototipe membuktikan idenya, Unity SDK yang sama berbicara dengan karakter Neocortex di cloud, dengan suara, emosi, aksi, dan editor visual, tanpa model di mesin pemain. Panduan karakter AI Unity kami membahas pengaturan itu.
Biaya sebenarnya mengirim model lokal
Inferensi lokal memindahkan biaya dari tagihan server Anda ke perangkat keras pemain:
- Memori. Model harus muat di samping game Anda di VRAM. Model 3B membutuhkan sekitar 3 GB pada runtime kami, model 2B di bawah 1 GB.
- Ukuran unduhan. Model menambah gigabyte ke instalasi.
- Kualitas. Model kecil kurang mampu dibanding model cloud besar, sehingga karakter membutuhkan penulisan yang lebih ketat dan pengetahuan yang lebih sempit.
- Platform. WebGL tidak bisa melakukannya, dan sebagian besar ponsel tidak punya memori yang cukup untuk dibagi.
Runtime on-device Neocortex
Untuk studio yang membutuhkan karakter di perangkat pemain, dengan suara, Neocortex menawarkan runtime on-device sebagai paket Custom. Pada laptop RTX 3080, runtime itu mengembalikan token pertamanya dalam 0,06 detik dan mulai berbicara dalam sekitar satu detik, dengan model 3B dalam sekitar 3 GB VRAM, dan pengenalan ucapan serta suara berjalan di CPU. Hubungi kami untuk merencanakan penerapan, dan lihat platform NPC AI lokal dan on-premise untuk membandingkan opsinya.
Video tutorial
Video ini menjelaskan paket Ollama Support di Unity.
Langkah selanjutnya
Untuk sisi kecepatan dari keputusan ini, baca cara mendapatkan balasan suara NPC AI di bawah satu detik. Untuk rute cloud tanpa pengaturan di mesin pemain, lihat cara membuat NPC berbicara dengan ChatGPT di Unity, yang membandingkan memanggil API sendiri dengan Neocortex SDK. Setiap tutorial ada di panduan membangun NPC AI.
Pertanyaan yang sering diajukan
Bisakah saya menjalankan LLM secara lokal di Unity?
Bisa. Cara tercepat adalah Ollama di mesin Anda sendiri dengan paket Neocortex Ollama Support, yang memberi Anda pemilih model dan contoh chat. Itu chat teks untuk prototipe. Untuk merilis AI on-device kepada pemain, studio dapat mengatur runtime on-device Neocortex sebagai paket Custom.
Berapa VRAM yang dibutuhkan LLM lokal untuk NPC?
Tergantung ukuran model. Pada runtime on-device kami, model 3B berjalan dalam sekitar 3 GB VRAM dan model 2B di bawah 1 GB, dengan pengenalan ucapan dan suara di CPU. Model yang lebih besar membutuhkan jauh lebih banyak.
Bisakah pemain memakai Ollama di game yang saya rilis?
Hanya jika setiap pemain memasang Ollama dan mengunduh model sendiri, yang sedikit orang akan lakukan. Ollama adalah alat prototipe yang baik. Game yang dirilis memakai layanan cloud atau mengemas runtime on-device.
Apakah LLM lokal berfungsi di Unity WebGL atau di mobile?
Jarang dalam praktik. Build browser tidak dapat menjangkau server model lokal, dan ponsel memiliki sedikit memori yang tersisa. Karakter cloud berfungsi di keduanya, termasuk suara di WebGL melalui template Neocortex.
Apakah LLM lokal lebih cepat daripada cloud?
Ia melewati jaringan, sehingga kata pertama bisa muncul sangat cepat. Runtime on-device kami mengembalikan token pertamanya dalam 0,06 detik dan mulai berbicara dalam sekitar satu detik pada laptop RTX 3080.






