고도 엔진 4에서 로컬 LLM 실행하는 법
고도 엔진 4에서 로컬 LLM 실행하기: Ollama로 모델 서빙하기, HTTPRequest로 GDScript에서 호출하기, 대화 기록 유지하기, 로컬 모델이 플레이어에게 드는 비용 알아보기.
Sercan AltundasFounder of Neocortex
· 8분 분량

고도 엔진에서 언어 모델을 로컬로 실행하면, NPC가 인터넷 없이도 메시지당 요금 없이 대화할 수 있습니다. 가장 간단한 구성은 여러분의 컴퓨터에서 오픈 모델을 서빙하는 Ollama와, 고도 엔진에 내장된 HTTPRequest 노드입니다. 이 가이드는 GDScript로 로컬 NPC 채팅을 만들고, 로컬 모델을 플레이어에게 실제로 배포하려면 무엇이 필요한지 다룹니다.
로컬에서 모델을 실행하는 두 가지 방법
- 로컬 서버. Ollama 같은 서버는 게임 옆에서 실행되며 HTTP로 응답합니다. 설정이 쉽고 프로토타입에 이상적이지만, 모든 플레이어가 이를 설치해야 합니다.
- 게임 안의 모델. NobodyWho 같은 오픈 소스 애드온이 하는 것처럼, llama.cpp를 내장한 GDExtension을 통해 실행합니다. 플레이어가 설치할 것은 없지만, 모델이 게임과 함께 배포되며 플레이어의 하드웨어에서 돌아갑니다.
이 가이드는 Ollama를 씁니다. 십 분이면 설정할 수 있고, GDScript의 아이디어는 모든 HTTP 모델 서버에 똑같이 적용되기 때문입니다.
1단계: Ollama로 모델 실행하기
Ollama를 설치한 뒤, 작은 모델을 내려받아 터미널에서 테스트하세요. 수십억 파라미터 규모의 작은 모델은 일반적인 게임용 GPU에서도 빠르게 응답하며, 대사 테스트에는 충분합니다. Ollama는 실행 중에 http://localhost:11434에서 듣습니다.
2단계: GDScript에서 호출하기
NPC의 자식으로 HTTPRequest 노드를 추가한 뒤, 이 스크립트를 붙이세요. 대화 기록을 유지해서 모델이 앞서 무엇이 말해졌는지 알 수 있게 합니다.
extends Node
@onready var http: HTTPRequest = $HTTPRequest
var history: Array = [
{"role": "system", "content": "You are Brannoch, a gruff village blacksmith. Answer in one or two sentences."}
]
func _ready() -> void:
http.request_completed.connect(_on_request_completed)
func ask(player_line: String) -> void:
history.append({"role": "user", "content": player_line})
var body := JSON.stringify({"model": "MODEL_NAME", "messages": history, "stream": false})
http.request("http://localhost:11434/api/chat", ["Content-Type: application/json"], HTTPClient.METHOD_POST, body)
func _on_request_completed(result: int, code: int, _headers: PackedStringArray, body: PackedByteArray) -> void:
if result != HTTPRequest.RESULT_SUCCESS or code != 200:
push_warning("Local model request failed: %d" % code)
return
var reply: Dictionary = JSON.parse_string(body.get_string_from_utf8())["message"]
history.append(reply)
print(reply["content"]) # show it in your dialogue UIMODEL_NAME을 내려받은 모델 이름으로 바꾸고, ask("Is the north road safe?")를 호출하면, Brannoch이 여러분의 컴퓨터에서 답합니다. HTTPRequest는 한 번에 요청 하나만 처리하므로, 다음 대사를 보내기 전에 답변을 기다리세요.
3단계: 캐릭터처럼 느껴지게 만들기
원시 모델은 챗봇입니다. 이것을 NPC로 만들려면 다음이 필요합니다.
- 더 엄격한 시스템 프롬프트: 캐릭터가 원하는 것, 모르는 것, 말투. NPC에 고유한 성격을 주는 법을 참고하세요.
- 기록 다듬기: 기록은 한 줄마다 길어지고, 답변 시간도 함께 늘어납니다. 시스템 프롬프트와 최근 몇 번의 주고받기만 유지하세요.
- 게임 맥락: 플레이어의 메시지 앞에 방금 일어난 일을 짧게 적으세요("플레이어가 훔친 망치를 돌려줬다").
로컬 모델이 플레이어에게 드는 비용
로컬 추론은 비용을 서버 청구서에서 플레이어의 하드웨어로 옮깁니다.
- 메모리. 모델이 게임과 GPU를 나눠 씁니다. 저희 자체 온디바이스 런타임에서는 3B 모델이 약 3 GB의 VRAM을, 2B 모델은 1 GB 미만을 씁니다.
- 다운로드 크기. 모델은 게임에 기가바이트 단위를 더합니다.
- 품질. 작은 모델은 아는 것이 적고, 캐릭터에서 더 쉽게 벗어납니다.
- 플랫폼. 웹 익스포트와 대부분의 휴대폰은 이를 잘 실행하지 못합니다.
직접 만들어야 하는 것
로컬 모델은 텍스트를 줍니다. 게임 캐릭터에는 보통 그 이상이 필요합니다.
- 음성: 플레이어를 위한 음성 인식과 답변을 위한 텍스트 음성 변환, 그리고 대기 시간을 짧게 유지하는 스트리밍. AI NPC 음성 파이프라인의 작동 방식을 참고하세요.
- 감정과 행동: 구조화된 출력을 요청하고, 그것을 안정적으로 파싱하는 것.
- 플레이어가 밀어붙일 때 캐릭터 유지하기. AI NPC를 캐릭터답게 유지하는 법을 참고하세요.
고도 엔진에서 클라우드 경로
챗봇이 아니라 캐릭터가 필요할 때, Neocortex 고도 엔진 SDK는 캐릭터를 클라우드에서 실행하므로 플레이어는 아무것도 설치할 필요가 없고 GPU도 따로 쓰지 않습니다. 브라우저 편집기에서 성격, 지식 베이스, 음성, 행동을 갖춘 캐릭터를 디자인하면, SDK가 GDScript에서 음성 입출력, 모든 대사의 감정, 데이터로서의 행동을 제공합니다. 설명은 고도 엔진 4에서 AI NPC 대화를 추가하는 법에 있습니다.
프로덕션에서 온디바이스 추론이 필요한 스튜디오라면, 커스텀 플랜으로 제공되는 온디바이스 런타임에 대해 저희와 상담할 수 있습니다. 이 런타임은 첫 토큰을 0.06초에 내고, 노트북 RTX 3080에서 약 1초 만에 말하기 시작합니다. 계획을 세우려면 문의하세요.
다음 단계
지연 시간의 절충점은 AI NPC 음성 답변을 1초 미만으로 만드는 법을 읽어 보세요. 유니티에 대한 같은 주제는 유니티 게임에서 LLM을 로컬로 실행하는 법에 있습니다. 모든 튜토리얼은 AI NPC 만들기 가이드에 모여 있습니다.
자주 묻는 질문
고도 엔진에서 로컬 LLM은 어떻게 실행하나요?
컴퓨터에서 Ollama로 모델을 실행한 뒤, HTTPRequest 노드로 GDScript에서 그 로컬 HTTP API를 호출하면 됩니다. 오프라인에서 작동하고 메시지당 비용이 없으므로, NPC 대사를 프로토타이핑하기 좋은 방법입니다.
Ollama를 쓰는 게임을 출시할 수 있나요?
모든 플레이어가 Ollama를 설치하고 모델을 내려받아야 하는 경우에만 가능하며, 그렇게 할 플레이어는 많지 않습니다. 출시된 게임은 모델을 빌드 안에 함께 넣거나, 플레이어의 기기에 아무것도 필요 없는 Neocortex 같은 클라우드 서비스를 씁니다.
NPC는 어떤 크기의 로컬 모델을 쓸 수 있나요?
수십억 파라미터 규모의 모델은 일반적인 게임용 GPU에서 실행됩니다. 저희 온디바이스 런타임에서는 3B 모델이 약 3 GB의 VRAM을 필요로 합니다. 더 큰 모델은 더 나은 답을 주지만 훨씬 많은 메모리가 필요합니다.
고도 엔진의 로컬 LLM이 음성을 지원하나요?
그 자체로는 아닙니다. 음성 인식과 텍스트 음성 변환을 따로 추가해야 합니다. Neocortex 고도 엔진 SDK는 클라우드에서 실행되며 캐릭터에 음성 입출력, 감정, 행동을 제공합니다.






