Comment faire tourner un LLM local dans Godot 4
Faites tourner un LLM local dans Godot 4 : servez un modèle avec Ollama, appelez-le depuis GDScript avec HTTPRequest, gardez l'historique du chat et sachez ce que coûtent les modèles locaux aux joueurs.
Sercan AltundasFounder of Neocortex
· 8 min de lecture

Faire tourner un modèle de langage localement dans Godot signifie que vos PNJ peuvent parler sans internet et sans facture par message. La configuration la plus simple repose sur Ollama, qui sert des modèles ouverts sur votre propre machine, et sur le nœud intégré HTTPRequest de Godot. Ce guide construit un chat de PNJ local en GDScript, puis explique ce qu'implique réellement la livraison d'un modèle local aux joueurs.
Deux façons de faire tourner un modèle localement
- Un serveur local comme Ollama tourne à côté du jeu et répond en HTTP. Simple à mettre en place, idéal pour le prototypage, mais chaque joueur devrait l'installer.
- Un modèle à l'intérieur du jeu grâce à une GDExtension qui intègre llama.cpp, comme le font des addons open source tels que NobodyWho. Rien à installer pour les joueurs, mais le modèle est livré avec votre jeu et tourne sur leur matériel.
Ce guide utilise Ollama, car la mise en place prend dix minutes et le GDScript repose sur la même idée pour tout serveur de modèle HTTP.
Étape 1 : lancer un modèle avec Ollama
Installez Ollama, puis téléchargez un petit modèle et testez-le dans un terminal. Les petits modèles de quelques milliards de paramètres répondent rapidement sur une carte graphique de jeu classique, et ils suffisent largement pour tester des dialogues. Ollama écoute sur http://localhost:11434 tant qu'il tourne.
Étape 2 : l'appeler depuis GDScript
Ajoutez un nœud HTTPRequest comme enfant de votre PNJ, puis attachez ce script. Il conserve l'historique de la conversation pour que le modèle sache ce qui a été dit auparavant :
extends Node
@onready var http: HTTPRequest = $HTTPRequest
var history: Array = [
{"role": "system", "content": "You are Brannoch, a gruff village blacksmith. Answer in one or two sentences."}
]
func _ready() -> void:
http.request_completed.connect(_on_request_completed)
func ask(player_line: String) -> void:
history.append({"role": "user", "content": player_line})
var body := JSON.stringify({"model": "MODEL_NAME", "messages": history, "stream": false})
http.request("http://localhost:11434/api/chat", ["Content-Type: application/json"], HTTPClient.METHOD_POST, body)
func _on_request_completed(result: int, code: int, _headers: PackedStringArray, body: PackedByteArray) -> void:
if result != HTTPRequest.RESULT_SUCCESS or code != 200:
push_warning("Local model request failed: %d" % code)
return
var reply: Dictionary = JSON.parse_string(body.get_string_from_utf8())["message"]
history.append(reply)
print(reply["content"]) # show it in your dialogue UIRemplacez MODEL_NAME par le modèle que vous avez téléchargé, appelez ask("Is the north road safe?"), et Brannoch répond depuis votre propre machine. Un HTTPRequest ne traite qu'une requête à la fois : attendez la réponse avant d'envoyer la réplique suivante.
Étape 3 : lui donner l'allure d'un personnage
Un modèle brut est un chatbot. Pour en faire un PNJ, il vous faudra :
- Un prompt système plus serré : ce que veut le personnage, ce qu'il ignore, sa façon de parler. Voir comment donner aux PNJ des personnalités uniques.
- Un historique élagué : l'historique grandit à chaque réplique, et avec lui le temps de réponse. Gardez le prompt système et les derniers échanges.
- Le contexte du jeu : ajoutez une courte phrase sur ce qui vient de se passer (« Le joueur a rapporté le marteau volé. ») avant le message du joueur.
Ce qu'un modèle local coûte aux joueurs
L'inférence locale déplace le coût d'une facture de serveur vers le matériel du joueur :
- Mémoire. Le modèle partage le GPU avec votre jeu. Sur notre propre runtime embarqué, un modèle de 3B a besoin d'environ 3 GB de VRAM, et un modèle de 2B de moins de 1 GB.
- Taille du téléchargement. Les modèles ajoutent des gigaoctets à votre jeu.
- Qualité. Les petits modèles en savent moins et sortent plus facilement de leur personnage.
- Plateformes. Les exports web et la plupart des téléphones ne peuvent pas les faire tourner correctement.
Ce qu'il vous reste à construire
Un modèle local fournit du texte. Un personnage de jeu a généralement besoin de plus :
- La voix : reconnaissance vocale pour le joueur et synthèse vocale pour la réponse, plus du streaming pour que l'attente reste courte. Voir comment fonctionne la chaîne vocale des PNJ IA.
- L'émotion et les actions : un prompt qui demande une sortie structurée, et une lecture fiable de cette sortie.
- Rester dans le personnage quand les joueurs insistent. Voir comment garder les PNJ IA dans leur personnage.
La voie cloud dans Godot
Quand vous voulez un personnage plutôt qu'un chatbot, le SDK Godot de Neocortex fait tourner les personnages dans le cloud : les joueurs n'ont rien à installer et n'ont pas besoin d'un GPU disponible. Vous concevez le personnage dans un éditeur de navigateur, avec une personnalité, une base de connaissances, une voix et des actions, et le SDK vous fournit la voix en entrée et en sortie, une émotion sur chaque réplique et des actions sous forme de données, depuis GDScript. Le pas-à-pas figure dans comment ajouter des dialogues de PNJ IA dans Godot 4.
Les studios qui ont besoin d'une inférence embarquée en production peuvent nous parler de notre runtime embarqué, disponible dans une offre Custom : il renvoie son premier jeton en 0.06 seconde et commence à parler en une seconde environ sur un portable RTX 3080. Contactez-nous pour le planifier.
Étapes suivantes
Pour les compromis de latence, lisez comment obtenir des réponses vocales de PNJ IA en moins d'une seconde. Pour Unity, le même sujet est traité dans comment faire tourner un LLM localement dans un jeu Unity. Tous les tutos figurent dans le guide pour créer des PNJ IA.
Questions fréquentes
Comment faire tourner un LLM local dans Godot ?
Faites tourner un modèle sur votre machine avec Ollama, puis appelez son API HTTP locale depuis GDScript avec un nœud HTTPRequest. Cela fonctionne hors ligne et ne coûte rien par message, ce qui en fait un bon moyen de prototyper les dialogues de PNJ.
Puis-je livrer un jeu qui utilise Ollama ?
Seulement si chaque joueur installe Ollama et télécharge un modèle, ce que peu feront. Les jeux livrés intègrent soit le modèle dans le build, soit utilisent un service cloud comme Neocortex, qui ne demande rien sur la machine du joueur.
Quelle taille de modèle local un PNJ peut-il utiliser ?
Les modèles de quelques milliards de paramètres tournent sur des cartes graphiques de jeu classiques. Sur notre propre runtime embarqué, un modèle de 3B a besoin d'environ 3 GB de VRAM. Les modèles plus grands donnent de meilleures réponses, mais demandent beaucoup plus de mémoire.
Un LLM local dans Godot prend-il en charge la voix ?
Pas à lui seul : vous ajouteriez séparément la reconnaissance vocale et la synthèse vocale. Le SDK Godot de Neocortex donne aux personnages une voix en entrée et en sortie, des émotions et des actions, en fonctionnant dans le cloud.






