Neocortex Logo

Godot 4でローカルLLMを動かす方法

Godot 4でローカルLLMを動かす:Ollamaでモデルを提供し、HTTPRequestでGDScriptから呼び出し、チャット履歴を保ち、ローカルモデルがプレイヤーに何を求めるかを解説します。

Sercan AltundasFounder of Neocortex

· 8分で読めます

Godot 4でローカルLLMを動かす:Ollamaでモデルを提供し、HTTPRequestでGDScriptから呼び出し、チャット履歴を保ち、ローカルモデルがプレイヤーに何を求めるかを解説します。

Godotでローカルに言語モデルを動かすと、NPCはインターネットなしで、メッセージごとの請求もなしに話せます。最も簡単な構成は、自分のマシン上でオープンモデルを提供するOllamaと、Godotに標準で付いているHTTPRequestノードです。このガイドでは、GDScriptでローカルのNPCチャットを作り、そのうえで、ローカルモデルをプレイヤーに届けることが実際に何を伴うかを説明します。

ローカルでモデルを動かす2つの方法

  • Ollamaのようなローカルサーバーは、ゲームと並んで動作し、HTTPで応答します。設定は簡単で、プロトタイプに最適です。ただし、すべてのプレイヤーがインストールしておく必要があります。
  • ゲーム内のモデルは、llama.cppを組み込んだGDExtensionを通じて動かします。NobodyWhoのようなオープンソースのアドオンがこの方法を使います。プレイヤーがインストールするものは追加でありませんが、モデルはゲームに同梱され、プレイヤーのハードウェアで動作します。

このガイドではOllamaを使います。10分で設定でき、GDScriptの考え方は、どのHTTPのモデルサーバーでも同じだからです。

手順1:Ollamaでモデルを動かす

Ollamaをインストールし、小さいモデルをダウンロードして、ターミナルでテストします。数十億パラメーターの小さいモデルは、一般的なゲーミングGPUで素早く応答します。ダイアログのテストには十分です。Ollamaは動作中、http://localhost:11434で待ち受けます。

手順2:GDScriptから呼び出す

NPCの子ノードとしてHTTPRequestノードを追加し、次のスクリプトをアタッチします。モデルが以前に何を言ったかわかるように、会話の履歴を保持します。

extends Node

@onready var http: HTTPRequest = $HTTPRequest

var history: Array = [
	{"role": "system", "content": "You are Brannoch, a gruff village blacksmith. Answer in one or two sentences."}
]

func _ready() -> void:
	http.request_completed.connect(_on_request_completed)

func ask(player_line: String) -> void:
	history.append({"role": "user", "content": player_line})
	var body := JSON.stringify({"model": "MODEL_NAME", "messages": history, "stream": false})
	http.request("http://localhost:11434/api/chat", ["Content-Type: application/json"], HTTPClient.METHOD_POST, body)

func _on_request_completed(result: int, code: int, _headers: PackedStringArray, body: PackedByteArray) -> void:
	if result != HTTPRequest.RESULT_SUCCESS or code != 200:
		push_warning("Local model request failed: %d" % code)
		return
	var reply: Dictionary = JSON.parse_string(body.get_string_from_utf8())["message"]
	history.append(reply)
	print(reply["content"])  # show it in your dialogue UI

MODEL_NAMEをダウンロードしたモデルに置き換え、ask("Is the north road safe?")を呼び出すと、Brannochは自分のマシンから答えます。HTTPRequestは一度に1つのリクエストしか扱えないため、次のセリフを送る前に返答を待ってください。

手順3:キャラクターらしく感じさせる

生のモデルはチャットボットです。NPCにするには、次のものが必要です。

  • より絞り込んだシステムプロンプト。キャラクターが何を望み、何を知らず、どう話すか。NPCに固有の性格を与える方法をご覧ください。
  • 履歴の削減。履歴はセリフのたびに増え、それに応じて応答時間も延びます。システムプロンプトと、直近のいくつかのやり取りだけを残してください。
  • ゲームの文脈。プレイヤーのメッセージの前に、直前に起きたことを短い1行で加えます(「プレイヤーが盗まれたハンマーを返した。」)。

ローカルモデルがプレイヤーに求めるもの

ローカルでの推論は、費用をサーバーの請求から、プレイヤーのハードウェアへ移します。

  • メモリ。モデルはゲームとGPUを共有します。当社独自のオンデバイスのランタイムでは、3BモデルにはおよそVRAM 3 GBが必要で、2Bモデルは1 GB未満です。
  • ダウンロードのサイズ。モデルはゲームに数ギガバイトを追加します。
  • 品質。小さいモデルは知識が少なく、キャラクターから外れやすくなります。
  • プラットフォーム。Webへの書き出しやほとんどのスマートフォンでは、うまく動きません。

ローカルモデルで残される作業

ローカルモデルが与えるのはテキストです。ゲームのキャラクターには、通常それ以上のものが必要です。

  • 音声。プレイヤーの音声認識と、返答のテキスト読み上げ、そして待ち時間を短く保つためのストリーミングです。AI NPCの音声パイプラインの仕組みをご覧ください。
  • 感情とアクション。構造化された出力を求めるプロンプトと、それを確実に解析すること。
  • プレイヤーが押してきたときもキャラクターを保つこと。AI NPCをキャラクターに保つ方法をご覧ください。

Godotでのクラウドの方法

チャットボットではなく、キャラクターが必要な場合は、Neocortex Godot SDKがクラウドでキャラクターを動かします。プレイヤーは何もインストールする必要がなく、余分なGPUも必要ありません。性格、ナレッジベース、音声、アクションを備えたキャラクターを、ブラウザのエディターで設計します。SDKは、GDScriptから、音声の入力と出力、すべてのセリフの感情、データとしてのアクションを提供します。手順はGodot 4でAI NPCのダイアログを追加する方法にあります。

本番環境でオンデバイスの推論が必要なスタジオは、オンデバイスのランタイムについて相談できます。これはカスタムプランとして提供されており、ノートPC(RTX 3080)で、最初のトークンを0.06秒で返し、約1秒で話し始めます。計画についてはお問い合わせください。

次のステップ

応答の遅延とのトレードオフについては、AI NPCの音声の返答を1秒未満にする方法をご覧ください。Unityについては、同じテーマをUnityのゲームでローカルでモデルを動かす方法で扱っています。すべてのチュートリアルはAI NPCを作るガイドにまとめています。

よくある質問

GodotでローカルのLLMを動かすにはどうすればよいですか?

Ollamaでマシン上にモデルを動かし、HTTPRequestノードを使ってGDScriptからそのローカルのHTTP APIを呼び出します。オフラインで動作し、メッセージごとの費用はかからないため、NPCのダイアログのプロトタイプに適しています。

Ollamaを使うゲームを出荷できますか?

すべてのプレイヤーがOllamaをインストールし、モデルをダウンロードする場合に限ります。そうするプレイヤーは少ないでしょう。出荷されるゲームは、モデルをビルドに同梱するか、Neocortexのようなクラウドサービスを使います。クラウドサービスなら、プレイヤーのマシンには何も必要ありません。

NPCはどのくらいの大きさのローカルモデルを使えますか?

数十億パラメーターの小さいモデルは、一般的なゲーミングGPUで動きます。当社独自のオンデバイスのランタイムでは、3Bモデルにおよそ3 GBのVRAMが必要です。大きいモデルほど良い答えを返しますが、必要なメモリがはるかに増えます。

GodotのローカルLLMは音声に対応していますか?

それだけでは対応していません。音声認識とテキスト読み上げを別途追加する必要があります。Neocortex Godot SDKは、クラウドで動作し、キャラクターに音声の入力と出力、感情、アクションを与えます。

関連記事

こちらもおすすめ