Neocortex Logo

LLMUnity与Neocortex对比:Unity中的本地LLM NPC

LLMUnity可在Unity中离线运行开源LLM。当你还需要语音、角色编辑器和多引擎支持时,Neocortex的适用之处在这里。

Neocortex TeamThe team behind Neocortex

· 更新于 2026年10月20日 · 阅读约 5 分钟

LLMUnity可在Unity中离线运行开源LLM。当你还需要语音、角色编辑器和多引擎支持时,Neocortex的适用之处在这里。

简短回答: LLMUnity是一个免费库,可以在Unity构建中运行开源LLM,因此文本生成完全在玩家的设备上进行。如果你需要配音角色、编剧可以使用的角色编辑器,或多个引擎的支持,Neocortex可以满足这些需求,同时仍允许你在Unity中用本地模型进行原型开发。

如果你搜索过“在Unity中本地运行LLM”,你很可能已经找到了LLMUnity。 它是undream.ai推出的开源包,采用Apache-2.0许可证,通过llama.cpp在你的游戏中运行模型,没有服务器,数据也不会离开设备。 本文介绍它能提供什么、本地推理与云端推理之间的权衡,以及何时LLMUnity替代方案能为你的团队节省时间。

一分钟了解LLMUnity

  • 运行平台: PC、Android、iOS和VR,已在Unity 2021 LTS至Unity 6上测试。
  • 硬件: CPU推理,并支持NVIDIA、AMD和Apple Metal的GPU。
  • 模型: 内置的管理器可以下载或加载GGUF模型,并支持LoRA。“Download on Build”选项会在首次启动时获取模型,而不是将其打包在版本中。
  • 检索: 带有近似最近邻搜索的RAG系统,以及来自模型的嵌入。
  • 结构化输出: 用于约束回复的语法和JSON schema,另附函数调用示例。
  • 聊天记录: 保存和加载对话。
  • 远程模式: 你可以运行服务器版本,让其他项目中的角色通过主机地址连接到它。
  • 价格: 个人和商业用途均免费。

LLMUnity能否在没有服务器的情况下运行?

可以,这正是它的核心所在。 一切都在构建内部运行,这意味着没有API账单,也不依赖网络。

这也意味着托管平台替你做出的每个决定,都会落到你的团队身上。 你需要自己选择模型,在最低配置的目标设备上测试,并让它只使用游戏自身资源之外剩余的内存。 在手机上,LLMUnity的建议是约1至2B参数的小模型,这限制了角色在长对话中保持人设的能力。 提示词、记忆逻辑和护栏都要由你来编写。 该包中没有文字转语音或语音转文字流程,因此语音需要单独集成。 角色通过Inspector和C#进行配置,因此想修改性格的编剧需要程序员或编辑器构建的帮助。 而且,如果玩家的设备无法运行模型,备用方案就是使用远程模式自行托管服务器。

本地、混合还是云端:选择方案

完全本地(LLMUnity)原型阶段本地,上线时使用云端云端
每次对话成本无开发期间无,上线后规划用量规划用量
能否离线运行可以开发期间可以不可以
低端设备上的模型质量受设备限制上线时不受设备限制不受设备限制
语音自行构建云端已包含已包含
谁来编辑角色程序员任何使用编辑器的人任何使用编辑器的人
构建大小随模型增长不变不变

中间一列是Neocortex在Unity中支持的路线。 在开发期间,你可以通过Ollama 在Unity中运行本地LLM 进行文字聊天,然后让同一个项目为玩家连接我们的云端。 如果你的工作室需要将整个平台部署在自己的服务器上,可以作为定制企业方案提供自托管。

一个NPC,两种路线

以一款PC生存游戏中的商人为例:她会讨价还价,记得自己卖什么,并提醒玩家即将来临的暴风雨。

使用LLMUnity时, 你需要选择一个能在内存中与游戏并存的GGUF模型,用她的价目表和背景设定搭建RAG系统,并在C#中编写系统提示词。 在讨价还价方面,你需要用JSON schema约束她的回复,使你的代码能够读取她报出的价格。 如果要加入语音,你需要添加单独的TTS包和语音识别包,并处理这三者之间的延迟。 她性格的每一次修改都需要通过程序员完成。

使用Neocortex时, 编剧在浏览器中构建她:用Personality设定语气,用Knowledge提供PDF格式的价目表,用Intents处理买卖,并设置一个你的游戏会读取的Action,例如 OFFER_PRICE。 你的游戏会把暴风雨作为最近发生的事件发送给她。 她会用一句台词、一个情绪标签和她的动作作出回应,语音则采用你通过文字描述设计的流式声音。 在开发期间,她的文字聊天可以通过Ollama在本地模型上运行;上线时,她会在我们的云端运行,并带上她的声音。

LLMUnity与Neocortex对比

LLMUnityNeocortex
产品定位开源本地推理库AI角色平台
本地AI完全在设备上运行在Unity中通过Ollama使用本地模型进行文字聊天
云端选项自行托管服务器版本内置
角色设计Inspector和C#可视化节点编辑器:Agent、Personality、Emotion、Knowledge、World、Objects、Intents、Actions、Language、Accent、Voice
知识在代码中设置的RAG使用PDF或TXT文件的Knowledge节点
语音不包含流式TTS和STT,克隆或设计的声音
游戏钩子需要你自行连接的函数调用带有情绪标签和动作的回复,例如 OPEN_DOOR
引擎UnityUnity 6(6个示例场景)、Unreal Engine 5、Godot、Web API
价格免费Starter每月EUR 9;Pro每月EUR 29,用于商业用途

Neocortex还负责游戏对话中位于模型之上的部分。 对话流可以把一个场景分支为故事节拍,并返回你的游戏会做出反应的检查点关键词(flowState)。 群聊功能在Pro和Team套餐中最多允许六个角色同时进行一场对话。 Unity WebGL构建支持麦克风输入,因此浏览器中的玩家也可以与角色说话。

下一步

如果你的游戏必须在完全没有网络的情况下运行,LLMUnity能为你提供推理能力,而角色层需要你自己围绕它来构建。 如果你希望角色说话、行动和发声都很自然,又不想自己构建这一层,请从Neocortex编辑器开始:构建一个角色,在浏览器中测试,然后在Unity示例场景中运行它,背后可以接本地模型,也可以接我们的云端。

LLMUnity的相关信息最后一次核对于2026年10月。

常见问题

LLMUnity免费吗?

是的,LLMUnity是采用Apache-2.0许可证的开源软件,可免费用于商业用途,但你发布的每个模型都有其自身的许可证。在Neocortex上,商业游戏使用Pro套餐每月EUR 29,或Team套餐每月EUR 99。

LLMUnity支持语音吗?

不支持。LLMUnity涵盖文本生成、嵌入和检索,没有文字转语音或语音转文字功能。Neocortex则包含流式TTS和STT,以及通过克隆或声音设计获得的自定义声音。

LLMUnity能在移动设备上运行吗?

可以。LLMUnity可在Android和iOS上运行,推荐使用约1至2B参数的小模型。Neocortex则在云端运行角色,并允许你在Unity中通过Ollama使用本地模型进行文字聊天原型开发。

LLMUnity能在Unreal或Godot中使用吗?

不能。LLMUnity是Unity包。Neocortex通过其Web API支持Unity、Unreal Engine 5、Godot以及任何语言。

最好的LLMUnity替代方案是什么?

如果你希望编剧无需代码即可编辑配音角色,Neocortex提供可视化节点编辑器、流式语音以及多个引擎的SDK,同时仍允许你在Unity中使用本地模型进行原型开发。

相关文章

继续阅读