支持本地 AI 的 AI NPC 工具:2026 年对比
哪些 AI NPC 平台可以在本地或你自己的服务器上运行模型?2026 年对 Neocortex、NVIDIA ACE、LLMUnity、Convai、Inworld 等工具的对比。
Neocortex TeamThe team behind Neocortex
· 更新于 2026年10月20日 · 阅读约 7 分钟

简要回答: 在支持本地 AI 的 AI NPC 工具中,NVIDIA ACE、LLMUnity 和 Meta 的 AI Building Blocks 可以在玩家的硬件上运行语言模型。Convai 为企业提供本地部署。Neocortex 采用混合方案:在 Unity 中通过 Ollama 使用本地模型进行原型开发,通过云端发布带语音的角色,并在项目需要时于定制套餐中自行托管。
在决定采用某个 AI 角色平台之前,越来越多的工作室会问同一个问题:这套东西能否不依赖别人的云端运行? 原因各不相同。有些团队希望在原型阶段不必为每条消息付费。有些团队的玩家或客户有隐私要求。还有些团队记得 Replica Studios 关闭的事,不希望整条流程都依赖某一项服务。
按工具划分的本地 AI 支持
| 工具 | 本地或设备端 | 自托管 | 引擎 | 角色编辑器 | 语音 |
|---|---|---|---|---|---|
| Neocortex | 在 Unity 中通过 Ollama 进行原型开发;定制套餐支持设备端推理 | 完整平台,支持本地语音,可离线运行(定制套餐) | Unity、Unreal、Godot、Web API | 可视化节点编辑器 | TTS、STT、克隆、设计 |
| NVIDIA ACE | 支持,在 GeForce RTX 上运行 | 不适用 | Unreal Engine 5 | 无 | 设备端 ASR 和 TTS |
| LLMUnity | 支持,完全离线 | 不适用 | Unity | 无 | 无 |
| Meta AI Building Blocks | 在 Quest 3 和 3S 上运行小模型 | 不适用 | Unity | 无 | 云服务提供商 |
| Convai | 否 | 企业本地部署 | Unity、Unreal、Web | Web 控制台 | 是 |
| Inworld | 否 | 未说明 | Unity 和 Unreal 运行时 SDK | 无(Studio 已停用) | 是 |
| Charisma.ai | 否 | 未说明 | Unity、Unreal、Web | 故事图 | 是 |
| Player2 | 否 | 否 | Unity、Godot、Defold | 无 | 是 |
| ElevenLabs Agents | 否 | 未说明 | 早期阶段的 Unity SDK、Web、移动端 | 工作流构建器 | 是 |
| OpenAI Realtime | 否 | 否 | 无官方 Unity SDK | 无 | 是 |
"本地"可以指什么,以及各自的代价
"本地 AI"涵盖三种不同的部署方式,它们解决的问题也不同。
在玩家的设备上。 NVIDIA ACE、LLMUnity 和 Meta 的设备端模型都在发布的游戏内部进行推理。 好处: 没有每条消息的费用,不依赖网络,玩家数据留在设备上。 代价: 模型较小,玩家需要满足硬件门槛,需要下载或打包模型文件,而且模型之上的每一层(性格、记忆、语音、动作)都要由你自己构建。ACE 的 Game Agent SDK 是一个 C 和 C++ 框架,附带 Unreal Engine 5 插件,可在 RTX GPU 上实现语音识别、小型语言模型和文字转语音。LLMUnity 是一个基于 llama.cpp 构建的开源 Unity 库,可在 PC、移动端和 VR 上运行。Meta 的组件可在 Quest 上运行 SmolLM、Qwen 和 Phi 等小模型,而语音仍然交给云服务提供商处理。
在你的开发机器上。 像 Ollama 这样的本地模型服务器,在你搭建时为编辑器中的请求提供响应。 好处: 迭代免费,开发期间数据不会离开你的机器,并且可以快速切换模型。 代价: 这是一种开发环境,并不是你能发布给玩家的东西。
在你自己的服务器上。 平台运行在你的基础设施之内。 好处: 对数据存放位置、正常运行时间和供应商风险有控制权。 代价: 硬件、运维以及商业协议。Convai 提供本地部署,镜像由其团队提供。这更适合大型机构,而不是大多数游戏团队。
AI NPC 能否完全离线运行?
可以,前提是你接受其中的取舍。要发布一个离线角色,你需要:
- 一个足够小的模型,能在你最弱的目标设备上运行,并且经过量化和速度测试。
- 一种交付方式:打包在构建中,或在首次启动时下载。
- 如果角色会说话,还需要同样能在设备上运行的语音转文字和文字转语音。
- 能让小模型保持角色设定的提示词、记忆和防护措施。
- 游戏动作的数据结构,以及拒绝格式错误输出的代码。
- 允许商用的许可证,适用于你发布的每一个模型。
第 6 点常常让团队措手不及。开放权重并不总是意味着开放许可:有些模型系列采用自定义许可,附带其自身的使用和署名条款,而语音模型的情况更加多样。在模型进入发布版本之前,请阅读每一份许可证。
在独立头显或手机上,这些预算要与渲染和电池续航相互竞争。在 PC 上,则要与你的游戏自身的 GPU 占用竞争。这也是为什么大多数已发布的 AI 角色仍然把对话放在云端运行,而本地模型只用于原型开发和简单的离线互动。
谁需要本地 AI,谁不需要
如果出现以下情况,你可能需要本地或自托管的方案:
- 你的玩家或客户不能把语音或文字发送到第三方云端,例如某些培训、医疗或教育项目。
- 你为网络不稳定的场所或设备开发。
- 你的合同或发行商要求后端能够迁移到你自己的基础设施上。
- 你希望程序员整天迭代对话代码,而不必为每条消息计费。
如果出现以下情况,你可能不需要完全在设备上运行的 AI:
- 你的游戏本身就是联网的,因此云端调用不会带来新的依赖。
- 你希望获得自然的声音、更大的模型,以及编剧无需重新构建即可编辑的角色。
- 你的玩家使用各式各样的硬件,而能在最弱机器上运行的模型对你设想的角色来说会太小。
大多数团队会处于两者之间:开发时使用本地,发布时使用云端,并保留自托管选项作为备用。
从笔记本原型到已发布的游戏
今天要完全本地化,意味着只能使用小模型,并且要自己构建语音和角色层。要完全依赖云端,则意味着要为每条消息付费,并依赖别人的服务器。大多数团队在同一个项目的不同阶段,两种方式都需要。以下是 Neocortex 的做法。
在你自己的机器上做原型。 我们在 Unity 中支持 Ollama,让你可以在自己的机器上拉取并运行 Llama、Gemma、Qwen、Mistral、Phi 和 DeepSeek 等开放模型,用于文字聊天。
只设计一次角色。 角色在可视化节点编辑器中构建:性格、情绪、知识、世界、意图和动作。编剧和设计师可以在浏览器中测试它们。
通过云端发布。 同一个角色可以在 Unity、Unreal、Godot 以及任何能调用 Web API 的环境中运行,支持流式语音输入和语音输出,包括 Unity WebGL 构建。回复带有情绪标签,以及游戏可以执行的动作。
需要时掌控整个技术栈。 对于有隐私、合规或正常运行时间要求的工作室,Neocortex 可以作为定制(企业)方案在你自己的基础设施上运行:完整平台部署在你的服务器或私有云上,语音转文字和文字转语音也可以本地部署,支持完全隔离的离线运行,或者将推理打包进游戏构建中,在玩家的机器上运行。我们的设备端运行时在笔记本 RTX 3080 上首个 token 的返回时间为 0.06 秒,约一秒后开始说话,使用 3B 模型时约占用 3 GB 显存。关于各选项的比较,请参阅本地和本地部署的 AI NPC 平台,如需规划部署,请联系我们。
阅读各项单独对比
- Inworld AI 替代方案
- Convai 替代方案
- NVIDIA ACE 替代方案
- Replica Studios 替代方案
- Charisma.ai 替代方案
- LLMUnity 与 Neocortex 对比
- Player2 替代方案
- 用于游戏 NPC 的 ElevenLabs Agents
- OpenAI Realtime API 与 Neocortex 对比
- Tryll Engine 替代方案
- Snapdragon Game AI SDK 与 Neocortex 对比
- X&Immersion 替代方案
下一步
设备端工具包只给你一个模型,角色、语音和工具链都要由你自己完成。Neocortex 则为你提供对设计师友好、带语音的角色,你可以在本地做原型,在云端发布,并在之后再选择自托管。
- 创建一个 Neocortex 账户,并在浏览器编辑器中构建一个角色。
- 安装 Unity SDK,并打开六个示例场景之一。
- 将 Ollama 集成指向本地模型,以便离线原型开发文字聊天。
- 当你需要语音、情绪和动作时,迁移到在编辑器中构建的角色。
- 如果你需要本地部署、完全隔离或设备端部署,请联系我们讨论你的项目。
所有竞争对手的详细信息最后一次核对于 2026 年 10 月。
常见问题
AI NPC 能离线运行吗?
可以,使用 LLMUnity 或 NVIDIA ACE 等设备端库即可,但你需要自己构建角色、语音和工具链,并接受硬件门槛。Neocortex 允许你在 Unity 中通过 Ollama 用本地模型原型开发文字聊天,并通过云端发布带语音的角色。
NVIDIA ACE 支持 Unity 吗?
不支持。NVIDIA ACE 在 RTX PC 上只为 Unreal Engine 5 提供设备端插件。Neocortex 提供附带六个示例场景的 Unity SDK,并提供 Unreal 和 Godot 的 SDK。
Convai 可以自托管吗?
Convai 为企业客户提供本地部署,容器镜像由其团队提供。Neocortex 则为有隐私、合规或正常运行时间要求的工作室提供定制套餐中的自托管。
LLMUnity 免费吗?
是的,LLMUnity 是以 Apache-2.0 许可的开源软件,可以在 Unity 构建中离线运行模型,但不包括语音或角色编辑器。Neocortex 增加了可视化角色编辑器、语音输入和输出,以及通过 Unity 中的 Ollama 进行本地模型原型开发。
我能在 Unity 中用 Ollama 为 NPC 提供对话吗?
可以。Neocortex 支持在 Unity 中使用 Ollama,因此你可以在自己的机器上运行 Llama、Gemma、Qwen 或 Mistral 等开放模型,原型开发文字聊天,并且每条消息无需付费。






