Neocortex Logo

支持本地 AI 的 AI NPC 工具:2026 年对比

哪些 AI NPC 平台可以在本地或你自己的服务器上运行模型?2026 年对 Neocortex、NVIDIA ACE、LLMUnity、Convai、Inworld 等工具的对比。

Neocortex TeamThe team behind Neocortex

· 更新于 2026年10月20日 · 阅读约 7 分钟

哪些 AI NPC 平台可以在本地或你自己的服务器上运行模型?2026 年对 Neocortex、NVIDIA ACE、LLMUnity、Convai、Inworld 等工具的对比。

简要回答: 在支持本地 AI 的 AI NPC 工具中,NVIDIA ACE、LLMUnity 和 Meta 的 AI Building Blocks 可以在玩家的硬件上运行语言模型。Convai 为企业提供本地部署。Neocortex 采用混合方案:在 Unity 中通过 Ollama 使用本地模型进行原型开发,通过云端发布带语音的角色,并在项目需要时于定制套餐中自行托管。

在决定采用某个 AI 角色平台之前,越来越多的工作室会问同一个问题:这套东西能否不依赖别人的云端运行? 原因各不相同。有些团队希望在原型阶段不必为每条消息付费。有些团队的玩家或客户有隐私要求。还有些团队记得 Replica Studios 关闭的事,不希望整条流程都依赖某一项服务。

按工具划分的本地 AI 支持

工具本地或设备端自托管引擎角色编辑器语音
Neocortex在 Unity 中通过 Ollama 进行原型开发;定制套餐支持设备端推理完整平台,支持本地语音,可离线运行(定制套餐)Unity、Unreal、Godot、Web API可视化节点编辑器TTS、STT、克隆、设计
NVIDIA ACE支持,在 GeForce RTX 上运行不适用Unreal Engine 5无设备端 ASR 和 TTS
LLMUnity支持,完全离线不适用Unity无无
Meta AI Building Blocks在 Quest 3 和 3S 上运行小模型不适用Unity无云服务提供商
Convai否企业本地部署Unity、Unreal、WebWeb 控制台是
Inworld否未说明Unity 和 Unreal 运行时 SDK无(Studio 已停用)是
Charisma.ai否未说明Unity、Unreal、Web故事图是
Player2否否Unity、Godot、Defold无是
ElevenLabs Agents否未说明早期阶段的 Unity SDK、Web、移动端工作流构建器是
OpenAI Realtime否否无官方 Unity SDK无是

"本地"可以指什么,以及各自的代价

"本地 AI"涵盖三种不同的部署方式,它们解决的问题也不同。

在玩家的设备上。 NVIDIA ACE、LLMUnity 和 Meta 的设备端模型都在发布的游戏内部进行推理。 好处: 没有每条消息的费用,不依赖网络,玩家数据留在设备上。 代价: 模型较小,玩家需要满足硬件门槛,需要下载或打包模型文件,而且模型之上的每一层(性格、记忆、语音、动作)都要由你自己构建。ACE 的 Game Agent SDK 是一个 C 和 C++ 框架,附带 Unreal Engine 5 插件,可在 RTX GPU 上实现语音识别、小型语言模型和文字转语音。LLMUnity 是一个基于 llama.cpp 构建的开源 Unity 库,可在 PC、移动端和 VR 上运行。Meta 的组件可在 Quest 上运行 SmolLM、Qwen 和 Phi 等小模型,而语音仍然交给云服务提供商处理。

在你的开发机器上。 像 Ollama 这样的本地模型服务器,在你搭建时为编辑器中的请求提供响应。 好处: 迭代免费,开发期间数据不会离开你的机器,并且可以快速切换模型。 代价: 这是一种开发环境,并不是你能发布给玩家的东西。

在你自己的服务器上。 平台运行在你的基础设施之内。 好处: 对数据存放位置、正常运行时间和供应商风险有控制权。 代价: 硬件、运维以及商业协议。Convai 提供本地部署,镜像由其团队提供。这更适合大型机构,而不是大多数游戏团队。

AI NPC 能否完全离线运行?

可以,前提是你接受其中的取舍。要发布一个离线角色,你需要:

  1. 一个足够小的模型,能在你最弱的目标设备上运行,并且经过量化和速度测试。
  2. 一种交付方式:打包在构建中,或在首次启动时下载。
  3. 如果角色会说话,还需要同样能在设备上运行的语音转文字和文字转语音。
  4. 能让小模型保持角色设定的提示词、记忆和防护措施。
  5. 游戏动作的数据结构,以及拒绝格式错误输出的代码。
  6. 允许商用的许可证,适用于你发布的每一个模型。

第 6 点常常让团队措手不及。开放权重并不总是意味着开放许可:有些模型系列采用自定义许可,附带其自身的使用和署名条款,而语音模型的情况更加多样。在模型进入发布版本之前,请阅读每一份许可证。

在独立头显或手机上,这些预算要与渲染和电池续航相互竞争。在 PC 上,则要与你的游戏自身的 GPU 占用竞争。这也是为什么大多数已发布的 AI 角色仍然把对话放在云端运行,而本地模型只用于原型开发和简单的离线互动。

谁需要本地 AI,谁不需要

如果出现以下情况,你可能需要本地或自托管的方案:

  • 你的玩家或客户不能把语音或文字发送到第三方云端,例如某些培训、医疗或教育项目。
  • 你为网络不稳定的场所或设备开发。
  • 你的合同或发行商要求后端能够迁移到你自己的基础设施上。
  • 你希望程序员整天迭代对话代码,而不必为每条消息计费。

如果出现以下情况,你可能不需要完全在设备上运行的 AI:

  • 你的游戏本身就是联网的,因此云端调用不会带来新的依赖。
  • 你希望获得自然的声音、更大的模型,以及编剧无需重新构建即可编辑的角色。
  • 你的玩家使用各式各样的硬件,而能在最弱机器上运行的模型对你设想的角色来说会太小。

大多数团队会处于两者之间:开发时使用本地,发布时使用云端,并保留自托管选项作为备用。

从笔记本原型到已发布的游戏

今天要完全本地化,意味着只能使用小模型,并且要自己构建语音和角色层。要完全依赖云端,则意味着要为每条消息付费,并依赖别人的服务器。大多数团队在同一个项目的不同阶段,两种方式都需要。以下是 Neocortex 的做法。

在你自己的机器上做原型。 我们在 Unity 中支持 Ollama,让你可以在自己的机器上拉取并运行 Llama、Gemma、Qwen、Mistral、Phi 和 DeepSeek 等开放模型,用于文字聊天。

只设计一次角色。 角色在可视化节点编辑器中构建:性格、情绪、知识、世界、意图和动作。编剧和设计师可以在浏览器中测试它们。

通过云端发布。 同一个角色可以在 Unity、Unreal、Godot 以及任何能调用 Web API 的环境中运行,支持流式语音输入和语音输出,包括 Unity WebGL 构建。回复带有情绪标签,以及游戏可以执行的动作。

需要时掌控整个技术栈。 对于有隐私、合规或正常运行时间要求的工作室,Neocortex 可以作为定制(企业)方案在你自己的基础设施上运行:完整平台部署在你的服务器或私有云上,语音转文字和文字转语音也可以本地部署,支持完全隔离的离线运行,或者将推理打包进游戏构建中,在玩家的机器上运行。我们的设备端运行时在笔记本 RTX 3080 上首个 token 的返回时间为 0.06 秒,约一秒后开始说话,使用 3B 模型时约占用 3 GB 显存。关于各选项的比较,请参阅本地和本地部署的 AI NPC 平台,如需规划部署,请联系我们。

阅读各项单独对比

下一步

设备端工具包只给你一个模型,角色、语音和工具链都要由你自己完成。Neocortex 则为你提供对设计师友好、带语音的角色,你可以在本地做原型,在云端发布,并在之后再选择自托管。

  1. 创建一个 Neocortex 账户,并在浏览器编辑器中构建一个角色。
  2. 安装 Unity SDK,并打开六个示例场景之一。
  3. 将 Ollama 集成指向本地模型,以便离线原型开发文字聊天。
  4. 当你需要语音、情绪和动作时,迁移到在编辑器中构建的角色。
  5. 如果你需要本地部署、完全隔离或设备端部署,请联系我们讨论你的项目。

所有竞争对手的详细信息最后一次核对于 2026 年 10 月。

常见问题

AI NPC 能离线运行吗?

可以,使用 LLMUnity 或 NVIDIA ACE 等设备端库即可,但你需要自己构建角色、语音和工具链,并接受硬件门槛。Neocortex 允许你在 Unity 中通过 Ollama 用本地模型原型开发文字聊天,并通过云端发布带语音的角色。

NVIDIA ACE 支持 Unity 吗?

不支持。NVIDIA ACE 在 RTX PC 上只为 Unreal Engine 5 提供设备端插件。Neocortex 提供附带六个示例场景的 Unity SDK,并提供 Unreal 和 Godot 的 SDK。

Convai 可以自托管吗?

Convai 为企业客户提供本地部署,容器镜像由其团队提供。Neocortex 则为有隐私、合规或正常运行时间要求的工作室提供定制套餐中的自托管。

LLMUnity 免费吗?

是的,LLMUnity 是以 Apache-2.0 许可的开源软件,可以在 Unity 构建中离线运行模型,但不包括语音或角色编辑器。Neocortex 增加了可视化角色编辑器、语音输入和输出,以及通过 Unity 中的 Ollama 进行本地模型原型开发。

我能在 Unity 中用 Ollama 为 NPC 提供对话吗?

可以。Neocortex 支持在 Unity 中使用 Ollama,因此你可以在自己的机器上运行 Llama、Gemma、Qwen 或 Mistral 等开放模型,原型开发文字聊天,并且每条消息无需付费。

相关文章

继续阅读