面向工作室的本地与本地部署AI NPC平台
对比本地部署AI NPC平台和设备端SDK:Tryll、NVIDIA ACE、Snapdragon、X&Immersion、LLMUnity、NobodyWho、Convai、Meta以及Neocortex。
Neocortex TeamThe team behind Neocortex
· 阅读约 9 分钟

本地AI NPC平台分为两类:一类是设备端SDK,在玩家的硬件上运行模型;另一类是本地部署平台,在你控制的服务器上运行角色后端。本文介绍这两类中的九个选项,并附有云端、本地部署和设备端部署的选择指南。
需求各不相同。用于安全场所的培训模拟器不能把语音发送到第三方云端。博物馆的自助终端网络不稳定。发行商希望后端部署在自己的基础设施内。一个看过AI角色供应商关闭服务案例的团队,则希望有一套不依赖他人服务器的方案。
本地部署AI NPC平台一览
| 平台 | 运行位置 | 引擎 | 语音 | 角色工具 | 价格 |
|---|---|---|---|---|---|
| Neocortex | 我们的云端(自助服务);你的服务器、物理隔离网络或游戏构建中(定制) | Unity、Unreal Engine 5、Godot、Web API | 语音转文字与文字转语音,支持本地部署 | 可视化节点编辑器 | EUR 9至EUR 99/月;本地部署需定制 |
| Tryll Engine | 玩家的GPU | Unreal和Unity(Alpha版可申请),计划支持C++ | 本地语音转文字与文字转语音 | SDK功能 | 起步免费,之后按每份售出副本分成 |
| NVIDIA ACE Game Agent SDK | 玩家的RTX电脑 | Unreal Engine 5插件、C和C++ | 本地ASR与TTS | 代码 | 开源(测试版) |
| Snapdragon Game AI SDK | 手机和电脑上的Snapdragon NPU | Unreal Engine 5.6和5.7插件 | 设备端ASR与TTS | 代码 | 插件源码为BSD 3-Clause |
| X&Immersion | 玩家设备、私有服务器或API | Unity、Unreal Engine、Wwise | Ariel语音,Geppetto口型同步 | DiaGen对话工具 | 未公开 |
| LLMUnity | 玩家设备或你的服务器构建 | Unity | 无 | 检视面板与C# | 免费,Apache-2.0 |
| NobodyWho | 玩家设备 | Godot,另有移动端和Python绑定 | 本地语音转文字与文字转语音 | 代码 | 免费,EUPL-1.2 |
| Convai本地部署 | 你的数据中心 | Unity、Unreal、Web | 有 | Web控制台 | 企业定制 |
| Meta AI Building Blocks | Quest上的小型语言模型,语音在云端 | Unity 6 | 云服务提供商 | Unity组件 | 属于Meta XR SDK的一部分 |
九个选项
Tryll Engine
Tryll Engine在玩家的GPU上运行语言模型、语音识别、文字转语音、视觉模型和智能体,可识别NVIDIA、AMD和Intel硬件。Unreal和Unity被列为已支持,Alpha版可申请,计划支持原生C++路线。功能包括游戏文档和背景设定知识、持久的NPC记忆、智能体动作以及运行时内容生成。它会根据量化选择4B至14B参数之间的模型,需要8GB显存,建议12GB或更多。价格为起步免费,之后按每份售出副本约0.08美元计费(以15美元售价计算),并随售价等比例变化。该项目获得Epic MegaGrants和Early Game Ventures的支持,页面未列出已发布的游戏。更多内容见Tryll Engine与Neocortex对比。
NVIDIA ACE Game Agent SDK
Game Agent SDK是一个开源的C和C++框架,目前处于测试阶段,用于在RTX电脑上运行小型模型的游戏内智能体。它提供带聊天历史和工具调用的Agent API、无状态的Chat API,以及用于游戏数据的RAG API。Unreal Engine 5插件新增了本地语音识别、支持函数调用的GGUF语言模型(包含Qwen 3.5 4B),以及Chatterbox Turbo文字转语音。页面未列出Unity插件。参见我们的面向Unity的NVIDIA ACE替代方案。
Snapdragon Game AI SDK
这是高通首个专用游戏AI SDK,在GDC上发布,可在Snapdragon的NPU、CPU和GPU上运行语音识别、量化语言模型和文字转语音。它面向Android手机和搭载Snapdragon芯片的Windows电脑,页面标注XR设备即将支持。高通将其定位于NPC、AI队友、同伴和教练。目前功能以Unreal Engine 5插件形式提供,支持5.6和5.7版本。插件源码采用BSD 3-Clause许可,而SDK二进制文件和模型有各自的条款。使用其他芯片的玩家需要另一条路径。请阅读Snapdragon Game AI SDK与Neocortex对比。
X&Immersion
X&Immersion总部位于巴黎,销售本地AI工具:DiaGen用于对话和游戏内文本,Ariel用于语音,Geppetto用于口型同步和面部动画。运行时版本可在玩家设备或私有服务器上运行,Ariel和Geppetto也可以通过API调用运行。其网站列出了Unity、Unreal Engine和Wwise的集成。价格未公开,需要先申请演示。参见我们的X&Immersion替代方案。
LLMUnity
LLMUnity是一个开源的Unity包,采用Apache-2.0许可,通过llama.cpp运行GGUF模型,支持PC、移动端和VR,可完全离线运行。它包括检索、通过语法实现的函数调用、保存的聊天历史,以及远程模式,可让角色连接到你自己托管的服务器构建。它不支持语音,在手机上推荐使用约10亿至20亿参数的模型。对比请见LLMUnity与Neocortex对比。
NobodyWho
NobodyWho是基于llama.cpp的Rust推理引擎,采用EUPL-1.2许可,可免费用于商业用途。它提供Godot插件,并附带Kotlin、Swift、React Native、Flutter和Python的绑定,可在桌面、Android和iOS上运行,不支持Web导出。它支持工具调用、Whisper语音转文字和本地文字转语音。我们的Godot AI NPC工具汇总在相关语境中介绍了它。
Convai本地部署
Convai的企业版列出了隔离云端、私有和本地部署三种运行模式,Convai后端和AI服务可在你自己的数据中心内运行。价格和服务级别协议均为定制。其自托管文档涵盖各组件,包括带SSO的认证服务器、REST API服务器和WebRTC对话服务,并提供GCP、AWS和Kubernetes的指南。参见我们的Convai替代方案。
Meta AI Building Blocks
Meta的AI Building Blocks是Meta XR SDK中的Unity组件,适用于Unity 6以及Quest 3或3S。SmolLM、Qwen和Phi等小型语言模型可在头显上运行,物体检测则通过Unity的Inference Engine完成。语音转文字和文字转语音使用OpenAI和ElevenLabs等云服务提供商,因此无法覆盖完全离线、带语音的角色。请阅读Meta Quest AI Building Blocks与Neocortex对比,如需了解Unity自身的运行时,请看Unity Sentis与Neocortex对比。
Neocortex
Neocortex是一个AI角色平台。自助服务版本运行在我们的云端,提供可视化节点编辑器、语音功能,以及面向Unity、Unreal Engine 5和Godot的SDK,还提供Web API。在定制方案下,同一平台可运行在你自己的服务器、物理隔离网络或游戏构建中。
选择指南:云端、本地部署还是设备端
| 云端 | 本地部署 | 设备端 | |
|---|---|---|---|
| 推理运行位置 | 供应商服务器 | 你控制的服务器 | 玩家的机器 |
| 无网络时可用 | 否 | 是,在你的网络内或物理隔离 | 是 |
| 玩家硬件下限 | 无 | 玩家无要求 | 每个目标设备都需要显存、NPU或内存 |
| 模型大小 | 不受玩家设备限制 | 按你的服务器规模确定 | 受最弱目标设备限制 |
| 谁负责运维 | 供应商 | 你的团队,并获得供应商支持 | 随构建一起发布 |
| 成本结构 | 套餐或按用量 | 硬件加协议 | 工程时间、授权费,某些情况下还有收入分成 |
选择云端,适用于你的游戏本身就联网、玩家硬件差异很大,并且希望今天就让编剧编辑角色的情况。
选择本地部署,适用于数据不能离开你的网络、现场没有可靠的互联网,或者客户合同要求后端部署在你的基础设施中。培训模拟器、国防、医疗、博物馆和活动现场通常会选择这种方式。
选择设备端,适用于角色必须在玩家离线时工作,并且你能设定硬件下限,同时在每个设备档次上进行测试的情况。
许多项目会混合使用这些方式:原型阶段用云端,需求确定后再改用本地部署或设备端。我们的AI NPC价格对比说明了每种成本结构如何累加。
在玩家硬件上运行的成本
设备端推理把费用从服务器转移到了玩家的机器上,而游戏则会以其他方式为此付出代价。
- 共享内存。 模型与你的贴图和网格占用同一块显存或内存。
- 帧预算。 推理与渲染和物理计算相互争抢资源,因此必须围绕帧来安排调度。
- 更小的模型。 能放进游戏的模型比服务器上运行的模型小,在长对话中这一点会很明显。
- 逐设备测试。 每个GPU档次、手机或头显都需要单独测试速度、内存和发热情况。
- 模型许可。 你发布的每个模型都有自己的条款,语音模型的差异通常比语言模型更大。
实测速度。 在一台配备RTX 3080(8 GB)的笔记本上,我们的设备端运行时在0.06秒内返回第一个词元,约一秒后开始说话,因为它会在其余内容仍在生成时先朗读第一句。语音识别和文字转语音在CPU上运行,因此3B模型需要约3 GB显存,2B模型则可以在不到1 GB显存内以每秒超过300个词元的速度生成。
最终数字取决于玩家的硬件,因此请在你的最低目标设备上进行测试。我们的云端产品专为实时对话而构建,本地部署则会根据每个工作室预期的负载进行规划。
Neocortex的定位
Neocortex让工作室可以选择角色的运行位置,而每种情况下角色的定义都是一样的。在定制(企业)方案下,通过与我们团队的沟通进行设置:
- 完整平台运行在你自己的服务器或私有云上: 角色编辑器、API、你的角色和对话流程。
- 本地语音: 语音转文字和文字转语音在本地运行,而不仅仅是语言模型。
- 物理隔离运行: 完全离线,适用于安全场所、培训模拟器、自助终端和活动现场。
- 设备端推理: 推理可以随游戏构建一同发布,并在玩家的机器上运行。
- 定制支持: 我们的团队与你一起协助部署、模型选择和集成。
如果你的项目需要其中任何一项,请联系我们。
无论采用哪种部署方式,角色的构建方法都相同:可视化节点编辑器,包含性格、情绪、知识(PDF或TXT)、世界、物品、意图、动作和语音。对话流程会返回你的游戏可以响应的检查点关键词(flowState),回复中则带有情绪标签和动作,例如OPEN_DOOR。自助服务版本还增加了语音克隆和语音设计,Pro和Team套餐支持最多六个角色的群聊,套餐从Starter到Team。
工作室的后续步骤
- 写下你的角色必须运行在哪里:你的云端、你的服务器、物理隔离的现场,还是玩家的设备上。
- 列出目标硬件,并决定能否接受显存或NPU下限。
- 在Neocortex编辑器中构建一个角色,并在浏览器中测试。
- 通过我们的SDK在Unity、Unreal或Godot中运行,查看集成效果。
- 联系我们的团队,围绕你的项目规划本地部署、离线或设备端方案。
如需查看所有一对一对比,请访问Neocortex对比页面,也可以阅读我们更早的支持本地AI的AI NPC工具。
竞争对手的详细信息最后一次核查于2026年10月。
常见问题
AI NPC可以在没有互联网连接的情况下运行吗?
可以。Tryll Engine、NVIDIA ACE、Snapdragon Game AI SDK、LLMUnity和NobodyWho等设备端SDK会在玩家的硬件上运行模型。Neocortex也可以完全物理隔离运行,平台和本地语音都部署在你自己的机器上,这需要与我们的团队以定制方案合作。
哪些AI NPC平台可以本地部署?
Convai在其企业版中提供本地部署,价格另行定制。Neocortex则通过定制方案,将完整平台(包括角色编辑器、API和本地语音)运行在你自己的服务器或私有云上。
NVIDIA ACE支持Unity吗?
目前没有列出Unity插件。ACE提供面向RTX电脑的C和C++ Game Agent SDK以及Unreal Engine 5插件。Neocortex提供Unity 6 SDK,包含六个示例场景,同时也支持Unreal Engine 5和Godot。
设备端AI NPC需要多少显存?
这取决于模型:Tryll Engine需要8GB显存,建议12GB或更多;LLMUnity则建议在手机上使用约10亿至20亿参数的模型。Neocortex运行在云端,没有玩家硬件下限,设备端部署则与我们的团队一同规划。
游戏NPC使用设备端AI还是云端AI更好?
设备端AI省去了网络和每条消息的费用,但模型大小受限于最弱的目标机器。Neocortex两种都支持:云端适合覆盖广泛的硬件,本地部署或设备端部署则适用于需要它们的项目。






