咨询服务热线:400-0698-860
邮箱:info@chaoqing-i.com
业务中心 - 上海超擎数智科技有限公司:上海市徐汇区龙启路158号1幢灿星大厦19层1911
业务中心 - 北京超擎数智科技有限公司:北京市海淀区北三环西路99号西海国际中心1号楼907
研发中心 - 武汉超擎数智科技有限公司:武汉东湖高新区金融港二路9号联发科武汉研发中心2楼
随着AI Agent技术的快速发展,基于对话交互的智能助手正在成为企业信息处理与自动化运营的重要工具。近日, Moltbot凭借其多工具协同、任务自动化与自然语言交互能力,受到广泛关注。
使用者可以通过日常使用的聊天软件,例如WhatsApp、Telegram、Slack、Discord、Google Chat、Signal、iMessage、Microsoft Teams、WebChat等,以对话方式调度Moltbot,完成复杂任务。
目前,Moltbot官方主要基于Qwen、Claude等云端API接口运行,这在实际应用中仍面临数据安全、算力成本与合规风险等挑战。
基于此,超擎数智技术团队依托 NVIDIA DGX Spark,探索并实践了Moltbot的本地化部署方案,实现AI Agent与本地算力的深度融合,为企业构建安全可控、稳定高效的智能服务体系。
1 DGX Spark:企业级本地AI算力平台
DGX Spark 是 NVIDIA 面向本地场景打造的一体化AI算力平台。基于最新的Blackwell架构,DGX Spark 配备高达128G显存和1P算力性能,为Moltbot AI Agent运行提供坚实保障。能在办公室或边缘环境中,提供接近数据中心级别的推理与训练能力,不必依赖云端资源。
通过在本地部署大模型与AI Agent,企业可实现:
DGX Spark能为Moltbot等智能应用的落地运行提供坚实的算力基础。
2 基于Ollama的本地模型部署
在DGX Spark上,超擎数智技术团队采用Ollama作为模型管理与推理工具,实现大模型的本地化运行。
部署Ollama后,可将模型文件完全下载至本地,实现从加载到推理的全流程内网完成,无需调用外部API。用户可灵活选配与加载所需模型(如GPT-OSS等),为Moltbot提供本地的模型服务端点。
Ollama部署方案可以参考 NVIDIA 官方文档。
首先我们将ollama的镜像拉到本地。

在DGX Spark上启动ollama镜像

随后,可通过ollama镜像下载gpt-oss:20b模型,稍后用于Moltbot中

等待下载完毕后通过curl命令查看已下载的模型。

可以观测到,gpt-oss:20b已存在,可以进一步在DGX Spark部署Moltbot。
3 DGX Spark部署Moltbot
在完成基础算力与模型环境准备后,可依据Moltbot官方文档进行本地部署。本方案采用Moltbot官方提供的脚本进行安装(无需代理)。

如没有符合条件的Node环境,则会自动安装或升级。

在全部环境准备完毕之后,开始正式安装Moltbot。

初步设置建议选择QuickStart模式,以快速完成基础功能部署,后续可根据业务需求逐步优化参数配置。



其中很多步骤可以跳过,尤其是额外链接(例如TG的链接,或者接口)还未准备好时,可以选择Skip,等待Moltbot启动后再进行更改。







到这一步,服务已开启。

在本地端口进行测试,或开启浏览器登录web管理界面。

超擎数智技术团队选择的方案,是通过VS Code远程访问到DGX SPARK服务器,打开所对应开启的18789端口,并通过本地浏览器进行访问。本地算力需要开启2个端口,8000为本地模型端口,18789为Moltbot浏览器访问端口。

打开浏览器,输入地址http://localhost:18789,即可在本地电脑访问到部署在Spark中的Moltbot:

注意事项:
若配置有误,找到config文件手动更改,或者通过CLI命令进行逐步配置:

每次更改配置后,都需要在Spark输入以下命令重新载入配置文件:

Doctor完成配置之后即刻生效:

4 Moltbot与本地模型的集成配置
Moltbot的核心配置文件存储于openclaw.json中,其中 “agents” 与 “models” 参数决定了其模型调用逻辑。



"agents"和"models"段非常重要,如果配置错误,Moltbot将无法调用本地DGX Spark算力。
更改配置完成后reload。

5 系统测试与运行监测
部署完成后,超擎数智技术团队同时在网页端和Command Line里进行了连通性测试,当系统状态显示Health OK,即表示模型服务正常运行。同时,可通过Debug模块实时监测系统运行健康状态。

如果打开了Logs追踪功能,也可通过网页端Logs看到所有日志。

在DGX Spark上进入ollama容器,也可以查看相关的对话日志记录。

6 构建企业级AI Agent私有化部署方案
经测试,通过在DGX Spark上部署Moltbot与本地模型,用户可获得:
作为 NVIDIA Compute(GPU)、Networking(网络)的双 Elite 精英级合作伙伴,超擎数智不仅能提供DGX Spark等先进的本地算力产品,更可围绕此类本地化AI应用部署,提供从硬件调优、环境配置到持续运维的全周期技术服务。我们致力于帮助客户将前沿的AI智能体能力安全、高效、经济地落地于实际业务场景之中,实现技术价值的自主可控与全面释放。
公众号

电话
需求反馈