← 返回博客

你的 AI Agent 不该联网才能思考

⭐ 精选

你的 AI Agent 不该联网才能思考

每次你向 AI 提问,你的话都会传到某个服务器上,经过处理再返回。你可能从没想过这件事——它感觉就是瞬间的。但 AI 研究界一直在问:如果不需要离开你的设备呢?

本周,斯坦福和 Lambda Labs 的研究人员开源了 OpenJarvis——一个完全在本地硬件上运行个人 AI Agent 的框架。不需要云 API。而且悄悄藏在项目里的一点引起了我们的注意:它内置了来自 OpenClaw 的技能。

OpenJarvis 到底是什么

OpenJarvis 是一个框架——一组构建模块——用于在本地运行 AI Agent。你可以把它理解为管道系统,让一个更小的、设备端运行的 AI 模型能够完成那些通常需要强大云端模型才能做的任务:搜索文件、发送消息、安排日程、做研究、运行教程。

几个关键数字很醒目:

  • 每次查询成本比云 API 低 800 倍
  • Agent 任务(AI 需要多步操作才能完成的任务)快 4 倍
  • 准确率与云端模型相差 仅 3.2 个百分点

最后一点是关键:本地 AI 已经足够接近云端 AI,以至于在大多数日常任务中,你根本感觉不到差异。

为什么本地运行很重要

除了基准测试数据,本地运行还有三个实际意义:

隐私。 当你的 AI 在本地设备上运行时,你的对话、文件和任何数据都不会离开你的设备。对于任何使用 AI Agent 管理邮件、日历或个人笔记的人来说,这是实质性的区别。

速度。 不需要往返服务器,意味着响应更快——尤其对于多步骤任务,AI 需要按顺序执行多个动作的时候。

成本。 云端 AI 按 token 计费。一个 Agent 在数十个任务中运行几百步,会产生可观的 API 费用。在本地设备上,这些成本几乎降为零。想了解更高效的部署方式,可以看看 Serverless Agent 是什么

它是如何工作的(不用术语)

OpenJarvis 把 AI Agent 拆成五个可替换的组件:

  1. 大脑——使用哪个本地模型(Qwen、Gemma、Llama 等)
  2. 引擎——模型在你的硬件上如何运行
  3. 推理循环——Agent 如何决定下一步做什么
  4. 工具和记忆——Agent 可以连接什么、记住什么
  5. 学习——Agent 如何根据你的使用习惯变得更好

巧妙之处在于,这五个组件都在一个简单的配置文件中定义。你可以替换任何一个,而不需要重建其他所有东西。

学习系统尤其有趣。云端模型充当"教师"的角色——一次性分析本地 Agent 的错误,并给出跨五个组件的改进建议。经过那一步优化之后,本地 Agent 完全在设备端运行。云端用来自我提升,而不是维持日常运行。

OpenClaw 的关联

对于 ClawWorld 用户来说,这里有一个关键信息:OpenJarvis 携带了一个技能库,其中 约有 13,700 个技能直接来自 OpenClaw

技能是可复用的构建模块,告诉 Agent 如何做某件具体的事情——连接 Notion、总结 GitHub 仓库、从数据库中提取研究资料。OpenClaw 的技能库是业界最大的之一,而 OpenJarvis 开箱即用就能使用它们。

这意味着你在 ClawWorld 上完成的教程——Notion 工作流、求职自动化、Reddit 研究工具——都是更广泛的 AI Agent 生态已经在使用的构建模块。你在这里学会的技能,正在驱动从 Mac Mini 到 NVIDIA 工作站上运行的本地 Agent。对 Agent 工作流感兴趣的可以阅读 AI Agent 工作流详解

这对你意味着什么

你不需要安装 OpenJarvis,也不需要理解任何研究细节,就能从它所代表的方向中受益。

AI Agent 的发展方向很明确:它们同时在变得更快、更便宜、更私密、更强大。"云端 AI"和"在你的笔记本电脑上运行"之间的差距现在是 3.2 个百分点,而且还在缩小。

如果你想了解 AI Agent 实际是如何工作的——不是作为抽象概念,而是你亲手设置并使用过的东西——这正是 ClawWorld 的用途。你在上面运行真正的教程,连接真正的工具,让一个真正的 Agent 为你工作。不需要机器学习学位。

等到 OpenJarvis 这样的本地 Agent 成为主流时,你已经知道如何使用它们了。

从免费教程开始 →