Muse上线后，Meta久违地拥有了一款迅速出圈的AI产品。不到两周，它登上美国应用下载榜首。据Sensor Tower统计，截至9月22日，累计下载量已超过250万次。
为了让Agent真正替人行动，Meta给它配置了云端虚拟机。为了让用户敢把邮件、账户和私人信息交给它，又必须设计记忆、凭据存储和逐项授权的权限系统。扎克伯格认为，这些能力不能靠给现成模型增加一个产品界面完成；模型从预训练开始，就要学会理解个人目标，判断哪些信息可以使用、哪些不能向外披露。
这也是Muse背后更深的一场竞争。Meta首席执行官扎克伯格在与科技记者Alex Heath的对话中，谈到了这套产品设计，也谈及Llama 4失利后Meta如何重建模型研发，以及他为什么主张让更多人拥有强大的AI。访谈的主要观点包括：
1. 个人Agent要从预训练开始设计。扎克伯格认为，理解用户的长期目标，以及判断私人信息的使用边界，不能只靠通用模型的后训练来解决。
2. 虚拟机让Agent具备持续行动的能力。Muse可以在后台操作计算机、登录服务，并围绕用户的目标推进任务。
3. 记忆让Agent从单次工具变成长期服务。它会根据已完成的任务和用户反馈调整后续行动，也可以主动提出新的项目。
4. 权限决定用户敢把多少事交给AI。登录、付款、发送邮件和披露敏感信息需要明确授权；Agent只能获得完成当前任务所需的权限。
5. 隐私保护要写进系统架构。Meta计划通过机密虚拟机和独立的凭据存储，减少公司及核心Agent接触用户敏感信息的机会。
6. 免费额度是扩大用户规模的起点。扎克伯格希望Muse通过帮用户省钱、赚钱和经营业务，逐步证明个人Agent的经济价值。
7. Meta正用新的方式追赶前沿模型。在Llama 4偏离预期后，扎克伯格转向更精简的核心研究团队，并继续增加算力投入。
8. 技术扩散也是扎克伯格的安全主张。他认为，强大AI若只由少数机构掌握，同样会带来风险；让更多人获得能力，才能形成制衡。
AI的安全不能只靠限制访问，关键是让更多人拥有制衡能力Alex Heath：我们上次通话是在一个周末，你当时还通过智能眼镜给我打电话。那次你想谈刚发表的一篇长文，其中提出了很多关于AI未来的主张。为什么要写这样一篇近似宣言的文章？
Mark Zuckerberg：如果一家机构要在AI上投入这么多，就有责任说明自己的研究团队相信什么，以及这些工作为什么能够导向一个积极的未来。AI既带来巨大机会，也存在真实风险，所有参与者都应该形成一套经过认真思考的理论。
我强烈反对一些在行业内被视为理所当然的观点。在我看来，更积极的未来来自尽可能广泛地分发技术。这一判断建立在三点之上：第一，赋予个人更多能力，一直是人类繁荣的重要来源；第二，AI的首要用途将是创造新事物，而不是将现有工作自动化；第三，未来安全的基础应是适当的权力制衡，而不是限制使用权。
很多人的直觉是，技术越强，就越应该只让少数人接触。我更担心的是，只有少数研究机构或个人控制如此强大的能力。历史上，很多重要进步并非来自既有权力中心，而是来自边缘位置、最初不被认真对待的人。当他们获得足够好的工具，可以证明自己的想法时，才有机会推动真正的变化。
网络安全也是如此。如果有人拥有能够攻击系统的AI，最有效的应对方式之一，是让更多机构也拥有AI，以便提前加固自己的系统。开源软件之所以常常更安全，正是因为更多人能够查看、检验和修正它。把技术交到更多人手里，看似会增加风险，却也可能形成更稳定的制衡。
Meta会开发领先模型，也会发布一部分开放模型，但这不意味着所有成果都必须开源。营利性公司可以保留一部分先进技术。关键是维持强健的开源生态，让市场保持竞争，也让外界能够理解技术的发展方向。以Hugging Face遭遇入侵的事件为例，他们发现入侵后转而使用开源模型，因为他们无法获得某些与这次问题有关的闭源模型。这说明世界上需要保护的重要机构远不止排名最靠前的一百家。
不过，比开源本身更重要的，是让普通人真正用上技术。Muse体现的就是这一思路：给每个人一个能力很强的个人AI Agent，让它理解用户的目标，并且每天24小时持续代表用户工作。
Alex Heath：AI和数据中心正在受到越来越强烈的抵触。你的意思是不是，如果更多人能够得到目前集中在少数研究机构手中的能力，他们就不会再觉得自己被排除在AI进程之外？
Mark Zuckerberg：问题不能只停留在抽象层面。人们担心就业和经济，也担心数据中心对社区与环境的影响；还有网络攻击、生物安全、自由社会、美国的技术领导力，以及当AI越来越强时，人类如何继续控制它。每一类问题都有不同细节，但它们有一个共同点：技术带来的繁荣必须广泛分布，能力也不能只掌握在少数内部参与者手中。
Meta进入一个地区建设数据中心，实际上是在承诺未来几十年持续投资。这样的长期投入可以为社区带来税收、就业和其他资源。比如在路易斯安那州，相关税收曾为当地教师提供每人5万美元的奖金。市场上也有另一类项目：有些公司只想先拿下一块地，再卖给大型AI研究机构。
它们并不打算长期运营，也没有动力认真处理与当地社区的关系。我不确定是否该把这种现象称为泡沫，因为“泡沫”意味着估值过高。但这个领域确实正在经历一轮热潮，也因此容易滋生短期逐利的行为。如果项目只顾眼前交易，社区反对并不奇怪。AI基础设施如果不能创造就业、扩大社会整体繁荣，也不能让当地社区受益，就不可能无限扩张。因此，让利益广泛分布不是附加条件，而是行业能够持续发展的前提。技术要可行，社会层面也必须可行。
Meta推出了America’s Workforce Academy，原因很实际：建设数据中心需要大量光纤技术人员、电工、高级木工等技术工人，而市场上远远不够。未来可能还需要数十万甚至数百万人。我们保证，完成培训的人能够在参与Meta基础设施建设的单位找到工作。这不是单纯的慈善，而是长期利益一致：Meta需要熟练工人，参与者需要新的职业机会。若企业只是建设一个项目后转手，就不会进行这种投入。
Muse不只回答问题，还要围绕用户的长期目标持续执行任务Alex Heath：你大约一年前开始谈「个人超级智能」。当时很多人想知道，你究竟看到了什么。现在看来，答案就是Muse。为什么你认为它会成为Meta的下一阶段？
Mark Zuckerberg：我们从未只把Meta看成一家社交媒体公司。公司的长期主题是连接人与赋予个人能力。过去围绕内容管理发生的很多争论，实质上也在讨论：人们能不能自己决定什么对生活重要，并按照自己的判断交流。
这段经历强化了我的一个认识：历史上的许多进步，都来自个人获得更多能力，而且人们最清楚自己的生活需要什么。因此，每当有人说应该由少数专家决定AI去解决哪些大问题，我都会本能地保持警惕。人们当然关心健康和生活质量，但也关心家人、朋友、关系和文化。对科学家或工程师而言不够宏大的问题，对某个人可能极其重要。
即使在健康领域，个人关注的重点也可能与行业不同。制药和生物技术行业目前主要关注常见疾病，但还有大量不同的罕见疾病和健康问题，相关投入明显不足。如果你患有某种罕见病，自然会希望自己的AI关注它，而不是仅仅因为另一种病更常见，就把资源用在别处。
Alex Heath：你也通过自己的基金会在这方面投入了很多。
Mark Zuckerberg：我们正在通过Biohub开展这方面的工作，这些经历也在一定程度上影响了我的看法。我认为，人们应该有能力自己决定什么最重要。对我来说，Muse也不只处理宏大任务。我希望它帮助我成为更好的父亲、丈夫和朋友。我的三岁女儿喜欢烘焙，但我对此一无所知。
我让Muse每个周末准备一个适合三岁孩子、也适合不会烘焙的成年人完成的项目，并通过Instacart备齐原料。做完后，我再告诉它哪些步骤太难，它会据此调整下一次安排。事实证明，蛋糕棒并不适合作为入门项目。我的大女儿喜欢登山，有些路线需要抢许可证。Muse会等待开放时间并替我申请，拿到后告诉我具体日期，我再安排休假陪她去。
它也会关注我的训练。我在综合格斗训练室安装了摄像头，让Muse分析视频并提出意见，有时它会很直白地指出我在哪个动作中明显放弃了。早期测试者的使用方式差异很大。有人拿到Muse后，不到一天就开始用它协助安排孩子的居家教育；有人在12小时内用它规划完整旅行；还有一位原本对科技很怀疑的测试者，几天后最关心的问题却是正式发布时能不能保留已经了解她的Muse。
Muse与Meta AI、ChatGPT或Gemini式的一问一答不同。用户交给它的不是单个提示词，而是一个项目或长期目标。后台的虚拟机让它能够操作计算机、登录服务并持续执行任务；它会围绕这些目标全天候持续工作，直到帮助用户实现目标。夜间，它还会整理当天的反思并写入记忆，也能够主动建议新的项目。
例如，我让它为我和女儿玩的《文明》制作攻略。完成后，它又建议把攻略扩展成讲解不同文明历史的学习材料，并直接在应用里增加了一个页面。许多人不知道应该怎样使用AI；如果AI Agent能够主动提出对用户有帮助的事情，就能降低这道门槛。
Alex Heath：你认为它真的能替用户赚钱？
Mark Zuckerberg：能。用户可以选择付费订阅，但Meta一开始也会提供每周1亿token和一台虚拟机的免费额度。我们的判断是，当个人用它经营小企业、完成商业任务或参与交易时，它创造和节省的价值足以覆盖成本。
长期来看，我们预计可以从相关交易中收取很小比例的费用，而且不一定由用户支付，也可以由与用户开展交易的商家承担。我们希望绝大多数人都能免费使用这项服务。要让每个人都拥有强大的个人AI Agent，首先就得让他们用得起。因此，我们愿意先提供大量免费用量，因为我们相信，它能帮用户赚钱、帮用户省钱，从而抵消使用它的成本。
我们正在与Stripe合作，为Muse接入支付功能。你可以选择把Muse连接到需要的服务，包括Meta的服务，但不愿意连接也完全可以。如果用它经营业务，你可以授权它接入我们的广告系统，让它协助制作产品、运营业务，并把这些工作串联起来，全天候持续执行。Meta目前大约每月发布一次重要模型更新，因此Muse的能力也会随之提高。
Alex Heath：团队还提到，不同用户的Muse可以从其他Agent积累的匿名化经验中学习。这种学习机制带来的网络效应，会不会成为Meta的核心优势？
Mark Zuckerberg：行业目前大多把AI Agent当成单人产品，但多个Agent之间还会出现很多新的协作方式。这类能力大多不会随当前版本推出，但从长远看，随着你认识的人越来越多地使用Muse，它就能通过Agent之间的互动，为你提供更好的体验。Meta还有几项不同优势。我们从底层设计模型，让它适合个人AI Agent；我们也有很强的社交产品经验，会更重视它如何帮助人改善关系。
网络效应固然重要，但市场不会只有一种需求。帮助用户经营小企业的最佳Agent，未必也是处理人际关系最好的Agent。具备足够技术实力、能在个人AI Agent领域做到最先进水平的公司，可能不会超过十二家。不过，不同公司仍然可以在不同用途上做到最好。Meta擅长把经过验证的消费产品推广给数亿乃至数十亿用户。Muse和Meta AI目前侧重点不同：Muse更倾向于从一句话中理解用户的长期意图，并继续推进任务；Meta AI更适合立即回答一个明确问题。两者未来是否会合并，现在还不能确定。
为了让用户放心接入私人信息，Meta如何设计Muse的隐私与权限保护Mark Zuckerberg：个人AI Agent要真正有用，不只需要前沿能力，还必须充分理解用户。人们可能会把邮件、消息、广告账户、健康信息和其他私人资料接入Muse；只有对系统有很高信任，用户才会这样做。
Meta过去十多年建设WhatsApp端到端加密系统，最重要的经验是：系统可以被设计成连Meta也无法读取用户消息。这既降低政府或黑客获取内容的风险，也防止Meta内部人员滥用信息。我们邀请Signal创始人Moxie Marlinspike加入团队。他在2014年曾协助建设WhatsApp加密，这次专门负责Muse的机密虚拟机。
我们的目标是让用户把信息保存在云端的个人虚拟机中，并通过技术手段保证，连Meta也无法读取其中的内容，而且这一承诺可以被技术验证。随着这项功能准备向更多用户开放，我们会在未来几周公布更多细节。在它准备就绪之前，以及对于不选择使用它的用户，Muse也会提供其他安全保护措施。
一种最直接的隐私方案，是让每个人买一台Mac Studio，把Agent放在家里运行。但不可能有数十亿人购买设备、安装软件并自行维护。Muse希望提供一种任何技术水平的家庭成员都能直接使用的服务：它像本地机器一样私密，却可以在云端自动开通和运行。
机密虚拟机并不是全部。Muse还设有安全凭据存储系统，用来保存信用卡信息、密码和一次性卡号，避免这些敏感信息直接暴露给核心Agent；当用户要求它登录或付款时，Agent只能在必要时调用这些凭据。系统还运行一组监控Agent，检查进入和离开虚拟机的流量。它们会识别提示词注入，判断Muse是否准备把用户可能不愿公开的信息传出去，并在必要时触发人工确认。
登录、付款和传递敏感信息通常都需要用户批准。用户可以把某一类操作设为长期允许，但Muse不能自行扩大权限。连接邮箱时同样遵循“最小权限”原则。如果用户希望它发送邮件，就应针对这项操作明确授权，而不是一接入邮箱就让它获得全部权限。每一步只获得完成当前任务所需的最低权限，而不是一次授权全部能力。
这些设计也是Meta认为自己能在个人AI Agent市场形成差异的原因。个人Agent不仅要了解用户，还要具备分寸感。例如，它知道你怀孕了，预订餐厅时就可以帮你寻找提供优质无酒精鸡尾酒的地方，但不必向餐厅解释你怀孕了。它需要在不反复询问你的情况下，判断哪些信息属于敏感内容，既帮你实现目标，也避免透露不必要的个人信息。
在我看来，要做好这类能力，不能只是拿一个现成模型稍作后训练，而要从一开始就围绕个人Agent的需求设计模型，并把相关数据纳入预训练。就像做好Instagram信息流，需要同时建设应用、基础设施、机器学习系统和芯片一样，这是一项需要各个环节共同配合的工作。
Llama 4偏离预期后，Meta用更小的核心团队和更大算力重建AI研究
Alex Heath：SemiAnalysis在7月的一篇文章中认为，Meta最有可能追上OpenAI和Anthropic，衡量Meta Superintelligence Labs时应该看进步速度，而不只是当前起点。Artificial Analysis最近的图表也显示Muse Spark进展很快。你去年重建研究团队后，内部究竟发生了什么？
Mark Zuckerberg：Meta长期以来就在机器学习领域领先。Facebook和Instagram的信息流、广告系统，以及识别和处理不适宜内容的安全系统，本质上都是大规模机器学习系统。大语言模型兴起后，FAIR完成了Llama的早期研究，但我们还需要把研究转化为工业化流程，并按照规模定律扩大模型。
我当时犯的错误，是以为Meta既然擅长其他机器学习系统，开发和扩展大语言模型的方法也会相似。实际上，两者的运行规律有很大差别。Llama 3是一个不错的模型，但Llama 4发布时已经偏离我们需要的进步轨迹，这意味着必须改变方法。
我由此更重视人才密度。前沿模型研究并不是让一千个人各自运行实验就能解决的问题。更理想的状态，是由一支规模尽可能小、成员能够在头脑中把握整个系统的顶尖团队，围绕同一个科研项目紧密协作。当团队席位有限时，每一个位置都必须尽量找到最好的人。
因此，我投入了大量个人时间招聘，也让自己在技术上更接近一线工作，以便真正理解问题并指导公司。研究团队就设在我办公室周围。随着研究质量提高，我们也显著增加算力投资，正在建设数吉瓦规模的基础设施。Meta拥有几十年的数据中心经验，也有盈利能力支撑这种长期投入。
过去一年，Meta重新启动研究计划，位于俄亥俄州的吉瓦级Prometheus集群已经上线，并开始用于扩展“Watermelon”之后的模型。Watermelon也即将发布。它的规模更大，预训练水平也有显著提升，我们还会继续把在后训练中积累的经验应用到它上面。
此前发布的Muse Spark 1.3，则来自内部代号为Avocado的一次相对较小规模的预训练。Meta不会满足于跟在前沿之后。我们是一家端到端技术公司，即使过去主要建设社交应用，也从未只做应用层，而是同时建设数据中心、芯片和基础设施。
未来体验中最关键的部分会是模型，因此我们必须自己站在前沿。模型能力不是一个单一榜单。编码等能力具有普遍价值，因为许多个人AI Agent任务最终都要生成软件：Muse分析综合格斗视频的流程是一个编码项目，替用户制作可以投屏的《危险边缘》游戏也是如此。
但Meta也会重点研究其他机构未必同等重视的能力，例如个人Agent在与外界交互时，如何判断哪些信息可以使用、哪些不能披露。我们也非常重视编码能力和递归改进，因为后者对持续保持前沿水平很重要。因此，我们的研究方向有一部分与其他实验室重合，也有一些不同的侧重点。
从模型安全到智能眼镜和青少年保护，技术扩散必须与明确边界同行Alex Heath：如果未来模型出现你认为不安全的能力，Meta会不会也选择暂缓发布？
Mark Zuckerberg：安全首先应当进入设计和训练过程。目前，各家研究机构都在遇到模型钻奖励机制空子的问题，也就是reward hacking：模型得到一道编程任务后，已经聪明到会先理解整个运行环境。有时它发现，修改虚拟机配置比真正解决程序问题更容易，于是通过改变环境获得奖励，却没有学到训练者希望它掌握的能力。
Alex Heath：听起来，你们不是这样训练模型的？你不认同这种训练方式吗？
Mark Zuckerberg：不是，我认为大家基本都采用这种训练方式。我的意思是，需要在训练过程中设立清楚而坚定的边界。这在一定程度上像教育孩子，但这个类比也不能过度延伸。安全边界如果太弱，模型就会钻空子；边界足够明确，既能让它学习课程本身，也能逐渐形成更合适的行为方式。训练结束后，还要回答强大模型怎样对社会产生积极影响。
我仍然认为，应该让更多人分享机会，并用广泛分布的权力形成制衡。若只有一个人拥有超级智能律师，他可能赢得本不该赢的诉讼；如果每个人都有同样强的法律工具，低质量论点就更难蒙混过关，司法过程反而可能更高效、更公平。
Alex Heath：政府应该扮演什么角色？
Mark Zuckerberg：AI变化太快，固定规则很容易滞后。更有效的做法，是让企业与监管方保持足够透明的沟通，让外部了解重要训练任务和即将出现的能力，并提前准备网络安全、生物安全等不同风险。对我来说，关键不是设计一套很快过时的流程，而是建立持续的知识交流和可信对话。
Alex Heath：Meta智能眼镜正在进入主流，同时也出现了“它会被拿来偷拍”的担忧。一些场所甚至禁止佩戴。你怎么看？
Mark Zuckerberg：我们从第一代产品开始就把隐私要求写进设计：只要摄像头录像，镜框上的指示灯就会明显闪烁；如果用户试图破坏指示灯，系统更新会直接让摄像头失效。手机录像并没有这样的提示灯，从这一点看，眼镜反而更透明。
问题在于，产品刚发布时Meta解释过这些措施，但当时用户很少。如今已有数百万人使用，许多人没有听过早期说明。我们后来更多强调外观、款式和功能，却没有持续解释隐私设计。社交媒体的发展也给了我一个教训：仅仅看到人们继续使用产品，并不等于他们理解公司怎样处理风险。如果更早、更直接地说明这些问题，公众今天对社交媒体的看法或许会不同。
Alex Heath：这与Meta最近就青少年安全问题达成的和解有没有关联？
Mark Zuckerberg：Meta很早就在Instagram推进青少年账户保护。和解的重要目标，是为整个行业建立共同标准。比如，把青少年每天使用时间限制在一小时，单家公司原则上可以接受；但如果Instagram单方面限制，而用户随后把同样时间转移到TikTok，就没有真正改善青少年处境，只是让一家公司的竞争位置受损。
Meta希望推动统一的青少年保护行业标准，例如围绕使用时长、通知、上课和睡眠时间设置限制。这样可以避免单一平台率先自律却让用户转移到其他平台，也能让各家公司在一致框架下共同保护青少年。
原视频：Mark Zuckerberg on how Meta’s Muse AI agent will make people money
https://www.youtube.com/watch?v=Lx8lrn-cytc
编译：Shiny GU
本文由作者@Z Finance，授权发布于平台，未经许可禁止转载。
胜亿配资提示：文章来自网络，不代表本站观点。
