Meta 的 AI 智能体 Muse 引发隐私争议：你的朋友正在替你交出数据

消费科技领域有一股日益增长的趋势：那些被设计用来监视你周围的一切和所有人的设备，而不管其他人是否真的同意。如今，随着 Meta 的 Muse 这类“AI 个人助理”的出现，你正被兴高采烈地要求交出不仅是你自己的数据，还有你的朋友、家人、五年前在 Hinge 上约会过的人的信息——以及几乎任何你曾接触过的人的信息。

自上个月发布以来，Muse 已经被下载了数百万次，并登上了苹果 App Store 的榜首。借助其令人毛骨悚然的虚拟形象——一只带着解除戒心笑容、像 Temu 版 Labubu 的生物——这款应用请求并鼓励用户授权访问银行账户、密码、联系人、聊天记录，以及任何可能有助于它完成用户吩咐的事情的信息。

“这些系统被宣传为自主的帮手、精灵或仆人，能在你开口之前无缝地满足你的需求，”Signal 基金会（广受欢迎的加密通讯应用的开发商）主席 Meredith Whittaker 告诉 The Verge。这些自主行为“不仅适用于在其设备上安装了 Muse 的人，也适用于该人交流的所有人，依据的是其最私密的信息——电子邮件、消息、联系人、照片等等。”

借助 AI 智能体，科技公司正在让消费者实现日常任务的自动化，同时将其贪婪的大规模监控模式扩展到海量敏感数据。这是硅谷几十年来一直向我们兜售的浮士德式交易：用你的私人数据换取一点便利。对许多人来说，拥有一个能完成填写发票、发送邮件等琐事的虚拟助理的想法确实很有吸引力——尤其是当他们没有意识到自己实际上交出了多少数据作为回报的时候。

“任何智能体要有用并真正帮助你实现目标，它都需要掌握关于你以及与你互动者的背景信息，”Meta 发言人 Daniel Roberts 就与 Muse 共享的他人数据问题告诉 The Verge。“Muse 根据公开信息以及你选择共享的内容来收集这些信息，这样它才能记住刚给你发发票的人其实就是你之前雇来修理浴室的水管工，或者你配偶说过最喜欢哪种花。”Roberts 指向了 Muse 的自愿开启流程以及各种选项和设置，称这些将“帮助人们做出适合自己的隐私选择”。

“用户界面的设计方式就是为了鼓励你尽可能多地分享，往往超过你意识到的程度，直到为时已晚。”

但并非所有人都能顺利搞定这些选项和设置。已经有用户描述了一些既令人担忧又完全在预料之中的事件。有人报告称这个虚拟助手制造了各种麻烦，比如抓取了数百万条本应受限的短信。Meta 对该助手有能力在未经许可的情况下访问短信的说法提出异议，再次将此次事件归咎于应用权限配置错误，并称 Muse 读取短信的能力“完全属于自愿开启”。在 Threads 上，Meta 高管 David Singleton 直接回应用户，声称在 Mac 上，只有用户授予该应用完全磁盘访问权限时，Muse 才能访问短信。

在另一起事件中，Muse 泄露了一位科技评测者的家庭住址，并召唤陌生人来到他的公寓。在这起事件中，这位评测者确实授予了 Muse 访问该数据的权限，但根本没有意识到这一点。

电子前哨基金会网络安全总监 Eva Galperin 表示，鉴于 Muse 这类智能体的设计目的就是诱导人们交出尽可能多的数据，这些事件并不令人意外。

“最重要的一点是，人们并不清楚自己交出了什么样的数据，”Galperin 告诉 The Verge。“用户界面的设计方式就是鼓励你分享尽可能多的数据，往往超出你的意识，直到为时已晚。它在使用黑暗模式，结果就是 Muse 会做出人们不希望它做的事情。”

由于 Muse 这类智能体摄取的数据范围极其广泛，这也意味着用户不仅有泄露自己敏感信息的风险，还有泄露与他们有过数字联系的每一个人的信息的风险。

而且就像 Meta 那款臭名昭著的“变态眼镜”一样，根本没有真正有效的退出方式——即使你时刻监控自己的数据是否被泄露、隐私是否被侵犯。你的朋友现在可以轻而易举地把你们所有的私密对话输入给他们的虚拟聊天机器人仆人，而你却无从得知这一切的发生。

在安全研究人员提取出 Muse 的运行指令后，他们发现了一个内部流程，该流程会每小时编制并更新用户生活中每一个人的档案。收集所有这些数据的目的，是构建一个人生活的亲密而详细的画像，作为应用个性化推荐的基础。据 Wired 报道，该应用会追踪并衡量用户的每一份私人关系，包括“他们有多亲密、这种关系建立在什么之上、他们彼此如何相处，以及现在似乎需要什么”，并利用这些数据提供个性化建议。

“Meta 说 Muse 只会记住你选择分享的内容。但在这种情况下，认为人们是在知情的前提下做出选择，实在可笑，”Whittaker 说。“我们无法板着脸假设，安装这套系统的大多数人都明白使用它的后果，也不明白正在为他们的熟人和交流对象编制的那些令人毛骨悚然的档案。”

Whittaker 指出，这与 1990 年代以来科技公司利用隐私政策和服务条款的做法如出一辙：把保护隐私的责任转嫁给消费者，然后在收获广告模式带来的利益的同时，逃避对后果的责任。

“这种残缺的同意系统远早于 AI 出现，是监控式广告行业的基石，”Whittaker 说。“关于用户的更多信息能实现更精准的广告定向，监控式商业模式核心的恶性反馈循环就此启动。点击即同意的服务条款早已取代了真正有意义的同意。”

“这套思路是把那些不可能完成的负担压在普通人身上，然后以此为论据——无论是在法庭、立法还是公众舆论中——声称这是人们自己的选择，”隐私法教授、华盛顿大学 Cordell Institute 联合主任 Neil Richards 告诉 The Verge。“我们已经把太多负担压在消费者身上，他们疲于奔命，面临生活成本危机，可能根本不了解工具背后的技术。当开发这家智能体工具的公司高管已在国会承认 在某种程度上连他们自己都不知道它是如何运作的 时，把监控如此复杂工具的负担压给消费者，我认为并不公平。”

“没有任何人能一本正经地宣称，安装这套系统的大多数人都明白使用它会带来什么后果。”

这样一来，Muse 这类 AI 助手为一个老生常谈的隐私问题——自 Gmail 和各类社交媒体平台诞生以来就存在的问题——带来了新的变体：即使你避免使用 AI 智能体，也无法保证你认识的人不会把你的私人对话、住址、个人经历和其他敏感数据分享给 Meta 的虚拟助手，或它的某个竞争对手。

“如果我不把东西存在 Gmail 里，Google 就拿不到我发过的所有邮件的明文。但我发送的邮件中有四分之三是发给 Gmail 账户的，”Galperin 解释道。换句话说，只要你交流的任何一方使用贪恋数据的技术平台，或安全习惯糟糕，他们就可能暴露所有人的通信内容。“这个问题并不新鲜，但规模是新的。我们之所以看到这股向可穿戴设备和全天候录音推进的浪潮，一个原因是如今我们已拥有足够的算力，能在合理的时间内分析海量数据。正是这一技术突破把我们带到了这个糟糕的时刻。”

Meta 声称，所有与 Muse 共享的信息都会存放在一台专用虚拟机内的文本文件中，据称这可以防止该 AI 模型与其他智能体通信。但该公司从未隐瞒它可以访问这些数据这一事实，而且与其竞争对手开发的其他模型一样，Muse 已被发现逃出虚拟牢笼，做出各种未经授权的胡作非为。Meta 已确认，就在发布之前，该 AI 模型曾突破隔离并入侵了一家第三方公司。这一事件紧随今年早些时候臭名昭著的 Hugging Face 攻击之后，当时 OpenAI 的模型利用一个此前未知的安全漏洞，未经授权地获取了另外四个外部服务上的凭据。Anthropic 在 7 月报告称，其模型也曾三次未经授权地访问外部系统。

即使它们不入侵眼前的一切，使用这种贪恋数据的 AI 智能体的潜在危险也远远超出了个人终端用户。Whittaker 警告说，在一个 AI 智能体能够自由访问和利用私人通信的世界里，公司和政府实际上可以在不破解加密的情况下绕过加密来获取私人数据。这对活动人士和社区组织者来说可能是灾难，他们依靠加密通信来保护自己免受警察和政府的侵害；但对任何有敏感通信的人来说也是灾难——如今这几乎包括了所有人。

“‘点击同意’式服务条款早就取代了真正有意义的知情同意。”

“如果软件在消息于你的设备上解密后读取它并发送到云服务，加密本身可以在开发者掌控的应用层面完全按预期运作。然而，像 Muse 这样具有侵入性的第三方应用，在标题里兜售便利、却在细则中索要海量数据访问权限，最终让加密的目的化为乌有，”Whittaker 解释道。

专家表示，与智能眼镜及其他可穿戴环境录音设备一样，解决方案必须是法律修补、技术保障和老式羞耻感的组合。

“我认为我们应该把羞耻感向上追溯到这些公司。隐私不应该是一种只有拥有技术知识的特权才能行使的权利，也不应该要等到把一个戴着 Meta 眼镜的混蛋扔出派对之后才能行使，”Whittaker 说。“在法律上，负担必须从点击同意提示的人转移到构建这些底层系统的公司身上。”

与此同时，消费者将不得不更仔细地考虑自己选择使用这类技术所带来的影响——无论是对自己还是他人——以及这些公司提供的便利究竟是否值得。

“我认为我们需要把智能体乃至更广泛的人工智能视为一种适用严格责任原则的极危险产品，”Richards 说。“在我看来，没有理由在全体人口上进行一场鲁莽的隐私、心理健康、网络安全和金融风险实验。”

关注这篇报道的主题和作者，即可在你的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。

• Janus Rose