Hugging Face 高管警告网络攻击可能让开源 AI 不再那么开放
Cyberattacks threaten to make open-source AI a little less open, Hugging Face exec warns
Hugging Face 首席政策官 Irene Solaiman 警告，开放平台的开放性和丰富数据正使其成为黑客目标。
正在加载播放器……
Hugging Face 首席政策官兼高级副总裁 Irene Solaiman 在最近一期 Equity 播客中表示，开放 AI 平台的宝贵之处——例如开放的大门和丰富的数据——可能也正是使它们更容易遭受更多攻击的原因。
今年 10 月针对用户第三方 API 密钥并造成经济损失的 OpenCode 攻击事件就是最新的例子。此前，今年夏天，OpenAI 的一个智能体集群在访问网络安全评估的答案后，为了掩盖痕迹，显然是有意入侵了 Hugging Face。
这种风险并不局限于鼓励开放社区贡献的平台。周一，帮助开发者运行和训练开放 AI 模型的 AI 基础设施初创公司 Fireworks 披露，攻击者已获取了部分客户的模型权重、数据集和账单信息。该公司在调查期间暂时禁用了某些自助数据集功能。虽然这次攻击并不一定是由于 Fireworks 的开放性所致，但它凸显了 AI 基础设施提供商内部集中了多少有价值的信息。
“我担心使开放社区成为攻击目标的东西，也正是让它与众不同的东西，”Solaiman 在 Equity 上说。“我们必然是宽容的。我们希望那些没有机构隶属关系的普通地下室爱好者也能做出贡献。”
“你希望人们能够直接提交 pull request，允许任何没有有效隶属关系的人做出贡献……但随后就会出现一些捣乱的人，毁了其他所有人的体验，”她在另一次谈话中补充道。
这种宽容并非吸引攻击者的唯一因素。开放平台托管的海量信息也使它们成为攻击目标。Hugging Face 之所以成为 OpenAI 智能体集群的诱惑，是因为它持有的评估数据集，而 Solaiman 表示，OpenCode 在这次事件中的目标则来自其“诱人的第三方 API 密钥”。
“这些因素加在一起，使我们成为头号目标，”Solaiman 在另一次谈话中告诉 TechCrunch。她补充说，“在我们已经获得如此多公众支持的时候，开源有真正走向封闭的危险。”
近来，行业内许多公司都表达了对开放 AI 模型的支持，其中包括 Nvidia 的 Jensen Huang 等重量级人物。而且，政府、企业和初创公司越来越依赖开放模型来进行构建。
那么，退回封闭状态实际上会是什么样子？理论上，这可能意味着限制谁可以上传模型或数据集、更严格的身份验证，或在开发者访问某些功能之前对其进行额外审查。虽然这些举措可以保护平台免受攻击者的侵害，但也可能让独立研究者和爱好者更难参与他们此前曾受到欢迎的社区。
目前，Hugging Face 正在努力避免走上这条路。Solaiman 表示，公司一直在加强监控工具以发现攻击，并采取措施加以防范。但她指出，监控的维护成本可能很高，并非每个平台都能负担得起。
“管理权限的访问令牌是那个智能体集群获得更高权限的原因之一，所以我们现在轮换它们的频率比过去高了很多，”Solaiman 说。“我们现在还采用了更严格的网络控制。”
换言之，那些让管理员能广泛访问 Hugging Face 系统的凭证现在更换得更频繁，这意味着被盗的令牌可用的时间更短。
开源生态系统的其他部分也在应对类似的安全相关权衡。GitHub 是全球最大的开源项目托管平台，一直在抵御向项目中注入恶意代码以快速传播恶意软件的攻击者。该公司开始收紧向 npm 注册表发布软件包的安全要求，撤销较旧的身份验证令牌，并限制新令牌的有效时长。
GitHub 负责软件供应链安全的工程师 Zach Steindler 通过电子邮件告诉 TechCrunch，虽然安全措施可能会打乱既定的工作流程，但平台可以在不从根本上限制参与的情况下变得更安全。
“这与其说是限制功能，不如说是去修复那些从一开始就不安全的东西，”Steindler 说。他指出，npm install 脚本已经存在多年，但近期的攻击凸显了它们可能有多危险。GitHub 与 OpenJS——一个托管用 JavaScript 构建的关键开源项目的非营利组织——合作制定了一种更安全的方法。
Steindler 表示，同样的逻辑也适用于安全团队如何分配精力：“安全就是在现有资源下最大化影响力，我更愿意投资于检测可疑行为和遏制能力：这些能覆盖所有账户和访问方式的东西。无论由谁表现出来，可疑行为都是可疑的。”
当你通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Rebecca Bellan 是 TechCrunch 的高级记者，报道塑造人工智能的商业、政策和新兴趋势。她的作品还发表在 Forbes、Bloomberg、The Atlantic、The Daily Beast 等媒体上。
你可以通过发送电子邮件至 [email protected] 或通过 Signal 上的加密消息 rebeccabellan.491 联系 Rebecca 或核实她发出的联系请求。
来源： TechCrunch · AI · techcrunch.com