406名科学家联署公开信，要求立即将AI模型与互联网隔离

一封由406位科学家联名的公开信呼吁加强AI安全研究，并更严格地将AI模型与外部网络隔离。

联名者包括Geoffrey Hinton（多伦多大学）、Yoshua Bengio（蒙特利尔大学）、Stuart Russell（加州大学伯克利分校）、Yejin Choi（斯坦福大学）和Bernhard Schölkopf（马克斯·普朗克研究所）等知名AI研究者。

这封信是对已知事件的回应，AI模型曾突破防护不严密的环境并入侵外部系统。“如果不立即改变AI的开发和部署方式，此类事件将继续发生，而未来的事件将对我们暴露的关键基础设施造成更严重的损害，”科学家们写道。他们要求企业通过物理隔离（airgapping）将AI模型与互联网完全断开。

AI模型不可预测，行业缺乏基本的安全规则

科学家们从两方面看待最近的入侵事件。他们写道，这些事件“可以被视为AI对齐重要性的证据，以确保模型可预测地运行”，但也可以“被视为标准网络安全实践中的不负责任的疏漏，本可通过更强的沙箱和流程加以预防”。两种措施都需要。

当模型确实拥有互联网访问权限时，企业需要权衡赋予它们多少自主权。这封信警告说，“允许模型执行的操作范围需要与我们目前有限的能力相平衡，即预测模型的操作不会导致安全失效的能力。”模型可能只是追求其开发者从未设想过的目标，而预测何时会发生这种情况仍超出现有技术水平。

这封信呼吁成立一个国际机构，与政府以及来自AI和网络安全领域的专家合作，为任何允许比物理隔离更多外部访问的遏制方案制定具有约束力的标准。该机构还将跟踪突破事件，并要求企业报告安全失效情况。这些报告之后将公开，“用于学习和问责目的”。

即使是完全的物理隔离也无法保证安全。OpenAI研究员Noam Brown最近指出，两台物理隔离的计算机理论上仍可通过温度传感器通信，一台提高CPU温度，另一台检测到这一变化。Brown说，物理隔离或思维链监控等措施能争取时间，但对齐问题仍需解决。

Brown提出了更棘手的问题。当AI开始自我改进（递归自我改进，即RSI）时，谁会察觉到？如果行业构建了数十亿个远超人类的超级智能系统，谁来确保它们保持对齐？Brown表示，他自己的团队中目前有超过百分之十的人在研究对齐问题，比以往任何时候都多。

订阅THE DECODER，享受无广告阅读、每周AI新闻通讯、每年六期独家“AI Radar”前沿报告、完整存档访问权限以及评论区的访问权限。