构建更安全的工业自主 AI 之路

工业AI正在进入一个新阶段。在经历了数十年的预测分析和其他专业化应用之后，基础模型、物理AI和智能体AI的进步使得在工业环境中自动化更复杂的任务成为可能。但与纯粹在数字世界中运行的AI不同，工业AI可以直接与物理系统交互，而一个意外的决策可能会对安全、可靠性和关键基础设施造成后果。

这使得负责任的部署成为下一波工业自动化的核心。“我们如何利用这些技术，同时保持安全，同时保持可靠的运营，同时还能兑现新能力所承诺的价值？”AVEVA首席技术专家Arti Garg问道。随着更新的AI系统变得更强大、但也更难预测和解释，这一挑战尤为严峻。

实现这一转型的基础之一是数据。工业系统通常包含来自遥测、服务日志、工程文档和其他分散来源的信息。较新的技术可以帮助更快地连接和关联这些信息，为操作人员在诊断问题时提供实时支持。AI驱动的机器人可以更进一步，在危险环境中收集信息，而无需工人进入其中。

但更大的自主性也需要新的治理方法。AVEVA的负责任AI框架强调安全性、效率以及人员安全和监督。Garg认为，AI应该在关键决策环节中增强而非取代人，通过防护机制确定自动化系统可以在哪些地方采取行动，以及在哪些地方仍由人类监督者负责。

可持续性是这个等式的另一部分。随着可再生能源发电的增长，AI可以帮助管理复杂的电力系统，同时各组织也需要更好的方式来了解AI自身的环境足迹。Garg参与了一个IEEE工作组，正在制定一套标准方法，用于衡量AI在电力、能源、资源、水和碳排放方面的影响。

下一阶段可能会让工业AI进一步进入物理世界，从自主机器人和无人机，到让领域专家构建新应用的AI辅助编程。但Garg表示，要实现这一潜力，需要的不仅仅是部署新技术。各组织需要重新思考业务流程，建立适当的保障措施，并为经验丰富的工人提供运用其专业知识的新方式，从而创造一种不仅更自主，而且更安全、更高效、更可持续的自动化模式。

“自主系统，无论是机器人还是无人机，真的将改变我们在工厂、电力系统和矿场的工作方式，”Garg说。“从某种意义上说，这将使这些类型的运营更高效，对相关人员来说安全得多，而且更具生产力。”

本期Business Lab节目由AVEVA合作制作。

完整文字实录

Megan Tatum：来自MIT Technology Review，我是Megan Tatum，这里是Business Lab，这档节目帮助商业领导者理解那些从实验室走向市场的新技术。

工业 AI 或许并不新鲜，但它正以惊人的速度发展。从能够预防设备故障的现代预测分析，到负责检查高风险机械的自主机器人，新兴应用有潜力彻底改变运营效率。但工业 AI 常被用于容错极小的高风险环境中，如果在缺乏清晰度、安全性或问责机制的情况下部署，长期来看也可能对关键基础设施造成灾难性后果。在各行业竞相拥抱最新技术之际，目标应当始终是负责任的 AI——旨在支持而非取代那至关重要的人类判断。

送你两个词：可持续自动化。

今天的嘉宾是 AVEVA 的首席技术专家 Arti Garg。

本播客由 AVEVA 联合制作。

欢迎你，Arti。

Arti Garg：谢谢你，Megan。很高兴来到这里。

Megan：非常感谢你加入我们。首先，能否为我们的讨论做一些背景铺垫，请你谈谈目前工业 AI 的现状，以及 AVEVA 目前正在做的工作？

Arti： 当然，非常乐意。我想回到你刚才提到的，也就是在某种意义上，工业 AI 并不新鲜。即使是在 AVEVA，我们在这方面的研究也已有 20 多年，一直在思考 AI 如何增强工业领域的应用。

但在过去几年里发生巨大变化的，是 AI 的类型。我们已经真正转向这些通用基础模型，它们让更多人能够利用先进的 AI 技术。除此之外，仅在最近几年，所谓的物理 AI 出现了爆发式增长，这类 AI 能真正加速机器人和自主系统的能力。还有智能体 AI，它也能在更多软件层面实现自动化。

我们看到，尽管过去人们对于采用那些结果不完全可预测的模型存在一些顾虑，但即使在工业领域，AI 的采用也在迅速加速。一项研究表明，仅在过去两年里，工业领域的增长可能接近 78%。所以是的，这是一个转折点，但如果从 AI 采用的角度来看，它几乎就像是一个阶跃函数。

我们现在在 AVEVA 真正在思考的是，我们该如何看待这一点？如何将这些新的、非常强大的 AI 技术融入那些客户拥有关键任务运营、人身安全是重要因素的环境中？这些是客户在考虑采用任何新技术时的主要顾虑。而在这些较新型 AI 的行为方式不一定可预测的情况下，我们正在这样做。我们真正思考的领域之一是，如何在保持安全、保持可靠运营的同时，利用这些技术，并仍然能够兑现新能力所带来的承诺？

Megan： 需要同时考虑的事情太多了，不是吗？你在那里概述了近年来我们在这一领域看到的一些重大进展。是什么让此刻成为工业 AI 的关键节点？发生了什么变化，使得那些原本可能更遥远、更假设性的设想变得切实可行得多？

Arti: 嗯，我认为工业 AI 领域最大的挑战之一——这对 AVEVA 来说已经融入血液、融入核心 DNA——就是要真正在工业领域利用任何数字技术，你通常首先需要做的重要事情之一就是收集并关联来自不同系统的数据。比如说，我可能有来自泵或搅拌机的遥测数据，我想把这些数据与服务日志关联起来，这样我就知道上一次有人对那台泵或搅拌机做维护是什么时候。也许我还想把这些数据与原始设计文档以及一些关于如何维护它的原始文档关联起来，这样一旦发生异常，我就能更好地诊断出了什么问题以及如何解决。这一直是工业领域的核心挑战。

我认为现在的情况是，随着更新的技术出现，比如图数据库，以及能够利用 AI 更快速地匹配不同的数据集，我们已经能够做到：一旦出现问题，操作员不再需要花时间做这些研究来真正理解这些不同的信息组件是如何组合在一起的，他们可能只需要一台装有 AI 的 iPad，就能非常快速地获取信息、进行关联并几乎实时地帮助诊断正在发生的情况。

再稍微超前一点，但也没有你想象的那么超前：我描述的场景仍然是有一个人工操作员，可能拿着移动平板电脑，但想象一下，现在我还可以让一个机器人在那个环境中移动，同样收集数据，要么通过机载计算，要么快速连接到操作员——操作员现在不必亲自进入危险的、可能存在一定危害的空间——同样能够收集数据并实现非常快速的诊断。我认为这就是当前真正令人兴奋的地方，也是我谈到的所有这些新技术正在帮助实现的东西。

然后我认为，从我们的角度来看，要真正利用所有这些，就意味着我们现在必须认真思考我们的治理方法。我们要如何以某种受控的方式来使用 AI？

Megan: 是的，完全同意。关于治理这一点，AVEVA 是如何定义负责任的 AI 的？你认为主要的好处是什么？

Arti: 好的，对我们来说，我们围绕负责任的 AI 考虑的是一个三重使命，那就是：它是安全的，它是高效的——包括环境方面的效率——而且最重要的是，它真正保障人身安全和人类监督。对我们来说，这就是我们负责任的 AI 的一些核心支柱。这意味着，在内部构建工具时，我们考虑的是一种多层次的治理方法：无论是作为一家公司如何使用 AI，还是如何将 AI 部署到我们的产品中，我们在这两方面都采用类似的框架，即一种联合治理模式，既涵盖我们如何利用 AI，也涵盖我们如何将 AI 融入产品，让我们的客户能够在他们的运营中利用 AI。

但我想说，所有这一切之下的一个核心基础原则是：在我们思考如何利用 AI 时，人类仍然处于中心位置。因此，人类的判断力、人类的责任感、人类的伦理，仍然是我们思考 AI 能在哪些方面带来价值的核心；我们把 AI 更多地视为对关键决策闭环中人的增强，而不是替代。

Megan: 没错，这是一个非常重要的区别，不是吗？谈到下一阶段的发展，越来越多的人认为，智能体 AI（agentic AI）很快将使这些工业系统能够以更高的自主性运行。我想问的是，工业环境中的风险与纯数字环境中的 AI 风险有什么不同？反过来，这种软件定义的自动化又有哪些好处和机遇？

Arti: 我想先从风险说起，然后再谈好处。从根本上讲，我认为工业环境中最大的风险在于，我们要与真实的物理系统打交道，而这些物理系统往往能够产生维持世界运转的重要成果，无论是输送电力，还是开采自然资源。但通常，这些物理系统也在危险的环境中运行，设备本身也可能涉及人身安全问题。任何时候，只要软件与可能产生现实后果的物理系统对接，就必须格外小心。这一点我们一直都有，再次强调，AVEVA 从创立之初就将这一点融入了我们的基因，始终关注最终用户和最终应用，而不只是电脑屏幕上的东西。

即便在过去几十年里我们已将 AI 部署到系统中，我们通常也倾向于真正选择最合适的模型，真正理解该模型的行为。例如，我们有一个专有的异常检测模型，适用于许多运营环境。而现在，当我们考虑一些较新的 AI 能力时——这些能力在设计上就难以理解其行为方式，它们并不像我们过去看待 AI 或统计模型那样具有根本上的可解释性，而且它们的行为会随着学习和新能力的调优而随时间变化——基于这种会随时间演变的能力来自动化物理系统，其潜在风险正是我们必须非常谨慎、深入思考的问题之一：我们愿意在哪些地方将这种更高程度的自动化付诸实践？

但与此同时，我认为这确实是一个真正的机遇，因为我刚才略过了这样一个想法：模型会进化，但人类也会成长，有时这是件好事。我们常说人类拥有专业知识，并在职业生涯中逐步加深对系统运作方式的理解。如果我们能够真正利用一些较新的 AI 能力——这类推理模型通常具备底层的智能体能力——来更快地学习和积累经验，甚至可能更重要、更有价值的是，把在某个现场学到的经验应用到另一个现场，那就是一个真正的机遇：把我们已经验证对人类有效的方法——即有时你必须通过实践来学习——通过 AI 加以应用和规模化。这正是我看到该领域真正潜在机遇的地方。

在工业领域，我们非常清楚的一点就是劳动力正在发生变化。我认为几乎有一半——虽然还不到一半——的工业劳动力将在未来五年内退休，这意味着我们将失去大量专业知识和经验。如果有办法确保我们能够以可操作的方式把这些知识捕获下来，并帮助那些习惯以不同方式体验事物的新一代工人应用这些专业知识和技能，那么我认为这是工业领域的巨大机遇。

Megan：是的，完全同意。显然这里有巨大的机遇，尤其是结合你刚才提到的市场和劳动力变化的背景来 看。在此基础上我想问，这些自主工业 AI 系统如果以负责任的方式构建和部署，在促进更快速、更可持续的工业流程方面有多大的潜力？

Arti: 我认为可以从几个不同的角度来思考这个问题。其一，更环保可持续的流程可能有哪些需求？我用一个例子来说明，这是我团队与美国的 Idaho National Laboratory 合作开展的工作，作为其 AI 电网韧性测试项目的一部分。

随着我们迈向一个拥有更多间歇性可再生能源发电来源的未来——例如通常是分布式的屋顶太阳能——电网面临的一个挑战是，电网管理变得更加困难：既要真正了解电力容量从哪里输入、电负荷从哪里输出，又要能够维持电能质量，因为不再是由单一旋转设备向整个电网提供电力频率，而是有许多较小的系统。AI 对于管理这种未来电网实际上非常关键。这也是我们一直在合作研究的内容之一：我们该怎么做？如何帮助电网运营商更好地了解其整个系统的运行情况，识别可能出现异常的地方，以便他们能及早发现并加以 remediate？

与此同时，我一直在说，这是一个 AI 有潜力帮助我们加速向低碳能源未来转型的例子。与此同时，我认为围绕 AI 自身可持续性的讨论也很多。它的电力需求是什么？运行 AI 需要哪些资源？在谈我们 AVEVA 如何看待这个问题之前——因为这确实是我们思考的事情，我相信该领域的许多参与者也在思考——我想指出，其中一个挑战在于，目前实际上还没有一种公认的方法来衡量 AI 的环境影响。你会看到很多这样的报道，比如在某种聊天界面上进行一次查询就要消耗多少加仑水或多少电力。但事实是，在整个行业范围内，并没有公认的标准。

我参与的事情之一是 IEEE 两年前（略多于两年前）成立的一个标准工作组。我是该工作组的主席，它叫做 P7100 AI 环境影响衡量标准工作组。我们正在努力做的事情之一，就是真正识别出我们需要考虑 AI 环境可持续性的所有不同领域，然后制定一套可行且能被采用的标准方法，既可用于报告层面，也可能用于监督或监管层面。这对真正理解 AI 如何影响环境来说非常重要——我们必须知道它消耗了什么，并且要全面地审视它。我们的标准涵盖电力和能源消耗、资源使用、水消耗，还包括碳排放。

尽管如此，我认为理解 AI 的足迹很重要，但同样重要的是，我们要同时认识到，更大的模型会使用更多算力，而更多算力可能会消耗更多资源。我们越是能有意识地为目标选择合适规模的模型，就越能在让我们运行的 AI 更加环保高效的道路上迈出步伐。这样做的一个潜在的好副作用是，如果架构选择得当，模型越是专门构建，就越不太可能以不可预测的方式出现异常。这类附带的好处超出了环境可持续性的范畴。

Megan：很吸引人。听到幕后正在进行的这些工作真的非常非常有意思，因为正如你所说，我们大概都听过一些关于环境影响的统计数据。所以，能了解那里正在进行的、真正把这件事弄清楚的工作，真是太好了。

我们之前谈到了一点 AI 增强人类的话题。随着系统获得更大的自主性，各组织应该如何思考闭环自动化与人在回路中的问责之间的平衡？需要建立哪些防护措施？各国政府和跨境参与者又是如何应对这些担忧的？

Arti：这个问题里包含了很多内容，所以我会尽量逐一回答。首先，从闭环与人在回路之间的这种平衡说起，也就是自动化与问责。我们在工业领域经常谈到的一件事是，从人类操作员转变为工业系统的人类监督者。坦率地说，我们仍在探索这一点。当人类处于自动化系统的回路中时，你实际上要考虑的是系统可能会处理所有数据，然后提出一项建议。

我们一直在与几家不同的客户合作开发一套解决方案，我们能够接收大量他们的运营数据，以及一些关于他们系统运行方式的仿真，进而提供建议，比如：根据你工厂中正在发生变化的其他条件，你现在应该在这个设定点运行，而不是那个设定点。目前人们非常感兴趣的是，从让它成为一个推荐设定点，转变为让自动化系统能够自动调整设定点。事实上，我们也已经围绕这一点进行了一些成功的现实试点。

但一旦深入其中，显然，如果你在工业设备上更改设定点，会让人非常紧张。这时你可能需要继续设置一些防护栏，例如，你不能超出某个运行区间，或者我们只允许在某些区域启用自动化。这就好比人类监督者的角色：对于某些事情，人类监督者可能给员工很大的自主空间和灵活性去做决策；而对另一些事情，则是硬性规定，比如这是截止日期，或者这是生产目标。就是这样的。所以要思考的是，如何设置合适的防护栏？

挑战在于，AI 不是人类，因此防护栏的形式会有所不同，我认为这正是仍需思考的问题之一。关于应该设置哪些防护栏这个问题，我认为它可能会因应用场景而有所不同，但随着时间的推移，我们大家都会学到经验，因此我认为，对如何做到这一点保持坦诚和深思熟虑非常重要。

不过，潜在的机会确实非常巨大。我已经提到过，AI 在综合大量信息并将其中的重点突出呈现方面非常有用——这就是什么才是重要的。我们确实希望在这方面创造一些试验的空间，但接下来重要的是确保人类理解其中的风险。

我来分享一个我个人的小故事，因为它可能很有启发性。这个周末，我买了一个小玩具机器人，决定给它编程做一些事情，我发现 AI 对帮我入门、阅读所有文档非常有帮助。把机器人组装起来很简单，他们提供了很好的说明，但已经有一个相当庞大的软件开发工具包，而通读所有这些文档可能需要一段时间。AI 在帮我快速定位方面非常有帮助——比如告诉我这个功能是做什么的，帮助我入门。但偶尔，它也会在排查某个问题的最佳方法上给出非常糟糕的建议。

这就是为什么我认为让人类参与其中，能够说“我知道它不会成为最优秀的软件架构师或最优秀的排障专家”，真的很有帮助，因为我有机会把 AI 用在它擅长的地方——综合并呈现大量信息——但同时能够说“我不认为那是最有效率的第一步，我们试试别的吧。”这确实是一种截然不同的工作方式，但我认为，随着人类对 AI 的能力与局限越来越熟悉，你可以开始教人们如何与它协作，而这与其他数字工具的合作方式非常不同。

谈到 AI，很重要的一点是要认识到它所涉及范围的广泛性，以及它将产生影响的广泛性——无论是我们对谈过的环境方面，还是整场讨论中隐含的生产力方面，无论是劳动力方面，还是经济运行方式本身。在我看来——我绝非这一领域的政策专家——我看到的是，不同的政府在思考监管和其他治理方式时，优先考虑的方面各不相同。

Megan: 我们确实看到世界各地在这一问题上采取了截然不同的方法，不是吗？我想请你分享一些你所见过的案例研究来说明其中一些差异，也许可以为我们讲讲这些案例能为那些在 AI 之路上起步稍晚的其他组织带来哪些启示。

Arti:我认为，在工业领域，我们在很多关键领域都看到了采用 AI 的明显收益，而所有这些的核心其实都是把数据做好，打好正确的数据基础，这样你才能在其之上构建 AI。

我们的一个客户 SCG Chemicals 是泰国的一家石化公司，他们的愿景是为自己的运营打造一个尽可能由 AI 驱动的可靠性平台。但其中的核心部分其实是把数据做好，能够把所有信息放在正确的位置，并利用 AVEVA 的一些工具来实现这一点。他们把运营数据和工程数据汇聚在一起，然后在其之上叠加 AI 能力——在这个案例中是我们的 AVEVA Predictive Analytics，它部署一些专有模型来执行诸如检测异常之类的任务，从而让他们能够更早地识别潜在运营风险。并把计划外停机转化为计划内停机。当你把计划外停机转化为计划内停机时，工厂可靠性可以获得巨大的提升。

目前他们的目标是约 99% 的工厂可靠性，以及所部署平台的极高投资回报率。在早期试点阶段，投资回报率几乎达到了 9 倍，这确实相当可观。但我想强调的是，要把这件事做好，其实是一个多层次的问题。

Megan:不过，这些成果确实非常惊人。我是说，对于那些可能仍在犹豫是否探索 AI 的工业界领导者，我想知道，你认为采取观望态度的代价是什么？

Arti: 我认为，这又是一个工业部门在应对这类问题时需要采用不同考量的领域。总的来说，我想你会听到大多数商业专家说，你不能对AI采取观望态度，因为它对社会的每一个部门和经济体都具有变革性，而在工业领域，我们当然也不例外。但我确实认为，我今天概述的一些挑战也让工业领域的领导者们有时倾向于成为快速跟随者，而不是新技术的首批采用者，仅仅因为风险实在太高。

话虽如此，我认为挑战之一在于，我们今天讨论过的将行为不总是可预测的系统与物理系统相结合所带来的风险——我不知道是否有很多其他行业会去解决这些问题。而正是在这里，我看到人们实际上对尝试新事物抱有浓厚的兴趣和热情，并愿意这样做，因为大家认识到，只要应用得当，并配备适当的防护栏和安全保障措施，这些技术在资源使用、人员安全和生产力方面确实具有真正的变革潜力。

我认为该行业的考量已经发生了一些转变，变成了我们确实想尝试这些东西。但随之而来的问题是，我们该如何在更容易被沙盒化或更安全的环境中尝试这些东西，以测试我们在工业部门将面临的一些独特挑战？

Megan: 是的，没错。如今这种潜力实在难以忽视，不是吗？作为结尾，稍微展望一下未来，在负责任的自主工业AI系统的长期潜力方面，你最感到振奋的是什么？

Arti: 好的。我认为这里有几条不同的发展轨迹。其中之一是，我确信在未来18个月内，我们会看到更多拥有深厚领域专业知识、但可能并非软件背景出身的人，能够采用AI辅助编程技术，真正构建出他们以前无法构建的东西。

这对我的职业生涯来说真的令人兴奋。很久以前我曾是一名工业数据科学家，我总是觉得，与那些处于运营一线、必须监控大量不同设备并了解它们如何协同工作的人交谈时，我最受鼓舞，也学到最多。他们真的拥有丰富的专业知识，而能够让他们手中掌握快速开发新应用的能力，我相信这将带来大量新想法，是我们这些工业软件领域的人可能根本想不到、也不知道如何实现的。我觉得这真的非常令人兴奋。

我想，再往长远看，我有一点——不能说是机器人技术的怀疑者——因为显然机器人技术和自主系统将会非常重要，尤其是考虑到工业设备运行环境的类型，无论是危险环境还是偏远地区。但实际上我只是觉得一切都比我预想的要快得多。我非常期待看到 AI 系统的这些物理实体开始真正变革我们对运营的思考方式。

在任何环境中使用任何新技术，有一点是共同的：要真正从中获得价值，你必须改变做事的方式。可以说，近 10 年来我一直在做关于 AI 落地应用的演讲，我总是说，AI 落地的最大障碍与技术本身无关，甚至与数据无关——尽管数据往往是最棘手的问题——真正的问题在于，你是否愿意改变自己的业务流程，以适应这项技术擅长或不擅长的事情？

自主系统，无论是机器人还是无人机，都将真正改变我们在工厂、电力系统和矿区的工作方式。我认为这将使这类运营更高效，对涉及的人员来说安全得多，也更有生产力。所以，我对此相当兴奋。

我不完全清楚它将走向何方，但我经常思考的一件事是：如果你回顾电影《我，机器人》和艾萨克·阿西莫夫的原著，其中的前提是机器人技术将成为第一个被广泛采用的 AI，而不是基于计算机的系统。我们却走向了另一个方向，而现在看到这一切正在汇聚，我觉得非常有趣。

Megan：是的，绝对是。看，机器人技术稍微赶上来了。前方确实有那么多令人兴奋的事情。非常感谢您抽出时间。

刚才的嘉宾是 AVEVA 首席技术专家 Arti Garg，我在英格兰布莱顿与她进行了交谈。

本期《Business Lab》节目到此结束。我是主持人 Megan Tatum，我是 MIT Technology Review 定制出版部门 Insights 的特约编辑。我们于 1899 年创立于麻省理工学院，您可以通过印刷版、网络版以及每年在世界各地举办的活动找到我们。欲了解我们和本节目的更多信息，请访问我们的网站 technologyreview.com。

本节目可在您获取播客的任何平台收听。如果您喜欢我们的节目，希望您能抽空为我们评分和评论。《Business Lab》是 MIT Technology Review 的出品，本期节目由 Giro Studios 制作。非常感谢您的收听。再见。

了解更多信息请访问 aveva.com。

本内容由 MIT Technology Review 的定制内容部门 Insights 制作，而非其编辑团队出品。内容由人工研究和撰写，即使使用了任何 AI 工具，也仅限于在人类监督下的制作流程。