神经网络对工程师设计机器人控制器的方式产生了巨大影响，推动了更具适应性和高效性的机器发展。然而，这些类脑的机器学习系统是一把双刃剑：它们的复杂性使其强大，但也使得确保由神经网络驱动的机器人安全完成任务变得困难。

验证安全性和稳定性的传统方法是通过称为李雅普诺夫函数的技术。如果你能找到一个值持续减少的李雅普诺夫函数，那么你就可以知道与较高值相关的不安全或不稳定情况永远不会发生。然而，对于由神经网络控制的机器人，以往验证李雅普诺夫条件的方法无法很好地扩展到复杂机器。

麻省理工学院计算机科学与人工智能实验室（CSAIL）及其他机构的研究人员现已开发出新技术，能够在更复杂的系统中严格验证李雅普诺夫计算。他们的算法高效地搜索并验证李雅普诺夫函数，为系统提供稳定性保证。这种方法有望使机器人和自动驾驶车辆（包括飞机和航天器）的部署更加安全。

为了超越以往的算法，研究人员找到了训练和验证过程中的一个节省成本的捷径。他们生成了更便宜的反例——例如，可能干扰控制器的传感器对抗数据——然后优化机器人系统以应对这些反例。理解这些边缘情况帮助机器学会如何处理具有挑战性的环境，从而使它们能够在比以往更广泛的条件下安全运行。接着，他们开发了一种新颖的验证公式，使得可以使用可扩展的神经网络验证器α,β-CROWN，提供超出反例的严格最坏情况保证。

“我们在人形机器人和机器狗等AI控制的机器中看到了一些令人印象深刻的实证表现，但这些AI控制器缺乏对安全关键系统至关重要的正式保证，”麻省理工学院电气工程与计算机科学（EECS）博士生、CSAIL成员、该项目的共同第一作者杨璐杰（音译）说道。她与丰田研究所研究员戴宏凯（2012年硕士、2016年博士）共同撰写了这篇新论文。“我们的工作弥合了神经网络控制器的性能水平与在现实世界中部署更复杂的神经网络控制器所需的安全保证之间的差距，”杨璐杰指出。

在数字演示中，团队模拟了配备激光雷达传感器的四旋翼无人机在二维环境中的稳定过程。他们的算法成功引导无人机到达稳定的悬停位置，仅使用激光雷达传感器提供的有限环境信息。在另外两个实验中，他们的方法使得两个模拟机器人系统在更广泛的条件下稳定运行：倒立摆和路径跟踪车辆。这些实验虽然规模不大，但比神经网络验证社区以往能够完成的任务相对更复杂，尤其是因为它们包含了传感器模型。

“与常见的机器学习问题不同，将神经网络严格用作李雅普诺夫函数需要解决困难的全局优化问题，因此可扩展性是关键瓶颈，”加州大学圣地亚哥分校计算机科学与工程副教授Sicun Gao说道，他并未参与这项工作。“当前的工作通过开发更适合在控制问题中将神经网络用作李雅普诺夫函数的算法方法，做出了重要贡献。它在可扩展性和解决方案质量方面取得了令人印象深刻的改进，超越了现有方法。这项工作为进一步开发神经李雅普诺夫方法的优化算法以及严格在控制和机器人中使用深度学习开辟了令人兴奋的方向。”

杨璐杰及其同事的稳定性方法在保证安全至关重要的领域具有广泛的潜在应用。它可以帮助确保自动驾驶车辆（如飞机和航天器）的平稳行驶。同样，用于送货或绘制不同地形图的无人机也可以从这种安全保证中受益。

这里开发的技术非常通用，不仅限于机器人领域；未来，相同的技术可能有助于其他应用，如生物医学和工业加工。

虽然该技术在可扩展性方面比以往的工作有所提升，但研究人员正在探索它如何在更高维度的系统中表现更好。他们还希望考虑激光雷达读数之外的数据，如图像和点云。

作为未来的研究方向，团队希望为处于不确定环境并受到干扰的系统提供相同的稳定性保证。例如，如果无人机遇到强风，杨璐杰和她的同事希望确保它仍能平稳飞行并完成所需任务。

此外，他们打算将他们的方法应用于优化问题，目标是在保持稳定的同时，最小化机器人完成任务所需的时间和距离。他们计划将他们的技术扩展到人形机器人和其他现实世界的机器中，在这些情况下，机器人需要在与周围环境接触时保持稳定。

麻省理工学院丰田EECS教授、航空航天与机械工程教授、TRI机器人研究副总裁、CSAIL成员Russ Tedrake是这项研究的资深作者。论文还感谢了加州大学洛杉矶分校博士生石周星（音译）和副教授谢卓瑞（音译），以及伊利诺伊大学厄巴纳-香槟分校助理教授张欢（音译）。他们的工作得到了亚马逊、国家科学基金会、海军研究办公室和Schmidt Sciences的AI2050项目的部分支持。研究人员的论文将在2024年国际机器学习会议上发表。