报告时间：2022年4月20日  21:00

地 点：线上腾讯会议 102-197-730

报告人：向伟铭（美国奥古斯塔大学）

报告题目：机器学习驱动的信息物理系统的安全性验证

汇报摘要：

基于人工智能与机器学习的快速发展，机器学习如深度神经网络开始大规模地应用在信息物理系统(Cyber-Physical Systems，CPS)中的感知、决策，驱动和控制过程中，并在此类系统中扮演了重要的角色，例如自动驾驶汽车和群体机器人。然而，正如最近的自动驾驶事故和对抗性机器学习所证明的那样，确保此类基于机器学习的系统在所有工作场景中可靠运行是非常具有挑战性的难题。在我们最近的工作中，我们为配备了神经网络组件的信息物理系统提出了一个安全性验证框架。首先，我们将讨论并阐明基于神经网络的信息物理系统安全验证的关键是神经网络的可达集计算，然后我将介绍我们为前馈神经网络的可达集计算开发的两种主要方法。(1) 通过定义具有一般激活函数的前馈神经网络的最大灵敏度，我们提出了一种基于优化的方法，通过解决一系列凸优化问题来过逼近前馈神经网络的输出可达集。我们还将讨论通过结合所需验证性质和系统仿真等额外信息来增强所提出方法的可扩展性。(2) 接下来，我们将讨论一类 ReLU 神经网络的基于几何的可达集计算方法。神经网络的准确输出集可以通过对多面体的一系列操作来计算。最后将这两种方法与混合系统可达性工具相结合，我们可以完成含有神经网络的信息物理系统的安全验证。

汇报人简介：

向伟铭，现任美国奥古斯塔大学(Augusta University)计算机与网络科学太阳集团官网(School of Computer and Cyber Sciences, Augusta University)助理教授(Assistant Professor)， IEEE Senior Member，美国自然科学基金委员会杰出青年奖(NSF CAREER AWARD)。担任IET Control Theory and Applications ， Neurocomputing，ACM International Conference on Hybrid Systems: Computation and Control (HSCC)，IFAC Conference on Cyber-Physical & Human-Systems等国际期刊与会议的副主编 (Associate Editor) 及Committee Member。2014年于西南交通大学交通运输太阳集团官网获博士学位，2015年5月至2015年10月在香港大学机械工程太阳集团官网任助理研究员(Research Associate)，2015年11月至2016年7月在美国得州大学阿灵顿分校计算机科学与工程系(Department of Computer Science and Engineering, The University of Texas at Arlington)任博士后研究员(Postdoctoral Scholar)，2016年8月至2019年7月在美国范德堡大学电气工程与计算机科学太阳集团官网(Department of Electrical Engineering and Computer Science, Vanderbilt University)任博士后研究员(Postdoctoral Scholar)。主要研究方向为信息物理系统(Cyber-Physical Systems, CPS)的形式化方法(Formal Methods)的理论研究与工具开发。目前的研究兴趣集中在机器学习驱动的信息物理系统(Learning-Enable CPS)的安全性及可靠性的形式化方法研究，同时也进行CPS的其他相关研究，比如控制器设计，稳定性分析，可达集计算，混杂系统等方面。