基于SCADEVision的AI感知算法验证套件，降低验证效率

　　基于SCADEVision的AI感知算法验证套件，降低验证效率

　　SCADE Vision是由ANSYS和卡内基梅隆大学联合开发的AI感知算法验证套件。它在对云部署的后端搜索引擎和网络前端人机界面进行综合分析的基础上，有效降低了AI感知算法的验证效率，并快速定位了AI感知算法的潜在缺陷。

　　图1基于SCADE Vision的主动学习框架

　　产品介绍

　　基于SCADE Vision的主动学习框架要求用户采用经过全面训练的感知算法模型作为输入。对于成熟的感知算法模型，请发现有助于提高感知算法模型安全性的典型样本。这些样本代表受算法本身影响的易受攻击，外部环境和系统操作方案（SCADE Vision称它们为边界情况）。基于SCADE Vision的主动学习框架的主要优点包括：

　　♦加快模型的训练速度

　　♦提高样本不均匀时模型的准确性

　　♦减少噪音干扰

　　图2 SCADE Vision技术架构

　　SCADE Vision选择引擎由SCADE Vision分析器和SCADE Vision边界案例搜索器组成。 SCADE Vision边界案例搜索器负责搜索更有价值的边界案例数据样本，而SCADE Vision分析器负责边界案例的潜在危害。根本原因（触发事件）。

　　ANSYS SCADE视觉分析器

　　SCADE Vision Analyzer是一个基于Web的用户界面，它支持用户以原创数据和网络模型作为输入来自动获取感知算法模型的边界情况，并支持用户基于预定义或自定义触发事件列表来定位边界情况。根本原因。 SCADE Vision的分析过程遵循以下步骤：

　　•连接要测试的模型

　　SCADE Vision分析器是被测试系统（感知软件）的端口，已加载到SCADE Vision云中。被测系统通常是用于目标检测的卷积神经网络模型。 SCADE Vision分析器支持TensorFlow模型的加载。 TensorFlow目前是用于卷积神经网络开发的流行的深度学习开源框架。

　　图3要测试的系统列表

　　•提交原创视频

　　SCADE Vision分析器支持将原创视频文件上传到SCADE Vision云，并支持三种视频数据格式：MAP4，AVI和MOV。

　　图4原创视频列表

　　•触发事件分析

　　测试完成后，将测试结果上传到SCADE Vision数据库，并且SCADE Vision分析器界面以图形方式显示测试结果。

　　图5 SCADE Vision分析界面

　　•生成安全报告

　　安全报告是SCADE Vision识别的触发事件的全面摘要。其目的是为系统安全分析师提供有关如何提出系统工程和软件开发团队安全要求的指南。

　　图6 SCADE Vision安全报告生成

　　ANSYS SCADE Vision Edge案例查找器

　　SCADE Vision Edge Case Finder支持基于原创相机数据的AI感知算法模型的自动缺陷检测，并且不依赖昂贵的标签样本，从而有效地减少了实际操作环境中数据注释和测试的成本；基于原创相机数据自动生成对抗样本，通过缺陷检测和假阴性检测算法定位潜在缺陷，并有效提高AI感知算法模型的安全性。

　　在“ ITPUB博客”中，链接：如果需要重印，请注明出处，否则将追究法律责任。