手机APP开发,微信小程序开发,智能硬件,云计算,网站建设,微信开发,软件开发,网络公司,软件公司,亚原子科技,安徽APP开发,安徽小程序开发,上海APP开发,上海小程序开发

高新技术企业
我的项目

175 2103 2106

周一至周日8:00-18:00

微信扫码发起聊天

关注我们领福利 扫一扫手机查看

阿里发布自动化AI对抗平台

位置:首页 > 新闻动态 > 行业新闻 > 正文 发布日期:2020-12-15 浏览:

为帮助AI应用从源头构建安全性,阿里安全图灵实验室整理归纳了学界针对AI模型提出的32种攻击方法,以此为基础搭建了一个自动化AI对抗攻击平台CAA,帮助检测AI系统存在的安全漏洞。

据介绍,经CAA“体检”后,AI安全专家可针对被检测AI的薄弱地带提出安全建议,帮助AI鲁棒性(稳定性)检测,以此增强AI系统的安全性。近日,该研究成果被人工智能顶会AAAI2021接收。


相比业界此前提出的其他攻击工具箱,阿里图灵实验室研发的自动化对抗攻击平台CAA首度实现了对抗攻击的“工具化”。它让AI应用的使用者即使不具备任何专业领域知识的情况下,也可以进行AI模型的对抗攻击和鲁棒性测试。

此外,CAA还可预先评估待检测AI的特性,通过自动化搜索技术来合成多个攻击算法的组合,提升了现有模型攻击方法的性能和效率。阿里安全专家通过实验表明,CAA超越了最新提出的攻击方法,是可有效评估当前AI系统安全性的最强“攻击”。

阿里安全图灵实验室算法专家箫疯表示,阿里安全首次提出将智能技术引入到对抗攻击中,使得所有攻击细节和参数作为一个黑箱,而攻击者只需要提供目标模型和数据,算法就会自动选择最优的攻击组合和参数。

【声明】本文由网友自行发布(原文出处),转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请及时与我们联系,我们将在第一时间删除内容!
  QQ咨询

微信扫码发起聊天

175 2103 2106