本期为techbeat人工智能社区第355期线上talk。
北京时间11月4日(周四)晚8点,卡内基梅隆大学博士后研究员——张欢的talk将准时在techbeat人工智能社区开播!
他与大家分享的主题是: “构建更强大、更大规模的神经网络验证算法”,届时将
主要介绍神经网络验证算法,用于严格证明神经网络的属性比如安全性、鲁棒性、公平性等等。
talk·信息
▼
主题:构建更强大、更大规模的
神经网络验证算法
嘉宾:卡内基梅隆大学博士后研究员 张欢
时间:北京时间 11月4日 (周四) 20:00
地点:techbeat人工智能社区
http://www.techbeat.net/
长按识别二维码,一键完成预约!
talk·提纲
深度神经网络已经成为了现代人工智能的重要一部分,在很多应用中都取得了成功。但是,在一些对安全性、鲁棒性要求很高的系统中使用深度神经网络时,比如自动驾驶、医疗系统和安全监控系统等,我们需要神经网络具有可预测的、可靠的和鲁棒的性能,这是一个非常有挑战性的问题。例如,现有的一些研究已经发现,在很多应用中的神经网络都缺乏鲁棒性并存在对抗样本,它可以使神经网络在一些十分简单的任务上出错。
本次talk中主要介绍神经网络验证算法,用于严格证明神经网络的属性比如安全性、鲁棒性、公平性等等。由于神经网络验证算法可以对神经网络的性能给出理论保证,它成为了在一些关键领域应用神经网络模型的关键。
1. 神经网络验证的动机和基本问题描述
2. 基于高效反向限界传播(backward bound propagation)的神经网络验证算法crown
3. 将crown推广到任意神经网络结构上以及auto_lirpa验证算法库
4. alpha-crown算法在gpu上使用梯度上升优化限界传播
5. 使用分支定界法进一步增强验证效果,并使用结合衔接传播和分支定界的beta-crown算法取得神经网络验证大赛冠军
talk·参考资料
这是本次分享中将会提及的资料,建议提前预习哦!
github代码链接:
https://github.com/huanzhang12/alpha-beta-crown
paper list:
neurips 2021 (如果只有时间看一篇paper就看这一篇):
https://arxiv.org/pdf/2103.06624.pdf
neurips 2018:
https://arxiv.org/pdf/1811.00866.pdf
iclr 2021:
https://arxiv.org/pdf/2011.13824.pdf
入门文章:之前有发在机器之心上的两篇文章:
9月11日:华人学生团队获国际神经网络验证大赛佳绩:总分第一,五大单项第一
9月16日:干货|什么是神经网络验证?一文读懂神经网络验证大赛获奖算法α,β-crown
talk·提问交流
通过以下两种方式提问都将获得微信现金红包奖励哦!
方式 ①
在talk界面下的【交流区】参与互动!留下你的打call🤟和问题🙋,和更多小伙伴们共同讨论,被讲者直接翻牌解答!
你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦!
方式 ②
在本文留言区直接提出你的问题,或扫描下方二维码提问!
快来提问啦!
talk·嘉宾介绍
张欢
卡内基梅隆大学博士后研究员
张欢博士于2020年毕业于ucla,现任卡内基梅隆大学(cmu)博士后研究员。张欢是机器学习鲁棒性和安全性领域的早期研究者之一,对于神经网络、决策树等机器学习模型提出了开创性的验证算法,并将这些算法应用于构建更加安全和鲁棒的图像分类、自然语言处理(nlp)、强化学习(rl)等任务中,在neurips、icml、iclr等一流会议中发表论文数十篇。张欢带领的团队开发的工具α,β-crown在2021年国际神经网络验证大赛(vnn-comp)中获得总分第一名,以及5个单项第一名。此外张欢在2018-2020年间获得了ibm phd奖学金,并在2021年获得由mit-ibm watson ai lab评选的对抗机器学习新星奖(advml rising star award)。
个人主页:
https://www.huan-zhang.com/
如果你也想成为讲者
自荐 / 推荐
单人talk | 团队专场 | 录播or直播 | 闭门交流
多种方式任你选择!
推荐讲者成功也有奖励哦~
关于techbeat人工智能社区
techbeat(www.techbeat.net)隶属于将门创投,是一个荟聚全球华人ai精英的成长社区。
我们希望为ai人才打造更专业的服务和体验,加速并陪伴其学习成长。
期待这里可以成为你学习ai前沿知识的高地,分享自己最新工作的沃土,在ai进阶之路上的升级打怪的根据地!
更多详细介绍>>techbeat,一个荟聚全球华人ai精英的学习成长社区