任丘日报社主办
您的位置:首页>>法治>>正文

GeekPwn全球首创CAAD CTF 在DEF CON上演“矛盾”之战

2020-01-09 03:09:18 字号:

GeekPwn全球首创CAAD CTF 在DEF CON上演“矛盾”之战

 

本届,GeekPwn大赛聚焦于机器学习领域大热的对抗样本,突破性的全球首创以AI手段进行的安全攻防赛——CAAD CTF。来自世界各地的六支顶尖安全团队现场开战,经过激烈角逐,最终,清华大学TSAIL团队问鼎本届CAAD CTF大赛的冠军,NorthWestTSec、YYZZ团队分别获得二、三名,UCNESL、Blade Team以及JD-Omega团队获得优胜奖。

GeekPwn全球首创CAAD CTF 在DEF CON上演“矛盾”之战

 

聚焦机器学习对抗训练 全球首创AI对抗样本攻防赛CAAD CTF

CAAD对抗样本攻防赛是GeekPwn2018推出的全新挑战项目,聚焦人工智能领域潜在安全问题,旨在通过专业的技术比拼,选手在现场进行实时攻击与防守比赛,提前预演人工智能应用潜在的安全风险,保护人工智能健康成长。而CAAD CTF 作为GeekPwn拉斯维加斯站的邀请赛,在全球顶级黑客大会DEF CON现场进行,这对于两万多DEF CON参会者和GeekPwn选手们而言,都是一次全新的视听与难得的技术交流体验。

CAAD CTF比赛采用了六轮循环赛制,每个队伍在每一轮都会获得一个图像,这个图像属于某种分类。我们常见的AI识图,实际上就是AI将图像识别为某个类别。比赛要求每个队伍利用自己生成的能够欺骗神经网络的对抗样本去攻击其他团队的图像分类器,攻击要求是让不同团队的分类器识别成某类指定图像,这种攻击方式被命名为“定向对抗攻击”。赛前选手已经提交了各自的防御系统,他们在各自的分类器上进行了加固等防御措施,用来防守来自其他队伍对抗样本的攻击。

此次CAAD CTF便要求选手们针对“对抗样本”进行攻防竞赛,本是肉眼能分辨出来的 “航天飞机”,却被AI安全选手们“黑”了细节,被系统判定成“蘑菇”和“秒表”。

GeekPwn全球首创CAAD CTF 在DEF CON上演“矛盾”之战

     (肉眼看不出区别的两张图片,在 AI 眼里:左边的是蘑菇,右边的秒表)

短短两个多小时,所有团队累计发动的成功攻击次数超过百次。在所有团队已经进行了防御的基础上,依旧产生了如此多的成功攻击,这足以说明,一旦人们生活里出现对抗样本的应用,后果将不堪设想。而更加令人担忧的是,当前情况下,针对对抗样本攻击,依旧没有足够好的防御方法。

试想,如果犯罪分子利用对抗样本伪装成普通人,骗过强大的人脸识别系统;如果一辆自动驾驶汽车把一个人看成了一只猫;如果一段语音在正常人听来没有异样,却能命令人工智能助手进行转账、消费等行为……这些隐藏在智能生活里的人工智能安全隐患,未来很可能真的发生并成为社会新闻的头条。

世界级团队与AI顶级专家悉数亮相 GeekPwn助力推动AI健康发展

作为全球首个探索人工智能与专业安全的前沿平台,GeekPwn自2015年起率先开始关注AI安全的问题,通过不断推陈出新的创新竞赛形式,致力于长期推动安全生态健康发展。

本届CAAD CTF汇聚了来自京东、清华大学、康奈尔大学、耶鲁等科技企业、顶级高校的十二名选手参加。其中Blade Team和NorthWest Security都是多年耕耘在安全领域的资深团队,也曾不止一次参加GeekPwn。YYZZ和UCNESL的成员均为耶鲁、加州大学洛杉矶分校、康奈尔大学等美国名校的毕业生或在校生,其中不乏就职于IBM、谷歌、微软等世界顶级科技公司的研究人员。清华大学的TSAIL团队曾在NIPS 2017 的“非定向对抗攻击”、“定向对抗攻击”以及“对抗防御”三个比赛中均夺得冠军。来自京东安全团队 JD-Omega的两位成员虽然年纪不大,却已经频频在人工智能、安全领域等顶级会议上发表成果。

GeekPwn全球首创CAAD CTF 在DEF CON上演“矛盾”之战

 (本次参赛的六支战队)

除了激烈的AI攻防赛,GeekPwn比赛现场还有关于对抗攻防最新的研究演讲分享。来自多伦多大学的 Joey Bose 分享了针对脸部识别系统的对抗攻击,而伊利诺伊大学厄巴纳香槟分校李博博士重点从防御的角度探讨了如何躲避对抗环境下的攻击。此外,以议题分享为主的CAAD Village也在拉斯维加斯同期举行,来自全球的顶级AI安全专家围绕AI安全、对抗样本攻防等前沿安全话题带来了十个干货满满的议题分享。

值得一提的是,来自内华达大学DASL实验室的研究员在GeekPwn现场展示了他们根据GeekPwn“机器特工挑战赛”规则自制的机器人,外形原始的机器人完成了黑掉电脑的任务,为现场观众带来一场脑洞盛宴。正如GeekPwn发起创办人、KEEN公司 CEO王琦说的:“如果我们都能够利用自己的特长,未雨绸缪提前做一些事情,这将非常有意义。”

据悉,GeekPwn2018嘉年华将于2018 年10月24日-25日在上海举行。届时CAAD 对抗样本攻防赛、数据追踪挑战赛、黑客屋挑战赛、机器特工挑战赛、PWN FOR FUN趣味挑战赛、基于漏洞和非基于漏洞挑战赛轮番上演,更多黑客选手、脑洞大开的挑战项目,一起见证“人攻智能”。


相关阅读:
中国福利彩 www.50ae.cn