活动 | 用AI的方式攻破AI:GeekPwn大赛40万悬赏语音合成「机械师」

摘要: 全球首个关注人工智能生活的安全极客大赛 GeekPwn 2017 正在招募全球极客。

11-18 09:04 首页 机器之心

今年七月,美国华盛顿大学的研究者们公开了一段利用人工智能以及数字图像合成技术为前美国总统奥巴马先生制作的「讲话视频」。



17 个小时的学习就可以让 AI 掌握足以乱真的人类面部细节,这又引起了不少人对未来可能出现的「AI 统治时代」进行担忧。


AI 可能会掉进黑客精心谋划的「骗局」


人工智能与黑客的过招,早在国内外有各种实践。当无人驾驶的汽车被施了障眼法,它还会在马路上安全行驶吗? 早在 2015 年,美国安全研究员 Jonathan Petit 发现,通过弱激光和脉冲发射器装置伪造一些实际并不存在的障碍物,可以对无人驾驶汽车进行干扰,使无人驾驶汽车不断躲避伪造障碍物而变得寸步难行。


率先关注到人工智能可能暴露出的诸多风险,GeekPwn 实验室在 2015 年底开始了 AI 对抗的研究,并广泛接触和招募 AI 领域的顶尖人才,很快,在 2016 年的 GeekPwn 美国站上,生成对抗网络 (GANs) 之父 Ian Goodfellow 就展示了「对抗性图像」在现实物理世界欺骗机器学习的效果。原始图像以 60% 的置信度判断为「熊猫」,但是加入了微小的干扰,在人眼完全看不出差别的情况下却以 99% 的执行度归为了长臂猿。

 

「GANs」之父 Ian Goodfellow 在 GeekPwn2016 硅谷站分享图像对抗欺骗


一些研究已经证实,大多数机器学习算法很容易受到干扰而做出错误判断,而这些不完善就可能成为黑客利用的漏洞。


2017 年,国际安全极客大赛 GeekPwn 设立了高达 500 万总奖金池,将人工智能列为全年的重点项目。在保留「无所不 PWN」的报名规则和比赛形式的基础上,GeekPwn 开设「人工智能安全挑战赛」专项。同时,增设场景赛「AI 仿声验声攻防赛」,以此鼓励全球顶尖 AI 黑客或 AI 相关领域的安全研究团队积极参与。


AI 对抗 AI 大战一触即发:「AI 仿声验声攻防赛」


2016 年,谷歌的 DeepMind 实验室曾发布一项利用卷积神经网络进行语音合成模型,让模拟生成的语音与人类声音之间的差异降低了 50% 以上。利用深度神经网络(DNN)合身的音频模型,也能够让声纹识别系统无法区分。

 



由此,GeekPwn 组委会以 40 万总奖金增设「AI 仿声验声攻防赛」,冠军团队奖金 20 万元。在这场 AI 的对抗中:


你和你的队伍需要自行开发一款应用或者系统,能够从目标人物的声音中学习语音特征并合成语音音频,攻击若干语音验证系统,突破或欺骗目标系统本身的用户身份鉴别功能。


简而言之,以 AI 技术合成的音频攻击使用语音鉴别进行用户登录的软件系统、带语音鉴别功能的 AI 产品。


AI 对抗 AI,是此次大赛的魅力所在。



AI 仿声验声攻防赛比赛规则


场景


参赛队伍从目标人物的声音中学习语音特征并合成音频,攻击若干语音验证系统,突破或欺骗目标系统本身的用户身份鉴别功能。


被攻击目标为使用语音鉴别进行用户登录的软件系统、带语音鉴别功能的智能产品等。


规则


1. 参赛队伍自行开发一款应用或系统,能够从目标人物的声音中学习语音特征并合成语音音频。

2. 主办方在赛前 2 周向参赛队伍提供目标人物的若干音频文件,参赛队伍依此进行调试。

3. 参赛队伍在比赛现场,对主办方指定的多款声纹识别软件及智能设备进行攻击。

4. 主办方指定若干段汉语文字、数字,参赛队伍合成汉语语音并尝试通过被攻击目标的验证。

5. 同一次验证可尝试 2 次,通过一次即可。2 次都不成功则记为失败。

6. 综合被攻击的多个目标的通过概率,辅以评委打分,以不同权重得出参赛队总分。

7. 根据各参赛队总分进行排名。


初赛将筛选 10 支最终比赛队伍,形式为提交主办方要求的音频文件进行测试。


时间地点


报名截止日期:2017/10/10


初赛:2017/10/17

决赛:2017/10/24


决赛地点:GeekPwn 2017 嘉年华上海站现场·上海喜马拉雅大观舞台


奖项设置


第一名:10 万 - 20 万 

第二名:5 万 - 10 万

第三名:2 万 - 5 万

优胜奖(多名):5000 元


  • 优秀技术团队有机会获得技术孵化投资


奖金幅度根据参赛队伍现场通过验证情况浮动


全球 AI 安全极客的英雄帖:「人工智能安全挑战赛」


除了 AI 仿声验声攻防赛,2017 年 GeekPwn 人工智能安全挑战赛还有 PWN AI(最高奖金 80 万)与 AI PWN(最高奖金 80 万)不命题部分。PWN AI 是将 AI 作为挑战对象,人工智能算法会因选手影响而做出错误判断。简单来说就是利用 AI 中存在的错误和不完善,「黑掉」它。而 AI PWN 则是将 AI 作为工具,选手利用 AI 技术实现对于指定目标的攻击,引导其犯错。简单来说就是让 AI 成为你攻击的助手。


10 月 24 日,上海·硅谷 GeekPwn 2017 嘉年华,人工智能与黑客,将触碰出怎样的火花?黑客,曾被视为人工智能的软肋,如今有机会成为保护人工智能的铠甲,那个人会是你吗?



AI安全微信公开课,扫码加入



可长按二维码了解更多比赛信息 ↓ ↓ ↓


报名参赛过程中有任何疑问,请发送邮件至:cfp@geekpwn.org


比赛信息详见 2017.GEEKPWN.ORG(点击阅读原文)


首页 - 机器之心 的更多文章: