化解谷歌AI霸权的另一种思路?开发平台的生态围剿。

美国防部研发出了全球首款“反AI变脸刑侦检测工具”,专用于检测AI变脸/换脸造假技术。如今,以GAN为代表的AI换脸术盛行,相应的人脸检测识别技术也不得不提升,这仅仅是一场漫长而又精彩的AI军备竞赛的开始。昨天,新智元介绍南加州大学“杀马特教授”黎颢率领的Pinscreen团队的实时3D变脸技术后,引发了不少读者的担忧。黎颢团队的实时变脸技术:左边是iPhone拍摄的图像,右边是实时生成的3D人脸。

来源:fxguide.com有人担心,支付宝的人脸识别技术会因此失效,或者衍生出新的诈骗方法,犯罪者利用你的图片冒充你跟另一个人聊天……这些担忧都是切实存在的,因为如今的“AI变脸术”,已经达到出神入化的境界,任何人利用AI软件,几乎都能做到模仿政治人物的脸,要是有一定技术的人,还能做到真假难辨的程度:这些AI变脸工具,实际上都源自于生成对抗网络(GAN)强大的图像生成能力。不过,现在美国国防部研究机构DAPRA研发出了首款“反变脸”的AI刑侦检测工具,而其原理,也是以AI攻AI。这款AI反变脸刑侦工具是DARPAMediaForensics计划的一部分。早在今年5月,DARPA便提出了要研发针对AI变脸技术的需求,让现有的刑侦检测工具变得自动化,能够检测近来涌现的AI假脸。DARPAMediaForensics项目负责人MatthewTurek表示,他们在GAN生成的假脸中发现了一些细微的线索,由此检测出图像或视频中的脸是真实的还是AI生成的。还记得2016年,“3.15晚会”让一张照片“骗过”人脸识别软件,从而让“人脸识别”一夜走红大江南北。

如今,更加高级的AI变脸技术和侦测AI变脸技术,也将展开一场长期艰苦,但也精彩卓绝的AI军备竞赛。在2016年“3·15”晚会现场,主持人使用了一项AI技术,把静态的照片转化成动态照片,从而骗过登录系统。这一技术在手机上就能实现就看谁能走得更好更快。美国防部研发出首款“反AI变脸”刑侦工具:准确率高达99%DARPA的这款工具主要是基于纽约州立大学奥尔巴尼分校教授SiweiLyu和他的学生YuezunLi和Ming-ChingChang的共同发现,也即使用AI技术生成的假脸(一般通称DeepFake),极少甚至不会眨眼,因为它们都是使用睁眼的照片进行训练的。“由于大多数训练数据集都不包含闭眼的人脸图像,因此AI生成的人脸缺乏眨眼功能,”Lyu说:“因此,缺少眨眼是判断一个视频真假的好方法。”论文详细介绍了他们如何组合两个神经网络,从而更有效地揭露哪些视频是AI合成的。

这些视频往往忽略了“自发的、无意识的生理活动,例如呼吸、脉搏和眼球运动”。通过有效地预测眼睛的状态,准确率达到99%。“我们还需要探索其他深度神经网络架构,以便更有效地检测闭眼,“Lyu补充说:“我们目前的方法仅使用缺乏眨眼作为检测AI篡改的提示。然而,也应考虑动态的眨眼模式——太快或频繁眨眼,这种在生理上不太可能出现的现象也应该被视为篡改的迹象。”UAlbany的一组研究人员使用原始视频上的眨眼检测(上图)和DeepFake生成的假视频(下图)来确定视频是否是AI伪造的。在原始视频中,在6秒内检测到眨眼动作。

来源:UAlbany.edu参与DARPA挑战赛的其他人也在探索类似的技巧,比如自动检测奇怪的头部动作、奇怪的眼睛颜色等等。达特茅斯大学的数字取证专家HanyFarid表示,目前的AI反变脸工具主要利用利用这类生理信号,至少目前为止这些信号是很难被模仿的。这些AI刑侦取证工具的带来仅仅标志着AI视频伪造者和数字刑侦人员之间AI军备竞赛的开始。