“简单”的对抗攻击

近年来，以深度学习为核心的人工智能技术发展迅速，视觉识别技术最为大众所熟知，应用也最为广泛。无论是互联网大公司、传统安防公司以及新兴的人工智能技术公司都在这一领域大举投入。

而其中的人脸识别技术在智能手机上更已经是标配，今天的我们刷脸解锁、刷脸支付就像吃饭喝水一样自然。虽然手机厂商往往会在发布手机的时候宣称「破解人脸识别的几率低至百万分之一」，但双胞胎解锁对方手机的事情仍然偶尔会上新闻。

来自清华的 RealAI（瑞莱智慧）向我们展示了一项更为简单的攻击技术。在一副眼镜的攻击下，19款国产智能手机，不管是低端机，还是售价4000以上的高端手机，全都是秒级解锁。

测试者只需佩戴一副含有对抗样本图案的眼镜就可以，而制作这副眼镜的成本就是借用一台打印机和一张A4纸。

最终，除了一台 iPhone11，其余安卓机型全部解锁成功，完成整个破解过程只花了15分钟。攻击测试人员成功解锁手机后，任意翻阅机主的微信、信息、照片等个人隐私信息，甚至还可以通过手机银行等个人应用APP的线上身份认证完成开户。

为了进一步验证，随后清华大学的研究机构又重新测试，将不同的人、不同的国产手机、不同的主人，都重新做了测试。几乎所有的测试，国产手机都是破解无压力！包括手机里的图片、视频、APP应用、甚至手机银行，全都能自由使用！

其实，对抗攻击技术算不上新颖。2019年8月份，AI算法就在现实世界中首次实现攻击。来自莫斯科国立大学、华为研究者们曾发布，在脑门上贴一张对抗样本图案，能让公开的 Face ID系统识别出错。

去年7月，微软旷视开发了一套算法，只在照片上做了小改动，就有如穿上“隐身衣”，导致人脸识别系统无法破解。但这些攻击，仅仅只是让识别系统识别不出目标，并没有完成破解。

如今，RealAI团队真正实现了破解过程，且整个操作时长不到15分钟，这证实了对抗样本攻击在现实生活中能够带来安全威胁。这一漏洞涉及所有搭载人脸识别功能的应用和设备，一旦被黑客利用，隐私安全与财产安全都将受到威胁。

被“滥用”的人脸识别

人脸识别，最初在机场、高铁站以及酒店等场景使用这项技术对个人身份进行验证，随后商业银行也开始采用人脸识别实现远程开户。再之后，刷脸支付、刷脸门禁也相继出现，人脸识别逐渐从少数有限场景渗透到人们的日常生活之中。而今年以来新冠疫情，使得人脸识别的应用加速发展起来。

不可否认，人脸识别系统，在某一些方面确实很便利，如今人们大概已经对商场、办公楼等场所入口处的测温设备更是习以为常。这类设备融合了人脸检测与红外测温技术，能够实现“非接触式测温”，在疫情防控中被广泛铺开。

而人脸识别带来便利的同时，随之而来的是它的“滥用”。睁眼的也采集，闭眼的瞬间也采集。个人信息安全层面和人脸识别技术在某些场景的应用侵犯个人隐私的情况都值得大家警惕起来。

比如，在没有任何告知的情况下，直接就“人脸识别”掌握我们的隐私信息时。甚至，就连路边一个小小的火锅店、餐厅也能随便安装几十个、上百个摄像头，正大光明地拍照、记录人们的信息。

一项万人参与的调查显示，有超过六成以上的受访者认为人脸识别技术存在滥用趋势。其中，在交通安检、实名登记、开户销户、支付转账和门禁考勤等场景中存在突出的“强制使用”问题。甚至你戴口罩也没用，现在的人脸识别技术已经先进到即使你戴着口罩，也能轻易识别的夸张地步。

如果，随便来一个人都能使用人脸识别，对你随便摄像。那我们这些路人在人脸识别的控制之下，人人都成为了“皇帝的新衣”。然而可怕的是，谁掌握了你的脸，谁就掌握了你的身份标识。

现在很多场合过分强调这项技术的便利性，却对人脸数据泄露可能产生的后果考虑不足。比如人脸原始信息是否会被收集方保留以及会被如何处理？还有数据收集方采取何种技术和管理措施来保证收集的人脸信息安全，以及人脸信息目前被应用在什么场景，是否变更了使用目的等问题，目前也都没有相关的法律法规进行规范。

虽然一些技术较为领先的公司会提取面部的特征值来替代原始照片，这些特征值是匿名性数据，经过加密处理后即使被泄露也无法重新定位至某个具体的人。采用这种方式虽然能够在一定程度上对个人信息进行保护。但现实情况是，当大公司们将深度学习算法框架开源之后，人脸识别技术的门槛已经大大降低。很多技术实力一般的公司通过开源平台拥有了算法能力，但在数据的收集和存储环节却无法保证同样的安全性。这些公司的做法往往是直接收集和存储原始的面部信息。

期望更安全、更可靠

有人问你要银行卡密码，你肯定特别警惕。但如果要人脸信息，好像很多人就觉得没什么，但实际这两者在很多情况下是一样的。人脸识别与个人隐私、个人身份、个人财产等等因素都息息相关，这个口子一旦被撕开，就可能会失控，这是大家都不想看到的。

在人脸识别技术的可靠程度方面，信息安全的本质是攻防，AI安全领域也是如此。科学家们通过不断开展新的攻击尝试来试探对抗样本攻击的能力边界。但人脸识别技术引发的担忧远不止于此，除了技术侧的解决方案之外，最终填补漏洞还需要依赖社会对于人工智能安全问题的意识提升。

人脸识别在国内快速且广泛的应用，背后既有政府部门对于维护公共安全的诉求，也有商业机构应用新技术提效降本的需求，更有人工智能技术公司寻求业务增长的冲动。我国目前虽然没有出台专门针对人脸识别技术的法律规范，但《民法典》已规定，采集个人信息，必须符合必要性、合法性、正当性三原则，同时要征得信息主体的明确同意。

关于“人脸识别”的未来，我们期望可以看到有更具体明确的法律法规来进行规范。期望官方严格把控人脸识别设备生产、使用门槛等条件。在人脸识别遍地开花的社会，我们至少应该拥有选择的权利，去选择使用或者不使用，去选择如何使用。

也期望有更可靠安全的识别技术被大家所熟知和应用，毕竟我们一直在用智慧和进步证明着科技改变生活这句话，不是吗？

人工智能是柄双刃剑，只有合理利用，趋利避害，才能更好地促进行业发展。专注于人工智能领域的钛灵AI算法市场已于2020年5月18日上线，至今已经有超过58家AI算法企业合作入驻，累计提供算法种类超过1000种，让千行百业的客户可以快速、放心、安心得获得和使用各种智能算法。