五月的最后一期论文推荐，我们为大家介绍复旦大学和约翰霍普金斯大学的研究人员合作发表、关于人脸识别安全威胁的IEEE S&amp;P 2023论文 Understanding the (In)Security of Cross-side Face Verification Systems in Mobile Apps<img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697129212_3d81acc4.png" alt="" data-href="" style="">首先了解几个名词，第一个FVS指的是Face Verification System，顾名思义，和本周一推荐的论文中提到的VA也就是Voice Authentication系统类似。接下来第二个名词——XFVS，也就是cross-side FVS，指的是在本地收集人脸数据，然后上传至远程服务器验证的FVS系统。现实中的FVS可以分为三种类型，下图展示了这三种类型的差异，可以看到XFVS的特点是既有本地代码的参与，又有远程服务器的参与。<img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697136190_65520262.png" alt="" data-href="" style="">这种本地采集+远程验证的模型，很容易让人想起来NDSS 2018的论文 Broken Fingers: On the Usage of the Fingerprint API in Android 中提到的类似的安全威胁模型。我们可以把两篇论文中对安全威胁的描述进行比较（下面两幅图中，上方来自IEEE S&amp;P 2023论文，下方来自NDSS 2018论文），确实是蛮类似的，都假定移动智能终端会被攻击者控制，在此情形下的安全威胁与相关攻击。不同之处在于，本文认为当前Android生态里面对可信摄像头的支持不足，因此连可信环境都没法保证，在这样的威胁模型下来讨论XFVS的安全。<img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697144075_be101b20.png" alt="" data-href="" style=""><img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697149828_f0f3b992.png" alt="" data-href="" style="">本文的绝大部分内容，更多是在关注哪些APP使用了XFVS服务，以及系统应该满足什么安全要求来保护XFVS。首先作者调研了一下主流的APP，利用多种特征匹配，最后在4万多个APP中找到了2213个APP集成了XFVS服务（绝大部分使用了第三方的SDK）：<img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697157637_9d5037c5.png" alt="" data-href="" style=""><img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697166395_ec14c0ff.png" alt="" data-href="" style=""><img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697173676_e3082e1b.png" alt="" data-href="" style="">再接下来，作者剖析了常见的XFVS的工作流程（如下图所示），这里面关键的步骤包括人脸数据的收集（face collection）和活体检测（liveness detection），由于人脸数据收集和活体检测往往分成两部分进行，前者只要一张图片，而后者需要一段视频，这两步其实都容易被fake photo/video欺骗，在此前的很多研究工作中都有所讨论，本文其实不是很关注图片/视频欺骗，更多的是关注现有的APP是否有效保护了这些步骤。<img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697181787_2484a375.png" alt="" data-href="" style="">具体地，作者列出来了四个XFVS系统必须满足的安全属性：<ol style="text-align: start;"><li>APP运行环境是否安全可靠</li><li>摄像头数据是否可信（是否提供了可信的API供APP采集数据）</li><li>活体检测是否可靠</li><li>采集的数据和上传的数据是否能保持一致，不被篡改</li></ol><img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697188836_23ef3dd7.png" alt="" data-href="" style="">然而我们都知道，移动端本身是不可靠的，所以不管是XFVS还是其他类型的应用，想要满足这些安全属性都是非常困难的，下表列出的一些主流的使用XFVS的APP，基本上没有哪个能完全满足上述四个性质（没有可信计算组件，怎么满足~）<img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697200819_345a6aa5.png" alt="" data-href="" style="">于是，我们就可以有针对性地去攻击这些存在安全风险的XFVS系统，下面这幅图里面展示了四种攻击：AT 1. 如果APP只是在本地执行了活体检测，返回给服务器一个true or false的结果，攻击者可以直接篡改这个结果； AT 2. 如果XFVS的活体检测和人脸数据识别是独立的，攻击者可以随便找个真人来进行活体检测，但是把需要认证的人脸照片注入进去完成认证； AT 3. 如果XFVS的检查很严格，攻击者可以劫持系统的Camera API（甚至物理劫持摄像头），直接注入fake video； AT 4. 攻击者还可以篡改服务器下发给移动端的人脸识别模型，把它改掉，让识别结果容易控制。<img src="https://datacon-pro-public.oss-cn-shenzhen.aliyuncs.com/rich_text_image/1685697208958_fad9fe7c.png" alt="" data-href="" style="">人脸识别这个认证方式问题很多，但是在目前这种去办个事排队排半天的情况下，有时候也不得不牺牲一定的安全来提高效率。毕竟，这么多年了，我们还是要面对“证明我是我”的难题~<hr/><blockquote style="text-align: start;">论文：https://xhzhang.github.io/files/XFVSChecker-S&amp;P23.pdf</blockquote>

Understanding the (In)Security of Cross-side Face Verification Systems in Mobile Apps

五月的最后一期论文推荐，我们为大家介绍复旦大学和约翰霍普金斯大学的研究人员合作发表、关于人脸识别安全威胁的IEEE S&P 2023论文 Understanding the (In)Security of Cross-side Face Verification Systems in Mobile Apps

G.O.S.S.I.P 阅读推荐 2023-05-31 真假人脸

Understanding the (In)Security of Cross-side Face Verification Systems in Mobile Apps