OD体育官网登录入口-全国闪式提取器多级闪蒸器厂家直销
当前位置: 首页 > od体育官方下载 > 多级闪蒸器
给照片穿上“隐身衣”最强人脸识别算法也失灵!业界推出最新AI工具Fawkes帮你保护照片隐私数据
作者:多级闪蒸器 发布时间:2024-11-23 12:22:00

  一张照就能够识别出姓名、联系方式、家庭住址,这对于面部识别技术来说,可能已不是什么难事儿。换句话说,只要可以获取到照片数据,面部识别技术就能轻松获取个人敏感信息。

  如今,我们在社会化媒体上的大量曝光,获取这些照片数据也变得很容易。此前,美国面部识别公司便创建了一个约有30 亿张图像的超大容量人脸数据库,而这一些数据均从Facebook,Venmo,YouTube 等社会化媒体平台抓取而来。

  无处不在的面部识别技术和没有经过授权的数据获取已经对个人隐私造成了严重威胁。面对这些威胁,芝加哥大学Sand Lab团队提出了一种新的解决思路——或许我们大家可以为照片添加一层“隐身衣”!

  来自芝加哥的调查团队称。Fawkes的正是为照片添加防识别“隐身衣”的AI软件,经检测,它已经在最先进的面部识别技术中取得了百分百的胜利。

  相信你很难看出两组照片有任何差别。事实上,后者已经过了Fawkes处理,并能够屏蔽任何人脸识别算法。

  研究人员介绍,Fawkes软件对人脸图像进行了像素级的细微更改,肉眼几乎没办法察觉到。而任何扫描这些图像的算法都会将这些“高度失真”的图片视为完全不同的人。

  如此说来,经过Fawks快速处理的图像,可以在不改变原貌的基础上,随意分享在各大社会化媒体平台,而不需要过多的担心照片被相关公司随意抓取或用于非法途径。

  据了解,Fawkes的命名取自Guy Fawkes Mask(盖伊·福斯克面具)。该面具形象是英国插图画家大卫·劳埃德(David Lloyd)以16世纪英国阴谋家盖伊·福克斯的脸为原型而创造。最早出现在漫画《V 字仇杀队》中。研究人员以此表示,通过AI技术巧妙地,不可察觉地更改照片以欺骗面部识别系统。

  研究团队表示,他们盼望Fawkes能够被广泛部署和使用,以降低个人隐私泄露的风险。因此,Fawkes已经完全对外开放,任何人都可以下载和使用,Windows和Macs系统均能支持。据统计,这款软件已经被下载超过100,000次。

  目前Fawkes软件已经升级到V0.3版本。V0.3更新了目标选择算法,比此前的V0.1、V0.2相比,可显着降低伪装后摄动伪像的可能性。目前,关于它的技术论文已经对外开放。据了解,该论文将在8月12日至14日举行的USENIX安全研讨会上正式发表。

  •不管(Tracker)如何训练其模型,图像伪装都可为用户识别提供95%以上的保护。

  对于以上的研究发现,论文中也给出了明确的说明。我们大家可以看到,整个系统分为用户图像和模型验证两个阶段。

  前者是基于Fawkes算法来生成用户图像的伪装版本,后者是通过追踪器(Tracker)从网络资源中检索伪装的图像,并使用它们来训练未经授权的面部识别模型。最终可以发现模型输出的图像与原始图像并不相同。

  其中,Fawkes算法整个系统的关键。在这里,研究人员利用特征提取器Φ和目标图像T,对原始图像进行伪装处理,这些目标图像T均来自可公开获得的数据集(均大于500K)。

  为了确保伪装图像在视觉上与原始图像基本相似,研究人员采用DSSIM来衡量二者的差异,实验结果表示,DSSIM均小于0.007。(DSSIM是衡量用户感知图像失真程度的方法)。

  此外,研究人员认为,通过提高用户特征提取器的鲁棒性来实现可移植性。这一目标需要通过对抗训练来完成。该训练采用扰动数据训练模型,可以使输入的目标图像不那么敏感。具体来说,对于每个特征提取器,使用PGD攻击(一种广泛用于对抗训练的方法)来生成对抗示例,然后将更新后的特征提取器用于在PubFig和FaceScrub数据集上生成用户伪装图像。

  结果表明,每个健壮的特征提取器都会产生隐身衣(Cloaks),而且这些隐身衣几乎可以完美地转移到的模型中。能够正常的看到,使用其他特征提取器时,其隐身衣的保护成功率均大于 95%。

  这些是面部识别系统是全球最领先技术,被大范围的使用在美国和亚洲的企业,警察,私人实体以及政府。结果来看,Fawkes对图像的保护率达到了100%。