📢 转载信息
原文链接：https://www.wired.com/story/when-face-recognition-doesnt-know-your-face-is-a-face/
原文作者：Matt Burgess
人脸识别的“盲点”：当系统无法识别你的面孔
Autumn Gardiner原以为更新驾照的手续会很顺利。去年结婚后，她前往康涅狄格州的机动车辆管理局（DMV）办理姓名更改。然而，当工作人员试图为她拍摄照片时，系统却一直拒绝。
Gardiner是全球少数患有弗里曼-谢尔登综合征（Freeman-Sheldon syndrome）的人之一。这种遗传病会影响面部和头骨周围的肌肉，可能导致嘴巴过小。随着越来越多的工作人员前来帮忙，Gardiner开始觉得照片被拒是由于她的面部差异造成的。“这很令人难堪和奇怪。这个机器在告诉我，我没有一张人类的面孔，”她说。
Gardiner的经历并非个例。大约有六名患有从胎记到颅面疾病等各种面部差异的人士告诉WIRED，随着以机器学习为驱动的身份验证软件迅速普及，他们越来越难以融入现代生活。
一些患有面部差异的人士表示，他们一生中经历过多次手术和歧视，而现在，他们不得不与之互动的技术也重现了这些困境。他们称，由于人脸验证服务失败，他们无法获得公共服务，也有人在使用金融服务时遇到困难。手机上的社交媒体滤镜和面部解锁系统也常常无法使用。
“面部差异群体总是被忽视，”Face Equality International (FEI) 的首席执行官Phyllida Swift说。FEI是一个代表其他面部差异和毁容慈善机构的伞形组织。FEI估计，全球有超过1亿人患有面部畸形。根据FEI的研究，有面部差异的人们在机场护照闸机、照片应用、社交媒体视频滤镜、视频通话背景虚化等方面都遇到了问题。“在许多国家，人脸识别越来越多地融入日常生活，但这项技术正在辜负我们的群体，”FEI赞助人Nikki Lilly在三月份的一次联合国会议上表示。
拒绝访问：数字时代的障碍
从手机到酒店房间，你的脸越来越多地充当数字钥匙。过去十年，机器学习和人工智能的快速发展催生了各种人脸识别技术，这意味着你的外貌比以往任何时候都更容易被用作数字身份标识。警方广泛部署了人脸识别系统，但这些系统经常被发现不准确，并且对亚裔和黑人存在偏见。在更广泛的身份核查领域，政府服务、反欺诈系统和金融机构都使用人工智能进行身份验证。最近，社交媒体和色情网站也开始采用人脸扫描作为年龄验证措施。
这些“身份验证”的人脸检查有多种形式。系统会自动比对自拍照片与现有身份证件；“活体检测”可能要求你拍摄一段短视频，以证明你是真实的人，而不是持打印照片的欺诈者。从广义上讲，这些生物识别系统通常会测量你的面部特征——比如眼睛之间的距离或下巴的大小——来创建“面部指纹”。虽然这些监控技术对许多人可能有效，但它们可能无法识别面部有差异的人。例如，底层机器学习技术可能没有在包含多样化面孔的数据集上进行训练。
Greta Byrum是技术咨询公司Present Moment Enterprises的创始人，该公司专注于技术系统的社会影响，并曾为FEI提供义务工作。她说：“Face Equality International所代表的拥有不同面孔的人的情况，是这些系统出现问题时可能出错的一个非常重要的警示信号。”Byrum表示，“我们看到人脸识别技术正成为那种将所有东西都视为钉子的‘锤子’。”
“我希望人们能意识到，并非所有人的长相都一样，从基本的肤色到面部特征和标准面貌，”Crystal Hodges说。她是一位演讲者和作家，患有Sturge-Weber综合征，脸上有一大片紫色的“葡萄酒色斑”。“人们的面部对称性可能不同。其他人拥有你并不总是在日常生活中看到的独特面部特征，但它们是存在的。”
居住在亚利桑那州的Hodges说，去年她和丈夫试图从一家大型信用报告机构获取信用分数时，其人脸验证服务对她不起作用。“我试了五到八次，”她说。到了冬天，Hodges的面部胎记会变深。“我们在尝试不同的环形灯，尝试更柔和的光线，但它就是不接受。我丈夫留着胡子，却接受了他的。”Hodges说，她最近再次尝试了同一个系统，这次成功了，但她仍然没有拿到信用分数。
“如果你在开发这些流程时没有纳入残障人士或面部有差异的人，那么就不会有人考虑这些问题，”俄勒冈州立大学心理学教授Kathleen Bogart说，她专门研究残疾研究，并且自己也有面部差异。“人工智能放大了这些问题，但其根源在于在人工智能出现之前就已经存在的，对有面部差异的人长期存在的代表性不足和偏见。”
为时已晚的补救措施
当人脸验证系统出现故障时，往往很难获得帮助，这给本已紧张的处境增加了压力。马里兰州居民Noor Al-Khaled已经为创建美国社会保障管理局（SSA）的在线账户而苦苦挣扎了几个月。Al-Khaled患有罕见的颅面疾病Ablepheron Macrostomia，她表示，拥有在线账户可以让她轻松访问SSA记录并快速向该机构发送文件。
“因为视力问题我不能开车，我本应能依赖这个网站，”Al-Khaled说。“你必须自拍，而且照片必须匹配。由于面部差异，我不知道是不是证件照片不被识别，还是自拍不被识别，但它总说照片不匹配。”无法获得访问权限让生活更加困难。“从情感上讲，这让我感觉被社会排斥在外，”她解释道。Al-Khaled认为所有服务都应为人们访问在线系统提供替代方式。“Byrum说，‘缺乏其他备用选项意味着人们有时会被困在这些技术系统的迷宫中。’”
SSA发言人表示，人脸验证之外还有其他备用选项，并且该机构“致力于”使其服务对每个人都可访问。发言人表示，该机构本身不运行人脸识别系统，而是使用Login.gov和ID.me进行验证服务。管理Login.gov的美国总务管理局（GSA）未回应WIRED的置评请求。ID.me发言人表示，“可访问性是ID.me的核心优先事项”，并补充说，该公司过去曾帮助过有面部差异的人，并在WIRED与其联系后，主动提出直接帮助Al-Khaled。
“没有什么比被机器告知你因为你的长相而不真实更令人感到不人道的了，”纽约的演员兼励志演说家Corey R. Taylor说，他患有颅面畸形。去年，Taylor说他使用一个金融应用程序取少量资金时，在完成支付流程时发现人脸验证系统无法将他的自拍照与身份证上的照片匹配。为了让系统工作，他不得不改变姿势。“我不得不抬高眼睛，扭曲我的脸，”Taylor说。当他给公司发邮件时，他收到的似乎是一份标准回复。
“我们主张的一件主要事情就是提供替代方法，”FEI政策和教育主管Hannah Saunders说。“在技术方面可能有一个长期的修复方法，但目前，我们最关心的是人们能够申请工作、获取资金、能够和家人一起通过护照检查，并且与这些系统打交道时不会像现在这样充满压力。”
Swift表示，FEI曾多次被企业接洽，希望共同解决这些问题，但尚未达成任何正式安排。Swift说，FEI希望制定“适当的系统和保障措施”来保护其成员。此外，Swift补充道，“我们感觉到这对（科技公司）来说优先级很低，因此进展似乎很缓慢。”
然而，问题不仅限于新兴技术。WIRED采访的许多人都解释说，他们经常在网上遭受基于外貌的欺凌，而互联网向TikTok和Instagram Reels等短视频内容的广泛转向让他们感到孤立。“这么长时间以来，互联网一直是我的避风港，”Al-Khaled说。“我在网上找到了我的家和慰藉，因为这是我唯一能遇到人并真正做自己的地方，而不会被人盯着看或评头论足。” Hodges说，有人曾对她评论说，她竟然敢出门。她说：“我现在觉得这转变成了：‘我真不敢相信你敢出门，我也不敢相信你敢上网。’”
在康涅狄格州的DMV，Gardiner说工作人员最终能够手动覆盖摄影系统，尽管在这个过程中她向他们解释了自己的面部差异。她当天拿到了临时驾照，正式驾照后来邮寄到了。“我在我的脸上经历了很多糟糕的事情，但在我离开后，我哭了，”Gardiner回忆道。“这有点像一种提醒，是的，我与众不同，我不合群。”
离开后，Gardiner将她的经历告诉了一位她认识的州代表，并分享了相关信息。据称，这位官员联系了当地的DMV专员，讨论了这个问题以及员工培训事宜。
DMV CT发言人表示：“虽然我们坚持严格的准则以确保照片合规性，但我们的员工以同理心对待他们的工作，确保他们理解并满足服务对象的需要。我们希望我们的居民能与DMV进行专业的互动。”Idemia（为DMV提供技术的公司）的发言人表示，他们定期为员工提供培训，并且其算法在外部评估中排名很高。
Gardiner说，虽然最终的反应是积极的，但她也听说过有面部差异的人在其他州的DMV遇到问题。“我真的很想推动制定更好的协议：当人工智能不起作用时，人类该怎么做？”她说。但随着人脸识别系统被广泛使用，这个问题似乎难以解决。“那次DMV的经历之后，我不得不去办理护照，”Gardiner说，“结果我的护照照片也遇到了同样的问题。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
青云聚合API官网https://api.qingyuntop.top
支持全球最新300+模型：https://api.qingyuntop.top/pricing
详细的调用教程及文档：https://api.qingyuntop.top/about
评论区