您当前的位置:首页 > 新闻 > 科技

欧盟如何监管人脸识别技术?

时间:2022-04-08 14:04:57  来源:  作者:海国图智研究院

摘要

面部识别技术在欧盟面临强监管态势。现阶段欧盟人工智能法规草案中,部分应用领域如执法部门的面部识别技术被列入高风险人工智能系统,或面临最强监管即完全禁止。更重要的是,欧盟正在努力通过制定数字时代的技术标准来重新确立自己全球技术领导者的地位。在面部识别技术上找到适当的监管平衡不仅是降低此类技术风险的关键,而且对于欧盟树立其数字时代全球领导者的地位也至关重要。

欧盟如何监管人脸识别技术?

 

Image Source / 图源:Panda Security

https://www.pandasecurity.com/en/mediacenter/security/facial-recognition-software/

在过去的两年里,总部位于美国的面部识别公司 Clearview AI 在其收集和处理个人数据方面面临了欧盟各国的审查。2021 年 11 月,英国独立数据隐私机构因该公司违反该国的数据保护法,对其处以超过 2200 万美元的罚款。2021 年 12 月,法国数据保护机构 CNIL要求 Clearview 在两个月中从其数据库中删除所有法国面孔。2022 年 2 月,Clearview 被意大利处罚2000 万欧元,并被要求停止收集数据,从其数据库中删除所有意大利人民的人脸图像数据,并设立公司代表与欧盟相关部门保持联络。自 2018 年以来,欧盟内部的数据收集和处理都因欧盟通用数据保护条例而受到了更多限制。面部识别对隐私和监控问题所带来的挑战已成为欧盟立法者讨论的焦点。同时,欧盟设立新AI法规的举措也将辅助欧盟建立其在制定全球面部技术技术标准方面的领导地位。

 

一、欧盟对面部识别技术的强监督

近年来,面部识别技术在全球兴起:2018 年,全球面部识别市场价值约39.7 亿美元,并可能在 2025 年可能增长到 101.5 亿美元。随着面部识别技术的发展,欧盟旨在控制面部识别的潜在负面影响。 2020 年 2 月,欧盟委员会发布了人工智能白皮书,其中强调了在欧盟部署面部识别技术的保障措施的必要性。欧盟人工智能高级别专家组指出,欧盟需要定义何时以及如何允许人工智能自动识别个人生物信息。

在此背景下,欧盟委员会于 2021 年 4 月发布了人工智能法规草案。该草案提出了一种基于风险等级的方法来制定人工智能系统的监管制度。可能对基本权利造成不利影响的“高风险”人工智能系统将面临更加严格的限制。在该草案中,远程生物特征识别系统类别的面部识别技术的监管将根据其应用领域而改变。其中,一个关键的政策问题是对于高风险和低风险生物识别系统的区分。例如,目前的条款大多都偏向于针对实时面部识别技术的部署。然而,研究人员指出,面部识别技术的“实时”和“后期”使用之间的差别可能没有想象中的大:人工智能技术的非实时使用也可能会给基本权利带来同样的风险。

此外,部分议员和民权组织认为目前的草案对面部识别的监管过于宽松。目前,该草案禁止在可公开访问的执法空间中实时使用面部识别。然而,一个由 40 名欧洲议会成员组成的跨党派团体指出,目前的框架未能禁止生物识别大规模监视。同时,多个隐私权倡导组织指出,当前的提案只关注执法部门,却忽视了其他政府机构和私人企业使用面部识别技术的威胁。

2021 年 10 月,欧洲议会通过了一项不具约束力的决议,支持禁止执法部门公开使用面部识别以及创建私人面部识别数据库——例如由 Clearview AI 创建的数据库。虽然不具约束力的决议不会影响当前的草案,但欧洲议会表示出了欧盟将对面部识别技术更强硬的立场。目前的提案草案将继续在欧盟层面进行辩论和审查,并可能需要数年才能通过。

 

二、强监管的动机

面部识别的技术风险

欧盟关于监管面部识别技术的辩论主要由两个原因被推动:1)对该技术固有风险的担忧;2)欧盟寻求领导全球技术标准的制定。首先,鉴于面部识别技术的普及,人为控制难以实现。敏感信息可能会在未经同意的情况下被收集和使用,这些信息可能会被滥用而造成更大的伤害。此外,根据《欧盟基本权利宪章》第 7 条和第 8 条,面部识别技术可能会侵犯个人数据保护权和私人生活权。此外,算法决策系统中的歧视和偏见也是众所周知的问题。接受过有偏见数据训练的面部识别技术可能会延续现有的社会偏见,使弱势群体(如种族群体)处于不利地位。当该技术被执法部门部署时,这些问题会进一步加剧。最后,大规模监控的潜在威胁是面部识别技术的一个关键问题。在欧盟,在公共场所使用生物识别系统正日益成为常态。在这一点上,如果面部识别技术超出当前授权使用范围,该技术可能会导致大规模监视和匿名性完全的丧失。

全球领导力以及平衡问题

除了面部识别技术的固有风险之外,欧盟还指出了其全球标准制定领导地位的首要问题。3 月 22 日,欧洲议会数字时代人工智能特别委员会 (AIDA) 通过了其最终建议。通过的文本警告说,欧盟正在落后于全球技术领导力竞赛,必须采取行动成为“人工智能的全球标准制定者”。欧洲议员 Axel Voss 表示,欧盟有“独特的机会来促进基于基本权利的以人为本和值得信赖的人工智能方法。”AIDA 委员会主席 Dragos Tudorache 也表达了同样的观点,指出欧盟的未来全球竞争力将取决于欧盟当前的监管框架和举措。

此外,该文本指出了监管人工智能面部识别技术的一个关键政策问题:法律框架必须为创新和技术利益留出空间。欧洲议会议员一致认为,欧盟的人工智能法案应侧重于该技术在提高整体生活质量方面的巨大潜力。在这方面,欧盟正在寻求的方法必须在监管程度和人工智能系统的风险水平之间建立适当的平衡。针对面部识别,委员会主席 Tudorache 表示,彻底禁止不会是最终解决方案。面部识别监管需要取得适当的平衡,以确保该技术可以在危急情况下(例如恐怖袭击)使用而不会导致大规模监视。展望未来,面部识别技术问题将继续作为人工智能法规草案的核心问题,成为其进展的关键挑战。

 

三、余论和总结

现阶段欧盟人工智能法规草案中,部分应用领域如执法部门的面部识别技术被列入高风险人工智能系统,或面临最强监管即完全禁止。更重要的是,欧盟正在努力通过制定数字时代的技术标准来重新确立自己全球技术领导者的地位。在这方面,欧盟正在寻求适当的平衡,让面部识别技术在不侵犯个人权利和避免建立大规模监控的情况下造福公民社会,为欧盟在数字时代的竞争力保驾护航。

原文标题:

欧盟面部识别技术强监管:基本人权与技术利益的平衡

本文作者:

吴世樱

本文选自《人工智能资讯周报》第168期,转载请注明出处



Tags:人脸识别   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
摘要面部识别技术在欧盟面临强监管态势。现阶段欧盟人工智能法规草案中,部分应用领域如执法部门的面部识别技术被列入高风险人工智能系统,或面临最强监管即完全禁止。更重要的...【详细内容】
2022-04-08  Tags: 人脸识别  点击:(0)  评论:(0)  加入收藏
身为奥运宝宝的大宝,可以说赶上了好时机。自他上学起,各类新奇的儿童数码产品接踵而至,在小盘友眼里的神器,好多他都竞相玩过,儿童电话手表更是换了不下7块。但大宝上初中以后,我...【详细内容】
2022-03-25  Tags: 人脸识别  点击:(16)  评论:(0)  加入收藏
据路透社及美国CNN网站等多家媒体2日报道,美国社交媒体平台脸书(Facebook)周二(2日)宣布将关闭其面部识别系统,该系统可自动识别照片和视频中的用户,理由是社会对使用此类技术的担...【详细内容】
2021-11-03  Tags: 人脸识别  点击:(88)  评论:(0)  加入收藏
到底是选指纹解锁还是选人脸识别解锁?这两个哪一种体验方式更好?很多人在购买智能锁都比较纠结。今天给大家说说我的观点。人脸识别解锁近两年的很火热。很多人认为开锁不需...【详细内容】
2021-08-10  Tags: 人脸识别  点击:(389)  评论:(0)  加入收藏
不少软件在进行身份安全认证时,人脸识别都是必不可少的重要一环。但你真的以为,人脸识别就只是拍“脸”吗?近日,数码博主@长安数码君在社交平台爆料称:人脸识别时采集到的区域不...【详细内容】
2021-07-12  Tags: 人脸识别  点击:(136)  评论:(0)  加入收藏
随着科技的不断发展,我们的生活变得越来越便捷,但在我们享受科技之光的同时,许多问题也接踵而至。如 5G 时代中“人脸识别”的应用愈发广泛,支付宝等支付平台相继推出人脸识别...【详细内容】
2021-07-04  Tags: 人脸识别  点击:(173)  评论:(0)  加入收藏
前言是不是觉得不可思议,js已经强大到这个地步? 是的,js日新月异,它在不断的进步。只要稍不留神,那我们都只能望尘莫及了。今天我们就来看看是什么js插件可以如此厉害?人脸识别Jav...【详细内容】
2021-03-08  Tags: 人脸识别  点击:(254)  评论:(0)  加入收藏
人脸识别技术是根据人的脸部特征信息加以身份识别的一种先进识别技术。因其无感性、便利性和准确性而广泛应用,不过近年来也引发一些法律问题,法律如何加以妥当规制值得深入研...【详细内容】
2021-02-04  Tags: 人脸识别  点击:(128)  评论:(0)  加入收藏
近年来,基于深度学习的人脸识别技术取得了重要进展。但是人脸识别模型的实际部署和深入研究都需要相应的公众支持。例如生产级人脸表示网络需要模块化的训练机制,以配合不同 SOTA 骨干网络、训练监督主题再到现实世界人...【详细内容】
2021-01-26  Tags: 人脸识别  点击:(233)  评论:(0)  加入收藏
Face Recognition 使用的是 C++ 开源库 dlib 通过深度学习模型构建的先进人脸识别系统,可通过 Python 接口或命令行工具对图片中的人脸进行识别。在 Labeled Faces in the W...【详细内容】
2021-01-07  Tags: 人脸识别  点击:(164)  评论:(0)  加入收藏
▌简易百科推荐
摘要面部识别技术在欧盟面临强监管态势。现阶段欧盟人工智能法规草案中,部分应用领域如执法部门的面部识别技术被列入高风险人工智能系统,或面临最强监管即完全禁止。更重要的...【详细内容】
2022-04-08  海国图智研究院    Tags:人脸识别   点击:(0)  评论:(0)  加入收藏
近日,有不少网友发现,淘宝账号(会员)名修改功能悄然更新,入口位于我的淘宝>设置>账号与安全>淘宝账号,改后即时生效,网友期盼已久的淘宝改名愿望终于实现。记者了解到,目前淘宝账号...【详细内容】
2022-04-08    中国青年网  Tags:淘宝   点击:(5)  评论:(0)  加入收藏
  数字人民币“尝鲜” 扫码即付没网也行  百货商场、酒店景点、旅游消费、有轨电车……随着广州成功获批国家数字人民币试点地区,广州数字人民币应用场景加...【详细内容】
2022-04-07    广州日报  Tags:数字人民币   点击:(6)  评论:(0)  加入收藏
中新网4月7日电 据路透社报道,美国推特公司当地时间5日宣布,美国太空探索技术公司创始人、特斯拉首席执行官埃隆·马斯克(Elon Musk)将成为推特董事会成员。 资料图:美国...【详细内容】
2022-04-07    中国新闻网  Tags:马斯克   点击:(6)  评论:(0)  加入收藏
  如何远离算法之“算计”?  ——新规之下的网民算法素养调研  编者按  3月1日,国家互联网信息办公室等四部门联合发布的《互联网信息服务算法推荐管理规定...【详细内容】
2022-04-07    光明日报  Tags:算法   点击:(5)  评论:(0)  加入收藏
保护个人信息,护航数字经济发展给“算法应用”立规矩(网上中国)使用某个应用程序后,它就能“猜”到你喜欢什么,并且精准推送相关内容,滋生“信息茧房”、大数据“杀熟”等问题。...【详细内容】
2022-04-06    人民日报海外版  Tags:算法应用   点击:(5)  评论:(0)  加入收藏
当地时间3月23日,微软通过扩展到23个新的国家来展示其对弥补网络安全差距的兴趣。这是微软的一个主要关注点,因为网络安全对全球各地的政府机构以及个人构成了重大威胁。而影...【详细内容】
2022-04-02    cnBeta  Tags:网络安全技能培训   点击:(9)  评论:(0)  加入收藏
 互联网巨头原有商业模式面临挑战  欧洲议会、欧洲理事会和欧盟委员会日前就《数字市场法案》达成一致,旨在限制谷歌、苹果、亚马逊、元宇宙(原名脸书)等互联网科技巨头。...【详细内容】
2022-04-01    工人日报  Tags:商业模式   点击:(12)  评论:(0)  加入收藏
两成网民遭遇个人信息泄露,如何整治数据安全“重灾区”?  中国信息通信研究院日前发布的《中国信息消费发展态势报告》显示,在消费群体方面,我国网民规模持续扩大突破十亿。《...【详细内容】
2022-03-29    央视新闻客户端  Tags:数据安全   点击:(18)  评论:(0)  加入收藏
本报北京3月28日电(记者周世祥)国家智慧教育平台启动仪式今日在教育部举行。教育部党组书记、部长怀进鹏出席仪式并宣布国家智慧教育平台正式上线。  据悉,国家智慧教育平...【详细内容】
2022-03-29    光明日报  Tags:国家智慧教育平台   点击:(17)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条