微软公司总裁施博德:使用人脸识别技术应遵循六大原则

创头条-动态关注

今年7月,我们就开始探讨人脸识别技术需要的政府监管和行业规制问题。正如我们之前所说,这项技术带来了显著且令人欣喜的社会效益,但同时也隐含着被滥用的可能性。因此,我们有必要针对这些问题展开更为广泛的研究和探讨。在此后的几个月里,我们持续对这些问题进行深入探究,并与世界各地的技术专家、企业、民间社团、学者和公职人员进行交流。我们学到很多,并对一些新的想法进行了验证。在此基础上,我们相信现在已是时候突破研究和讨论阶段,采取一些实际行动了。

我们认为,在2019年政府应当着手颁布法律对人脸识别技术加以规范。人脸识别技术就像刚从瓶子里冒出头来的妖怪,我们如果不立即采取行动,很有可能在五年后发现这项技术的普及已经加剧了许多社会问题。到那时,这些挑战将更加难以应对。

尤其需要指出的是,我们并不认为人脸识别的商业“逐底竞争”对世界来说是最好的选择——这将迫使科技公司在社会责任和市场成功之间做出抉择。我们认为,防止这种无节制竞争的唯一方法,是划定一条支撑良性市场竞争的责任底线。这条坚实的底线要求我们确保这项技术以及开发和使用该技术的组织必须遵纪守法。

虽然我们还无法解决所有潜在问题,但是在如何建立一个初步的、有效的、能够在保障公众利益的前提下推进技术发展的法律问题上,我们已经有了答案。对于政府而言,时刻掌握技术的最新动态很重要,这将有利于政府部门能够更快更好地了解它。以下是我们的一些想法,我们将在讨论部分国家和地区的公共政策时,优先安排人脸识别技术这一主题。

尽管从更广泛的意义上解决这些问题更为可取,但我们不应完全坐等政府采取行动。我们和其他科技公司需要着手建立针对人脸识别技术的保障措施。我们相信,这项技术可以为客户提供重要而广泛的服务,而众多客户在部署的人脸识别应用给予我们鼓励的同时,也给了我们很多启发。但是,与其它技术相比,人脸技术的开发和使用需要更加谨慎。经过充分讨论和评估,微软决定采用六项原则来应对人脸识别问题。我们希望与大家分享这些原则,并计划在2019年第一季度结束之前将这些原则付诸实践。

除此之外,我们还将提供新的资料和培训资源,以帮助我们的客户更负责任地使用这项技术。特别是在当前发展阶段,与许多其它产品相比,人脸识别技术更需要科技公司与客户通力合作,才能更好地利用它。微软也正努力与公共和私营部门的客户展开密切合作。

在保证人脸识别技术带来广泛社会效益并遏制滥用风险的问题上,政府和科技公司都扮演着至关重要的角色。虽然许多问题变得越来越清晰,但这项技术依然属于新生事物。我们现在需要做的就是解决目前遇到的初期问题,并随着技术的演进和公共部门经验的积累,不断掌握更多的知识和专业技能。未来,可能还有其它问题等待我们去解决。但正如马克·吐温所说的那样,“领先他人的秘诀在于行动”,现在是时候行动起来了。 

与其他新技术一样,人脸识别技术的应用日益多样化,其中包含了很多意料之中以及意料之外的应用方式。但越来越确定的是,这其中的许多应用为世界各地的人们带来了新的积极的意义。

人脸识别技术的应用领域之广泛令人震惊:印度新德里警方最近利用人脸识别技术,在4天内发现了近3000名失踪儿童;美国历史学家使用这项技术识别出了19世纪60年代南北战争时期照片中的无名士兵;研究人员使用人脸识别软件成功诊断出存在于非洲人、亚洲人和拉丁美洲人的一种罕见遗传疾病;今年10月,澳大利亚国民银行设计了一个方案,可以让客户凭借人脸识别和个人密码从自动取款机中取款。

微软是人脸识别技术开发领域的领军企业之一。我们正与世界各地的客户合作,并积极致力于行业领先的研究,以提高对不同年龄和肤色人群的人脸识别能力。就在上个月,美国国家标准与技术研究院(NIST)开展了一项新的评估,对我们在人脸识别技术开发上取得的进步作出了测评验证,这些成果目前在整个IT行业中都处于顶级水平。在所有被测评的127种算法中,微软提交的算法被评为“最精确”或“接近最精确”的算法。我们对人脸识别技术的前景及其可以发挥的积极作用充满信心。

但与此同时,我们也需要清楚地认识到技术滥用的风险和可能性。基于对这项技术未来发展方向的评估,我们认为政府需要解决的问题有三个:

首先,特别是在当前发展阶段,人脸识别技术的某些应用增加了决策和结果存在偏见的风险,甚至在某些情况下可能触犯了反歧视法律。

其次,这种技术的广泛使用可能会导致对人们隐私的新的侵犯。

第三,政府使用人脸识别技术进行大规模监视可能会侵犯民主自由。

我们认为应通过立法来解决这三大问题,详述如下。

首先,尤其是在当前发展阶段,人脸识别技术的某些用途增加了决策风险、结果和体验的偏差,甚至触犯反歧视法律的风险。例如,近期研究表明,某些人脸识别技术在分辨女性性别和进行有色人种人脸识别时,出现了较高的错误率。这也就要求微软和其他科技公司识别并减少此类错误,提高人脸识别工具和服务的准确性和质量。这项工作仍在进行中,我们也取得了重大进展。同样关键的是,我们要与客户密切合作,确保用正确的方式利用人脸识别服务,以降低此类风险。随着时间推移,我们相信良性发展的市场能够推动人们所需的技术创新。

但是,我们认为这一领域同时也需要新的法律进行约束,原因有二。首先,只有当技术的潜在用户充分了解信息,并且能够测试其准确性和出现不公正偏差的风险,包括在特定应用和环境中出现的偏差时,市场才能很好地发挥作用。目前,各家科技公司在让技术满足这一要求上的意愿差异巨大。因此,某些针对此类服务的学术性测试忽略了一部分市场领军企业。当一些机构组织试图进行测试时,他们会遭到一些供应商的拒绝和批评,声称这些组织的测试并不充分。因而,我们需要通过立法,让“消费者报告”等中立的测试组织能够以透明公平的方式对人脸识别服务的准确性和偏见加以检测。

我们认为,未来的法律可以采用“双管齐下”的方法来满足这一需求:

透明度要求。立法应要求提供人脸识别服务的科技公司出具资料,以客户和消费者可理解的形式对该技术的功能和局限性作出解释。

启用第三方测试和对比。未来的法律还应要求提供商用人脸识别服务的供应商允许从事独立测试的第三方对其人脸识别服务的准确性和偏差进行合理测试并公布测试结果。要想达到这个目的,一个可行的方法是要求通过网络提供人脸识别服务的科技公司同时提供适用于此目的的API接口或其他技术能力。

我们认为这一领域目前需要新的法律进行约束的第二大原因在于新法中应规定的进一步措施。尽管我们相信市场的力量最终可能会解决与偏差和歧视相关的问题,但我们也目睹了现有的人脸识别服务的风险日益增加,而且它们目前可能会对消费者和公民造成不利影响。

设想一下,如果这项技术错误地识别了你的身份,并且以某种方式剥夺了你获取政府服务、参加特定活动或购买某种商品的权利,即使这项技术最终会得到改进,显然也不会带来什么宽慰。如果提供服务的组织以超越当前技术,或以有别于设计用途的方式利用人脸识别,这些问题还可能会加剧。我们认为,制定新的法律不仅可以帮助解决这些问题,也不会给企业和用户增加繁重的负担。这同样涉及到“双管齐下”的法律手段:

确保有意义的人工审查。尽管人类自身也不能避免出现错误或偏见,但我们仍然认为,在某些高风险情景中,必须由称职的工作人员对人脸识别结果进行审查并做出关键决策,而不能简单地把任务交给计算机。因此,新法规应该要求使用人脸识别服务的机构在对法律认为可能对消费者产生影响的某些情形下,应在最终决定作出之前采用人工方式对人脸识别的结果进行审查。审查内容包括决策可能会给消费者人身或情感带来的伤害,可能会对人身或其它基本权利产生的影响,或者对消费者的个人自由或隐私的侵犯等。

避免造成非法歧视的使用。最后,对于使用人脸识别服务的机构而言,重要的是让他们认识到必须要遵守禁止歧视消费者或消费者群体的法律。根据法律,他们需要对基于人脸识别的决策承担责任,这也为进行人工审查提供了另一个理由。

其次,人脸识别技术的广泛使用会导致人们的隐私遭到新形式的侵犯。例如,每个公共建筑都可以安装摄像头,并连接到提供实时人脸识别服务的云平台。

有趣的是,美国的隐私保护运动恰恰源于照相机技术的改进。1890年,日后成为最高法院法官的路易斯·布兰迪斯(Louis Brandeis)与同事塞缪尔·沃伦(Samuel Warren)共同撰写了一篇文章,并在《哈佛法律评论》(Harvard Law Review)上发表。文中提出了“独处权”的概念,迈出了倡导隐私保护的第一步。两人认为,即时拍照技术的发展以及将照片刊登在报纸上获利的行为,使保护人们的“隐私权”成为必要。

今天的技术为“即时拍照”赋予了布兰迪斯和沃伦可能从未设想过的崭新内涵。自从人们步入购物中心的那一刻起,他不仅可能被拍摄,而且可能随时随地被计算机识别出身份。除了利用单个摄像头在单个环节中收集信息外,还可以通过不同位置的多个摄像头进行拼接的方法来了解人们的长时间活动。商场所有者可以自主选择是否与其他商家共享此类信息。商家可以立即了解你上次到访的时间,浏览或购买过哪些商品,通过与其他商家共享这些数据,他们甚至可以预测你这次是要购买哪些商品。

我们并不是主张通过立法剥夺商业机构使用这项新技术的权利。相反,我们和其他友商正致力于帮助商家负责任地使用包括人脸识别在内的各种数字技术,以优化购物及其它消费体验。我们相信,消费者都将会受益于技术进步所带来的客户服务的改善。

然而,消费者有权利了解这种技术会在什么时候被使用,这样,如果他们愿意的话可以提出质疑,或者做出选择。实际上,我们认为技术透明对于公众建立对技术的认知和信任是至关重要的。新的立法可以通过以下两种方法满足这项要求:

确保知情。法律应要求使用人脸识别技术判断消费者身份的机构以醒目的方式告知消费者,明确表示自己目前正在使用此类服务。

明确同意。法律应规定在消费者进入此类场所或使用带有此类人脸识别技术的在线服务时,需要征求其同意。

实际上,这些措施让消费者拥有选择的机会。当被告知后,他们可以提出质疑,也可以选择按照自己的意愿去别的地方消费。

包括消费者团体在内的一些人士会要求,在涉及消费者知情同意的领域,法律应该更进一步。例如,同意使用人脸识别服务应该受到基础隐私原则的约束,比如对超出原本目的界定的数据使用加以限制,以及赋予个人访问和更正其个人数据的权利。我们非常理解这种意见,将这些意见纳入考量也很重要。事实上,欧洲的法律已经做了这样的规定。但是从我们的角度来看,在这个领域(对美国而言尤其如此),新的法规可能需要先迈出第一步,让各方都从经验中学习,然后再决定是否应该进一步采取其它措施。

第三,政府使用人脸识别技术的过程中可能会侵犯公民的民主自由和人权。民主一直依赖于人们集会、会议、交谈,甚至私下和公开讨论其观点的权利,这反过来又依赖于人们自由行动而不受政府监督的权利。

政府的许多对人脸识别技术的应用都能够做到既能保护公共安全,为公众提供更好的服务,又不至于引发此类担忧。目前,有越来越多的此类服务投入使用,我们应该鼓励它们遵守本文所描述的其它保护性措施。

然而,人脸识别技术也有可能会危及我们的基本自由。当与无处不在的摄像头、强大计算能力和云存储相结合时,人脸识别技术就能够帮助政府实现对特定个体的持续监视。它可以跟踪任何地方的任何人——或者夸张一点,每个地方的每个人。这种监控可以做到全天24小时无间断。人脸识别技术的这种使用方式可以在前所未有的广度上实施大规模监视。

前所未有,但并非无法想象。正如乔治·奥威尔(George Orwell)在他的小说《1984》中所描述的那样:在假想的未来社会中,公民必须通过秘密方式躲避政府的监视,在一个黑暗的房间里通过用手轻拍对方的胳膊的方式来交流——否则摄像头和麦克风将捕捉并记录他们的面孔、声音和所说的每一个字。奥威尔在近70年前就勾勒出了这样的情境,而今天的技术正在让这种未来成为可能。

但是,这一切不是不可避免。

我们必须确保2024年看起来不会像小说《1984》里的某个片段。“没有政府可以凌驾于法律之上”的宗旨向来就是一条不可或缺的民主原则。今天,这条原则要求政府对人脸识别技术的使用仍要受到法治约束。新的立法可以促使我们沿着这条路径前行。

限制政府对特定个人的持续监视。为防止利用人脸识别技术侵犯民主自由,新的立法应限制仅在以下情况下,允许执法机构使用人脸识别对公共场所的特定个人进行持续监视:

• 已获得法院允许使用人脸识别服务进行监测的命令;

• 存在紧急情况,包括即将发生危险、死亡风险或对某个人的严重身体伤害。

立法者必须思考在这一领域获取法院许可命令的标准。在大多数情况下,我们认为上述标准应该基于传统规则,例如足以签发搜查令的条件。但也存在其它可以使用该技术的特殊情况,例如适当使用人脸识别技术帮助寻找失踪人员。

值得注意的是,这种限制是建立在美国最高法院近期一项裁定的基础之上。今年6月,美国最高法院裁定,政府不得在没有搜查令的情况下,获取能够显示基站信息的手机使用记录(并进而获取特定人员途经的实际位置)。在卡朋特(Carpenter)诉美国政府一案中,首席大法官约翰·罗伯茨(John Roberts)代表法院多数法官写道,个人对基站记录的个人行动记录的隐私权应当得到保护。

尽管我们经常携带手机出入公共场所,并且实际上与移动通信运营商分享了我们的位置,但根据最高法院作出的解释,我们的位置记录受到宪法第四修正案对“人身、住房、文件、财物不受非法搜查和扣押”这一条款的保障。因此法院裁定,政府不得通过手机和相关手机使用记录来跟踪我们的行动,除非独立法官基于某些原因怀疑我们有不法行为而签发了搜查令。

在这种情况下,人脸识别技术又对宪法提出了一个新的问题:我们的面部特征是否应该得到与我们手机使用记录同等的保护?从我们的角度来看,答案是肯定的。

微软自2013年,一共对美国政府提起了四项诉讼,为的就是在这个能够通过新技术实现大规模监控的时代,继续保护人们的隐私权。我们一再寻求维持宪法第一和第四修正案中的保护措施,这也是我们认为永恒的价值观。我们认为,在人脸识别技术被过度使用并可能危及上述自由权利之前,就要采取行动。虽然这些问题最终会通过各种途径上达美国最高法院(正如今年2月份我们的四项诉讼之一被递交美国最高法院),但我们还是应该从身处各州首府和华盛顿特区的立法者们入手。

虽然我们认为新的法律法规必不可少,但我们也认识到它们不能代替科技公司需要履行的责任。今年7月,我们宣布将评估和制定更多的原则来规范人脸识别研究工作。今天,作为这项工作的一个重要进展,我们发布微软人脸识别研究工作需要遵循的原则,并邀请大家提供反馈,以指导原则的具体实施。

在过去六个月中,我们花了相当多的时间从员工、客户、公职人员、学者和社会团体那里寻求意见和建议,从全美乃至全球各地的讨论中广受裨益。今天,我们决定更进一步,用这六项原则来解决一些需要跟政府合作共同来解决的问题。这些原则包括:

1. 公平性。我们将努力开发和利用公平对待所有人的人脸识别技术。

2. 透明性。我们将记录并清楚地传达人脸识别技术的功能和局限性。

3. 问责制度。我们将鼓励并帮助我们的客户利用人脸识别技术,并在可能对人们产生重大影响的用途上实施适当的人工控制。

4. 非歧视性。我们将在服务条款中禁止将人脸识别技术用于非法歧视。

5. 知情同意。我们将鼓励我们的私营客户在使用人脸识别技术时通知用户并征得用户同意。

6. 合法监视。我们将倡导在执法监督中使用该技术时,保障人民的民主自由,并且不会在可能危及这些自由的情况下使用人脸识别技术。

请点击阅读原文查看这些原则的详细说明。我们还将在未来几个月内就如何贯彻这些原则,向相关个人和团体征集反馈和建议。

在采取这一措施的同时,我们还需要制定新的政策、流程和手段,以确保这些原则在微软得到有效贯彻。我们将继续开展这项工作,并将在2019年3月底前正式启用上述原则以及本支持性框架文件。

与前文所讨论的监管问题一样,我们将采用渐进的方法来贯彻这些原则。我们还没有找到问题的所有解决方案。鉴于人脸识别技术发展仍处于初级阶段,我们甚至还不清楚全部问题所在。但我们相信,在这些原则的指导下,我们将获得宝贵经验并可以快速学习。在实际操作过程中,我们也会通过新的资料和培训资源,与大家尤其是与客户分享我们学到的知识,帮助他们更好地利用人脸识别技术,让大家对这项技术更有信心。

了解更多:

后台入驻微软小冰

如果你很萌,请跟她一决高下!

打开APP看更多推荐
今日热点
  • 孙杨光州首秀第一

  • 刘思慕扮演上气

  • 丛林的法则道歉

  • 北京南四环车祸

  • 松花江客轮相撞

  • 日本参议院选举

打开APP看更多热点