用我们的脸付款:苹果的FaceID

9月初,苹果电脑公司(Apple Computer, Inc.)推出了新款iPhone,并推出了FaceID软件,该软件使用面部识别作为解锁iPhone的身份验证。人脸识别在全球社会的大规模应用是一个值得公开讨论的问题。作为一家私营公司,苹果现在已经选择向全球数百万用户部署人脸识别技术,而没有进行任何关于伦理、伦理监督、监管、公共输入或话语的公开辩论。人脸识别技术可能有缺陷,而且特别有偏见,全球范围内部署FaceID为私人科技公司在社会中自由行事树立了一个令人担忧的先例。

在苹果发布声明的那一周,媒体对FaceID的报道中存在一个令人不安的问题,那就是对苹果部署FaceID意味着什么,以及那些追随苹果、部署自己版本的人的批评有限。把我们的脸数字化,用我们主要的人类标识(除了我们的声音)作为我们人类自身的代理,并为此向苹果支付近1000美元,这意味着什么?

FaceID可以被认为是一种噱头。苹果已经掌握了先进的技术,因此,他们可以在自己的手机上提供这种“科幻”体验,给用户提供一种验证身份的新方式。但事情并非如此简单。所有新技术,就像任何其他新的人类生产一样,以各种方式嵌入社会,用于各种不可预见的环境,并产生各种不可预见的后果。即使苹果只是在其iPhone的环境中使用这种技术,他们也在建立一种使用模式,而且是围绕着管理社会的法规私下进行的。苹果的这一举动如此随意地在如此广泛的范围内展开,可能会改变我们的生活方式,以及我们的脸永远被使用的方式。

面部识别属于称为“生物识别性的技术类别”。Biometrics是依赖某种类型的身体反馈的量化指标类。Biometrics包括数字指纹识别,视网膜扫描,语音识别,热图和面部识别等。Apple一直在使用数字指纹识别一段时间。但是,面部识别的问题更复杂。

有几个问题与面部识别软件随着时间的推移而提出算法的偏见[1]是主要的。简单地说,算法偏差存在于算法不能创造对情况或问题的完全理解。对于人脸识别算法存在偏见,因为人们有不同的面部特征和肤色,和对人类,特别是深色皮肤的音调,面部识别软件要么不能认出他们,或者更糟,可以识别,但是不能把公认的脸的人,而是把他们看作一个不同于他们本身的人。当人脸识别算法无法解锁某人的iPhone时,这可能只是令人烦恼,但当人脸识别技术在我们社会的各个方面大规模部署时,可能会导致严重的问题。在未来,人脸识别技术可以确定访问共享,这样,很容易错误的属性情况和监控录像“证据”错误的人的身份,导致错误的指控,行动错误指控(如果我们得到更多的自动化在执法响应)。

FaceID是自动人工智能。这意味着在识别或身份验证过程中将不存在任何人员。一旦部署了FaceID,它将自动运行,自动识别(或不识别),并自动验证身份。此外,苹果将使用FaceID解锁iPhone、Apple Pay、iTunes以及其他苹果产品和服务。FaceID将与其他供应商合作与他们分享用户的面部认可和身份验证[2]。这不会仅限于苹果。如果我们认为拥有我们的信用卡号码被违反是现在的问题,那么当我们的脸部不安全地存储时会意味着什么?

有关面部认可技术的另一个问题是我们对我们的面临意味着什么的想法,对我们的不同地区的人们意味着我们的意思。例如,在一些文化中,纹身被认为是一个更强大的禁忌,在其他人中,它是一个荣誉和突出的地方。我们如何使用我们的脸,并选择使用我们的脸部应该在技术公司开发面部识别技术时考虑。当然,那些对面部识别技术感到不舒服的人,不会使用面部,而现在仍然是可选的,这不是一个问题。但是,正如面对全世界的亮相一样,可能会提出这些问题,可能会出现不可预见的结果。

该技术行业往往批评不尊重法规或道德,并正如我在我的提到的那样前一块这很大程度上是因为开发团队中没有任何可以提出这些问题的人。在苹果公司,很少有社会科学家,几乎没有人类学家,随着重点转向量化作为确定功能使用和设计的指标,很少有定性研究人员投入到产品中。这可能不是苹果不在乎,而是苹果真的不知道它需要在乎,或者其他原因。作为一家专注于设计的公司,定性研究可能被认为是任何人都设计在Apple可以做[4],因此,一些围绕面部部署部署的一些更紧迫的社会问题可能会迷失在“SCI Fi”因素或急于上市。

因为我们现在正处于生物识别面部认可的尖端被私人科技公司主流,其中一家私人科技公司的决定将如何影响我们所有人在私人控制中,可能是时候考虑治理或道德审查委员会的时间技术产业往前发展 - 似乎是私营科学公司雇用人类学家和其他社会科学家们向产品团队雇用技术产品,以创造技术产品,这将适应我们的文化偏好作为人类,同时尊重我们的隐私感,我们对安全的愿望,以及我们的身份权。

参考:

[1]芬利,K. 2017.苹果的iPhone X可以击败面部识别的偏见问题。“有线业务。2017年9月13日。可从:https://www.wired.com/story/can-apples-iphone-x-beat-facial-recognitions-bias-problem/评估日期:2017年9月17日。

[2] Perez, S.和Luden, I. 2017。Face ID将与苹果支付第三方应用程序合作。科技危机。2017年9月12日(在线。可从:https://techcrunch.com/2017/09/12/faceid-will-work-with-apple-pay-third-party-apps/获取

[3] Applin, S. 2017。人工智能:在我们的图像中制造人工智能。188bet金宝博野蛮的思想。2017年9月7日。(在线)。日期:2017年9月17日

[4] Applin, S. 2016。定性方法的自动化。史诗。2017年1月18日。(在线)。截止日期:2017年9月17日

关于“三思”用我们的脸付款:苹果的FaceID

  1. 虽然越来越多的人关注像FaceID这样的技术,但我想提醒大家的是,许多服务已经在使用图像识别。Facebook就是一个明显的例子。不太明显的是谷歌Photos。谷歌Photos默认安装在大多数安卓手机上,它将你从安卓设备上拍摄的照片上传到服务器上。然后,它会对照片进行分类,以便了解你所拥有的猫或狗的品种,为你的后代制作视频汇编,识别你生活中的人。它能很好地分类所有这些照片,你可以让它识别出所有有汉堡的照片。谷歌Camera应用默认启用了定位服务,这意味着很多照片也有位置元数据。看到的:https://www.reddit.com/r/Android/comments/66q8g6/thank_you_google_photos/

    我会敦促读者在这里重新考虑他们已经使用的应用程序或数字服务以及从这些服务中收集了什么。这是一个例子。直到最近Gmail扫描您的电子邮件,为您提供更好的针对性广告;他们已经停止扫描广告电子邮件,但他们仍然扫描它们。看到的:https://arstechnica.com/tech-policy/2017/09/ogoogle-promised-not-to-scan-gmail-for-targeted-ads-but-for-how-long/

评论被关闭。