微软CEO纳德拉:面部识别技术对社会危害大

IT资讯 2019-02-04

微软首席执行官萨提亚-纳德拉(Satya Nadella)认为,如果一些技术被滥用,那么它们就会对社会形成很大的危害,因此政府应该对它们进行监管。他列出的第一个例子就是面部识别技术。

周一,在该公司总部的媒体邀请会议上,他对满屋子的记者发表了自己的看法。一名记者问他如何看待科技行业即将面临的监管问题。

“我们认为监管问题将会变得越来越复杂。”他补充说。在某些情况下,微软实际上是在呼吁政府采取新的监管措施。

“就拿面部识别技术这个概念来说,它现在太可怕了。这绝对是一场彻头彻尾的竞争。”他说,“这一切都是以竞争的名义进行的。任何赢得交易的人都能做任何事。这对我们这个行业或整个社会都不会有好的结果。更好的做法是制定一些我们大家都可以遵守的规则,这样我们才能保护真正重要的东西。”

温文尔雅的纳德拉并没有点名道姓地批评谁。但他发表这番言论的背景是在亚马逊的 Rekognition 面部识别服务正饱受诟病。

今年 5 月,美国公民自由联盟(ACLU)披露,亚马逊向政府机构提供了 Rekognition 面部识别服务,让政府机构来监督公民。它还写了一封公开信,要求该公司停止这样做。为了证明这项技术对公民自由的危害,美国公民自由联盟在 7 月份报告称,Rekognition 面部识别服务错误地将 28 名美国国会议员认定为曾被逮捕的罪犯。

去年夏季,数百名亚马逊员工向该公司请愿,要求停止销售 Rekognition 面部识别服务。就在本周,由五名亚马逊股东组成的联盟提交了一份决议,呼吁亚马逊停止向政府机构出售 Rekognition。这些股东总共拥有 13.2 亿美元的亚马逊股票。

早在 2018 年 7 月份,在人们针对亚马逊的批评达到顶峰时,微软首次呼吁对面部识别技术进行监管。

去年 12 月,微软首席律师布拉德-史密斯(Brad Smith)在一篇博客文章中再次呼吁监管面部识别技术。他指出,面部识别技术在三个方面非常危险:侵犯人们的隐私,政府以牺牲“民主自由”为代价进行大规模监控,以及科技行业中的种族偏见带来的风险。

在辨别有色人种时,面部识别技术的效果非常糟糕,经常认错人。这种误认可能产生非常严重的后果,特别是在执法部门使用这项技术的时候。

有趣的是,亚马逊不是第一家捣鼓这项技术的公司。Facebook 也在这项技术上引起了争议,比如在欧盟 GDPR 隐私法规生效后,该公司试图在欧洲重新引入这项技术。

而且,早在亚马逊成为焦点之前,微软在面部识别技术问题上也曾遭到批评。

一年前,《纽约时报》报道了乔伊-布兰韦尼(Joy Buolamwini)在麻省理工学院媒体实验室所做的一项研究。她发现三个领先的人脸识别系统——微软、IBM 和中国的旷视科技的人脸识别系统——在识别非白人面孔方面表现得很糟糕。微软对深色皮肤女性的错误率为 21%(而另外两者的错误率为 35%)。

周一,纳德拉承认,每当该公司受到严肃的批评时,它都会认真对待。

事实上,史密斯在去年 12 月的一篇博客文章中第二次呼吁对这项技术进行监管。就在不久之前,美国国家标准研究所(National Institute Of Standard)公布了对这项技术的持续测试结果。测试发现,微软的面部识别技术的水平有了很大提高。

与此同时,提供面部识别技术的公司数量也在激增。在去年 9 月的最后一次测试中,美国国家标准研究所测试了来自全球 39 个开发机构的面部识别算法。


中国· 上海

谷谷二维码
添加微信咨询

CopyRight©2009-2019 上海谷谷网络科技有限公司 All Rights Reserved.  

关于我们 | 联系我们