首页 > 新闻中心 > 人工智能 > 正文

亚马逊面部识别闯祸:将28名美国议员识别为罪犯
2018-07-27 17:43   牛华网      我要评论()
字号:T|T

牛华网讯 北京时间7月27日消息,据Ars报道,当地时间周四,北加州美国公民自由联盟(American CivilLiberties Union of Northern California)表示,在测试中发现亚马逊的面部识别系统Rekognition,该软件错误地将28名议员识别为罪犯。

亚马逊将28名美国议员识别为罪犯

亚马逊将28名美国议员识别为罪犯

一名来自ACLU(美国公民自由联盟)的律师杰克·斯诺表示,这次的面部识别测试素材是从公共来源下载的25000张照片。然后ACLU利用亚马逊的面部识别软件运行了535名议员的官方照片,让他们和罪犯照片进行匹配,最终匹配了28张。

ACLU的测试发现在这28名人员中,有6名黑人议员,其中就包括传奇的非裔人权活动家Rep. John Lewis。

亚马逊的面部识别系统此前曾多次对正常的非裔美国人进行了错误识别。

正如Ars之前的消息报道,如果训练数据严重偏向白人的话,那么识别结果可能会对其他白人的认证更有效,而对于训练数据之外的特殊人口识别则毫无用处。

斯诺告诉Ars,“我们使用了亚马逊默认的信任级别,80分的相似度。”

巧合的是,在美国国会黑人同盟写信给亚马逊的CEO杰夫·贝佐斯,对使用这样的技术将会带来深远的负面影响表示担忧,两个月之后,出来这样一份测试结果。

斯诺在周四的博客文章中补充道:“整个测试花费了12.33美元——比一个大份披萨还便宜。”

ACLU担心过度依赖错误的面部识别扫描,特别是针对有色人种的公民,可能会导致该群体对执法部门产生强烈抗议。亚马逊的面部识别系统已经被美国的一些执法机构采用了。

由于这些实质性错误,斯诺说,ACLU再次呼吁国会暂停执法人员使用面部识别技术。

当Ars联系亚马逊时,其公司女发言人尼娜·林赛只是提供了一份公司声明,称ACLU应该提高信任门槛。奥兰多警察局上个月刚刚进行了测试。

亚马逊回应称,“虽然80 %的置信度是热狗、椅子、动物或其他社交媒体等使用案例的照片可接受的阈值,但这不适用于认证具有相当确定性的个人”。亚马逊还称,在执法活动中使用面部识别时,他们会指导其将阈值设置为至少95或更高。"

林赛并未回答Ars的一些提问,例如关于目前有多少执法机构在使用Rekognition,以及这些机构是否采纳了亚马逊将信任阀值设定到95的建议。

亚马逊还在声明中表示,在现实世界场景中,亚马逊的Rekognition面部识别系统几乎仅仅被用来协助缩小范围,并允许人们利用识别结果快速审查,考虑不同的选择(而非直接自发做出决定)。在这些选择中,它可以帮助寻找走失的儿童,限制人口贩卖,或者预防犯罪。

投稿:news@newhua.com

关键词: 亚马逊 面部识别

责任编辑:新闻中心

我要评论

已有位网友参与评论

网站地图

牛华网

华军下载 | 牛华网 | 盒子 | pcsoft | 论坛

实用工具

关于我们 | 新闻投稿 | 软件发布 | 版权声明 | 意见建议 | 网站地图 | 友情连接 | RSS订阅 | 总编信箱 | 诚聘英才 | 联系我们

苏ICP备11016551号-2  苏公网安备 32132202000111号 本站特聘法律顾问:于国富律师

Copyright (C) 1997-2018 newhua.com 江苏奥蓝德软件有限公司 版权所有