牛华网讯 北京时间7月27日消息,据Ars报道,当地时间周四,北加州美国公民自由联盟(American CivilLiberties Union of Northern California)表示,在测试中发现亚马逊的面部识别系统Rekognition,该软件错误地将28名议员识别为罪犯。
亚马逊将28名美国议员识别为罪犯
一名来自ACLU(美国公民自由联盟)的律师杰克·斯诺表示,这次的面部识别测试素材是从公共来源下载的25000张照片。然后ACLU利用亚马逊的面部识别软件运行了535名议员的官方照片,让他们和罪犯照片进行匹配,最终匹配了28张。
ACLU的测试发现在这28名人员中,有6名黑人议员,其中就包括传奇的非裔人权活动家Rep. John Lewis。
亚马逊的面部识别系统此前曾多次对正常的非裔美国人进行了错误识别。
正如Ars之前的消息报道,如果训练数据严重偏向白人的话,那么识别结果可能会对其他白人的认证更有效,而对于训练数据之外的特殊人口识别则毫无用处。
斯诺告诉Ars,“我们使用了亚马逊默认的信任级别,80分的相似度。”
巧合的是,在美国国会黑人同盟写信给亚马逊的CEO杰夫·贝佐斯,对使用这样的技术将会带来深远的负面影响表示担忧,两个月之后,出来这样一份测试结果。
斯诺在周四的博客文章中补充道:“整个测试花费了12.33美元——比一个大份披萨还便宜。”
ACLU担心过度依赖错误的面部识别扫描,特别是针对有色人种的公民,可能会导致该群体对执法部门产生强烈抗议。亚马逊的面部识别系统已经被美国的一些执法机构采用了。
由于这些实质性错误,斯诺说,ACLU再次呼吁国会暂停执法人员使用面部识别技术。
当Ars联系亚马逊时,其公司女发言人尼娜·林赛只是提供了一份公司声明,称ACLU应该提高信任门槛。奥兰多警察局上个月刚刚进行了测试。
亚马逊回应称,“虽然80 %的置信度是热狗、椅子、动物或其他社交媒体等使用案例的照片可接受的阈值,但这不适用于认证具有相当确定性的个人”。亚马逊还称,在执法活动中使用面部识别时,他们会指导其将阈值设置为至少95或更高。"
林赛并未回答Ars的一些提问,例如关于目前有多少执法机构在使用Rekognition,以及这些机构是否采纳了亚马逊将信任阀值设定到95的建议。
亚马逊还在声明中表示,在现实世界场景中,亚马逊的Rekognition面部识别系统几乎仅仅被用来协助缩小范围,并允许人们利用识别结果快速审查,考虑不同的选择(而非直接自发做出决定)。在这些选择中,它可以帮助寻找走失的儿童,限制人口贩卖,或者预防犯罪。
相关报道:
- 亚马逊Q2净利润25.34亿美元 同比增长1186%2018-07-27
- 亚马逊财报分析:云计算和广告成盈利增长主要推动力2018-07-27
- 华为谷歌亚马逊入局 斥巨资研发家用机器人2018-07-25
- 沃尔玛考虑推出流媒体视频服务 挑战Netflix和亚马逊2018-07-18
- 亚马逊盘中股价触历史新高 贝佐斯真正成为“第一富豪”2018-07-17
要闻推荐
今日视点
热点专题
- 新闻排行
- 评测排行