【世界说】美媒:美执法机构依赖技术导致错误抓捕 有色人种被误识可能性高于白人100倍******
中国日报网1月4日电 据美联社3日报道,日前美国路易斯安那州执法部门因使用面部识别技术,导致一名乔治亚州男子被误认为是逃犯而被捕,律师表示,案件再次引起人们对数码工具使用中的种族差异的关注。
据《泰晤士—皮卡尤恩报》/《新奥尔良倡导者报》报道,28岁的黑人男子兰德尔·里德(Randall Reid)于2022年11月底在佐治亚州迪卡尔布县被捕入狱。他的律师汤米·卡洛杰罗(Tommy Calogero)说,执法部门错误地将里德与发生在杰斐逊教区和巴吞鲁日的钱包盗窃案联系起来。里德于11月25日被捕,12月1日被释放。他的被捕引起了人们对该技术新的关注,批评人士认为,这项技术导致有色人种的误认率高于白人。
“他们告诉我,我有一张杰斐逊教区的逮捕令。我说,‘杰斐逊教区是什么?’”里德说。“我从未去过路易斯安那州。然后他们告诉我这是偷窃罪。但我不仅没去过路易斯安那州,也没有偷东西。”
据《纽约时报》报道,法庭记录显示,巴吞鲁日警察局的一名探员根据杰斐逊教区警长办公室对里德的识别,得到逮捕令,指控里德是同一周另一起奢侈钱包盗窃案的三名嫌疑人之一。杰斐逊警长乔·洛平托(Joe Lopinto)办公室未对此案及该机构对面部识别的使用等相关问题作出回应。
里德的案件再次引起了人们对路易斯安那州和其他地方使用面部识别工具的关注。执法部门使用面部扫描和人工智能辅助面部识别软件在美国引起了激烈的争论,并与关于种族不平等的对话交织在一起。一些研究表明,该技术更有可能错误识别黑人和其他有色人种,而不是白人,从而导致错误逮捕。
皮尤研究中心2022年的一份报告发现,66%的美国成年人表示,他们认为面部识别技术用于监控黑人和西班牙裔社区的频率将远高于其他社区。另据华盛顿邮报此类报道,在2019年美国的一项联邦研究中被测试的几个算法的结果显示,与白人相比,误识别黑人或亚洲人面孔的可能性高达100倍。
一些人认为,面部识别技术应该只用于为警察提供线索,而不是作为唯一的证据,而且警察不应过分依赖其结果,也不应将其应用于所有低级别犯罪。还有批评人士认为,那些过分信任系统结果的官员——或者像研究人员在一些警察部门发现的证据那样,为了获得更好的结果而改变搜索图像,最终可能会把举证的责任推给无辜的人,他们可能不会被告知逮捕他们时使用了什么调查手段。
(编译:马芮 编辑:韩鹤)
报告显示:超六成受访者认为应强制企业公开算法******
光明网讯(记者 李政葳)“当前,国内对于算法治理的基本思路和框架都是清晰的,而分级分类精准治理的模式应当可以解决如何落实的问题。”在日前举办的“2022啄木鸟数据治理论坛”上,谈及算法治理的现状,清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正表示,算法分级分类本身不是目标,而是要针对不同风险场景配备不同监管规则。
论坛由南都个人信息保护研究中心联合清华大学人工智能国际治理研究院、人工智能治理研究中心(清华大学)主办。其间,南都个人信息保护研究中心发布《算法应用与治理观察报告》《个人信息安全年度报告》《平台经济反垄断观察报告》。
记者了解到,《算法应用与治理观察报告(2022)》,梳理了国内外的多项法规,结合热点事件及应用场景呈现了算法治理现状,并发布千份算法治理调查问卷了解公众对算法公开和算法治理的了解程度和基本态度,最后基于多方调查分析,给出了当前算法趋势观察以及未来治理方向建议。
报告发现,目前国内算法治理仍处于早期探索阶段,企业的算法公开主要依靠官方的互联网信息服务算法备案系统,或在舆情事件发生之后。调查问卷结果显示,近半受访者承认算法让自己的使用体验更好,但仅一成受访者认为企业算法公开做得很好,逾六成的受访者称曾遭遇“大数据杀熟”;超过六成的受访者认为应该强制企业公开算法。
“在数据、算法方面治理政策进展显著,在平台与应用方面的政策和落地尚需加紧。”中国科学院人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员曾毅认为,目前人工智能伦理有三个相当紧迫的问题需要被正视:首先,人工智能应当被适度使用;其次,目前人工智能服务知情同意落地艰难,被迫知情同意普遍存在;最后,目前用户数据的授权撤销在人工智能服务中存在巨大挑战,需要监管和更高层的网络服务提供方联合提出更合理的政策与解决方案。
针对日前发布的《互联网信息服务深度合成管理规定》,中国政法大学数据法治研究院教授张凌寒表示,从算法治理角度来说,深度合成管理规定与之前的算法推荐管理规定的思路有所不同,前者采用了一种“三位一体由的数据与技术规范。
具体来讲,由于深度合成技术的门槛较高,技术支持者也被纳入了监管范围内。比如,深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等服务,应当进行显著标识,这就将更重的责任落在了服务提供者身上。
中国社科院科技和社会研究中心主任段伟文提到,算法治理需要构建可信任的算法认知,而这需要产业和消费者的共同努力:产业要努力提升算法精准性、透明度,减少偏见,减少歧视;消费者则需要提高数字素养,提升算法意识,加强在人机互动中自主性、控制感和协同意识。
(文图:赵筱尘 巫邓炎)