识别数据不公正
我将使用两个说明性的案例来探讨数据驱动的歧视问题，这两个案例都表明，在当代数据技术方面，现在需要具体阐述社会正义。第一个例子是印度的生物统计人口数据库Aadhaar。该数据库是世界上最大的数据库，拥有超过10亿条记录，于2009年启动，旨在打击福利欺诈，让那些生活在贫困线以下的人在领取福利时可以通过指纹或虹膜扫描来证明自己的身份。然而，Aadhaar系统中包含的技术设计——虹膜和指纹扫描仪，以及将数据输入转换为确认身份输出的有线和人工网络——实际上确保了Aadhaar为最贫穷的人提供的服务是最差的。
该系统的设计没有承认贫困的重要性，无法“鉴别那些与石头、水泥、石灰石和60岁以上的人”(Yadav, 2016)，因为他们经常因为繁重的劳动而没有指纹，或者因为营养不良而没有可用的虹膜扫描。它还忽视了穷人日常生活的不稳定性，只允许每个家庭的单一登记申领人提取口粮，因此如果该申领人生病、工作或因其他原因无法到口粮供应者那里，家庭就无法获得口粮分配(Priya和Priya, 2016)。此外，备份认证系统通过向注册人的手机发送密码来运行，从而排除了买不起手机的穷人，或任何没有记下他们注册时的号码的人(Yadav, 2016)。它还增加了贫穷的官僚负担，因为尽管强制参与，人们却没有办法在地方一级更正数据库中的条目。在解决技术故障方面没有独立的监督:补救系统将人们转回印度唯一身份认证机构，Aadhaar的管理机构，但该机构没有法律义务提供认证问题的解决方案，而是把问题留给个人公民和当地配给商店解决(Thikkavarapu, 2016)。尽管它对注册者没有反应，但是，这个数据库确实使超级贫穷的人转变为消费者成为可能:它的主席说，他设想它对注册者有强大的直接营销潜力(Nilekani, 2013)，并计划与谷歌合作，以便该公司可以接触和描述其“下十亿用户”(Aulakh和Surabhi Agarwal, 2016)。
2016年政府的废钞令表明了Aadhaar给穷人带来的负担不均衡的问题，它使印度经济中以现金为基础的元素陷入混乱，从而也影响了穷人和边缘化人群的生活。demonetisation把要求自动支付系统是歧视性的方式对穷人,因为他们有至少访问手机、正式的储蓄和银行系统和应用程序,可以帮助他们渡过难关的现金危机随之而来,受到最高的成本如果Aadhaar-related技术未能正确识别(Masiero, 2017)。
来源：https://doi.org/10.1177/20539517177363
