财新传媒
位置:博客 > 周鑫 > 文章归档 > 2021年11月
2021年11月12日 17:14

人工智能的偏见把我们全带偏了

越来越多的证据证明,只要存在人为因素,机器学习学到偏见的可能性就非常之高;甚至高于你原本的训练的目标。

 已经不止有一篇论文指出,当人们在去除了病例的人种信息、年龄信息、性别信息之后,机器学习依然自动地开始判断人种、年龄和性别。最大量的证据显示,这是因为医生在对不同人种、不同年龄和不同性别的人进行诊断的时候是有差异的,这种差异会体现在CT扫描的时间长度;病历书写的措辞;甚至是格式病例的漏填项的多少上。...

阅读全文>>