认知颠覆 · COGNITIVE OVERTURN

"更多的数据"不等于"更公正的结果"——数据量是偏见的放大器而非消解器

技术乐观主义认为数据量越大算法就越准确和公正。但诺布尔揭示了一个反直觉的事实:如果训练数据本身反映了社会不平等(如黑人社区被过度police导致犯罪数据偏高),那更多的数据只会让算法更精确地复制这种不平等。大数据做的是"放大",不是"纠正"。
来源

《算法霸权》第一章关于大数据迷思的讨论

可迁移到

评估任何"数据驱动"决策的质量——数据量的增长是否只是放大了既有偏见?是否需要在追求数据量之前先做数据质量审计?

来自这本书的解读报告

《算法霸权:反思大数据的阴暗面》

萨菲亚·乌莫亚·诺布尔(Safiya Umoja Noble) · 信息科学 / 社会批判 / 算法伦理

这本书回答了搜索引擎是否中立的问题,答案是:算法嵌入了种族与性别的系统性偏见。

算法偏见·信息不平等·搜索引擎伦理·种族批判·数据正义
阅读完整解读报告 →
PRESS YOUR OWN BOOK

找一本想读的书,解读出你自己的洞察

90 秒得到核心模型 · 行动接口 · 失效边界 · 三套 SOP

解读一本书 →