认知颠覆 · COGNITIVE OVERTURN

偏见不是AI的bug,是AI的feature——在你没有干预时

AI不会自动消除偏见——它会忠实学习并规模化部署你给它的数据中的一切模式,包括偏见。"让数据说话"听起来客观中立,但数据本身就在说话——它说的是过去的权力结构和历史不平等。AI只是让这些声音更大、更系统、更难被察觉。真正的"AI公平"不是默认状态,需要刻意设计。
来源

《你看起来像个东西,我喜欢你》,偏见放大器章节

可迁移到

任何涉及人群分类或评估的系统设计——不仅限于AI,也包括绩效评估体系、筛选流程、推荐系统。偏见不是"有意识的恶意"才能产生,"无意的忽略"就足够了。

来自这本书的解读报告

《你看起来像个东西,我喜欢你》

贾内尔·谢恩(Janelle Shane) · 人工智能 / 认知科学 / 科技伦理

这本书回答了AI为什么会做蠢事的问题,答案是AI只是在找最短捷径而非真正理解。

人工智能·机器学习·AI失败·奖励黑客·算法偏见
阅读完整解读报告 →
PRESS YOUR OWN BOOK

找一本想读的书,解读出你自己的洞察

90 秒得到核心模型 · 行动接口 · 失效边界 · 三套 SOP

解读一本书 →