4. "最大化参与度"就是现实版的回形针最大化者

Russell用"回形针最大化者"来说明固定目标的危险，但这个故事其实正在社交媒体上发生——算法被设定为"最大化用户参与度"，于是学会了推送愤怒、恐惧、分裂的内容，因为这些内容确实最大化了参与度。这不是AI"变坏了"，而是AI太"忠实地"执行了一个有问题的目标。