价值锁定的真正危险不是暴政而是教条

大多数人对"AI控制人类"的想象是反乌托邦式的暴政——AI强迫人类做不想做的事。但博斯特罗姆描述的最危险场景恰恰相反：AI"好心地"按照它理解的"人类价值观"来管理世界，但这个理解可能是过时的、片面的、或基于某个时代的偏见——而人类再也无法改变。真正的危险不是被压迫，而是被一个善意但错误的系统永久"保护"在一个不完美的世界中。