"AI理解了"是我们最需要警惕的一句话

当有人说"AI理解了这张X光片""AI理解了客户的意图""AI理解了法律条文"时，这句话几乎总是错的。AI不"理解"任何东西——它在数学空间中找到了一个高维映射，这个映射在特定条件下产生了看起来像"理解"的行为。但映射和理解之间的差距，恰恰是AI失灵的原因。我们需要的不是说"AI理解了"，而是说"AI找到了一个在这个条件下有效的统计模式"。