梯度检验是实现正确性的终极裁判

数值微分（用h→0的差分近似导数）虽然慢且不精确，但实现极简且几乎不会错；反向传播虽然高效但实现复杂易错。用数值微分校验反向传播，等于用"简单但慢的方法"验证"复杂但快的方法"——这个"用简单验证复杂"的思路在任何工程领域都适用。