可迁移模型 · TRANSFERABLE MODEL
边际似然是奥卡姆剃刀的数学化身
边际似然 $p(\mathbf{y}|X,\theta)$ 的对数可以分解为数据拟合项和复杂度惩罚项——惩罚的大小恰好等于有效参数数量。这意味着贝叶斯框架不需要手动设置正则化强度,正则化从概率计算中"涌现"出来。这改变了一种根深蒂固的思维:正则化不是外部强加的约束,而是模型自然的倾向。
来自这本书的解读报告
《高斯过程与机器学习》
阅读完整解读报告 →
边际似然 $p(\mathbf{y}|X,\theta)$ 的对数可以分解为数据拟合项和复杂度惩罚项——惩罚的大小恰好等于有效参数数量。这意味着贝叶斯框架不需要手动设置正则化强度,正则化从概率计算中"涌现"出来。这改变了一种根深蒂固的思维:正则化不是外部强加的约束,而是模型自然的倾向。