正则化是给“自由”标价

正则化项相当于为模型的“复杂度”或“自由度”设置了价格。优化目标从“只追求拟合效果”变为“在拟合效果和复杂度成本间求最优”。这与**经济学中的边际成本分析**、**法学中的权利与义务对等**、**生态学中的资源分配**等思想深度共振：任何自由都有成本，最优解在于边际收益等于边际成本。