认知颠覆 · COGNITIVE OVERTURN

凸性的幻觉与真实价值

凸性在理论上意味着全局最优可求,但在实际机器学习问题中,真正的凸性几乎不存在。凸性的真正价值不在于它是问题的真实属性,而在于它是分析工具——通过凸松弛、凸近似、凸下界,我们用凸性作为「透镜」来理解非凸问题。凸性是一个分析框架,不是一个物理事实。
来源

凸-非凸景观二分

可迁移到

复杂系统分析中,将不可直接求解的问题转化为可分析的凸近似(如将非线性市场模型线性化、将非凸调度问题松弛为线性规划)。

来自这本书的解读报告

《机器学习中的优化》

综合领域知识(基于Sra, Nowozin, Wright等经典文献体系) · 机器学习 / 数学优化

这本书回答了如何在高维非凸空间中高效找到模型最优参数的问题,答案是通过梯度信息驱动的迭代搜索并结合问题结构设计算法。

优化理论·梯度下降·凸优化·随机逼近·机器学习
阅读完整解读报告 →
PRESS YOUR OWN BOOK

找一本想读的书,解读出你自己的洞察

90 秒得到核心模型 · 行动接口 · 失效边界 · 三套 SOP

解读一本书 →