可迁移模型 · TRANSFERABLE MODEL
分离定理的美与脆弱
在点对点通信中,压缩和传输可以分别独立优化而不损失全局最优性——这就是分离定理。它之所以美,是因为它允许工程师"分而治之"。它之所以脆弱,是因为在多用户网络场景中分离定理失效,"分别最优"的组合可能远离全局最优。这个"美与脆弱"的模式在工程和管理中反复出现:模块化设计在简单系统中高效,在复杂交互系统中可能失灵。
来自这本书的解读报告
《信息论基础(Elements of Information Theory》
这本书回答了信息的数学本质是什么,其答案是熵与互信息同时决定压缩极限与通信极限。
阅读完整解读报告 →