🧠AI 冷知识
你知道吗？
这些有趣的 AI 小知识可能让你大吃一惊
💡
Yann LeCun的执念基于能量的模型(EBM)给每个数据配置分配一个"能量值"——低能量代表"合理"，高能量代表"不合理"。这直接源自统计物理：自然系统倾向于低能量状态。Yann LeCun过去十年反复强调EBM是通向AGI的正确方向，他认为生成式模型不应预测像素而应学习"什么是合理的"。EBM的致命弱点是采样困难——要从EBM中生成样本需要MCMC(马尔可夫链蒙特卡洛)方法，而MCMC收敛极慢且难以诊断。这也是为什么扩散模型(可以看作特殊的EBM)最终胜出：它们用神经网络直接学习去噪，绕过了MCMC的困难。
来源：LeCun et al., "A Path Towards Autonomous Machine Intelligence", 2022
一句话总结
💡
能量模型通过定义能量函数衡量数据合理性，低能量对应高概率，常用 Langevin 动力学采样。
常见误区
这些坑别踩
✗
误区 1
能量模型能直接高效采样。
✓
正确理解
EBM 的归一化常数不可算，采样需 MCMC（Langevin）迭代，慢且难。
✗
误区 2
能量值就是概率值。
✓
正确理解
概率是能量的指数归一化（玻尔兹曼分布），需除以配分函数，能量低才概率高。
✗
误区 3
EBM 和 GAN 一样不需要似然。
✓
正确理解
EBM 定义了显式（未归一化）密度可计算能量，GAN 是完全隐式密度。