🧠AI 冷知识
你知道吗？
这些有趣的 AI 小知识可能让你大吃一惊
🎯
三十年后才被正式命名的算法EM算法(期望最大化)的形式化论文由Dempster、Laird和Rubin于1977年发表，但Baum-Welch算法(用于训练HMM)早在1960年代就已在实质上使用了EM的思想。EM的美妙之处在于：它把一个难以直接优化的似然函数拆成两步交替执行——E步计算隐变量的期望，M步最大化这个期望。但它有致命弱点：只能收敛到局部最优，且对初始化敏感，不同的初始值可能得到完全不同的结果。
来源：Dempster, Laird & Rubin, "Maximum Likelihood from Incomplete Data", JRSS 1977
一句话总结
💡
EM 算法通过 E 步求期望、M 步最大化交替迭代，求解含隐变量的最大似然估计。
常见误区
这些坑别踩
✗
误区 1
EM 一定能找到全局最优。
✓
正确理解
EM 只保证收敛到局部最优，对初始化敏感。
✗
误区 2
E 步和 M 步随便选一个就行。
✓
正确理解
需严格交替执行，E 步基于当前参数求隐变量期望，M 步更新参数。
✗
误区 3
EM 只用于高斯混合模型。
✓
正确理解
EM 是通用框架，适用于任何含隐变量的概率模型。