🧠AI 冷知识
你知道吗?
这些有趣的 AI 小知识可能让你大吃一惊
🎯
吴恩达的论文之一潜在狄利克雷分配(LDA)由Blei、Ng和Jordan于2003年提出,是主题模型中最经典的算法。名字中的"Dirichlet"指的是狄利克雷分布——它是多项式分布的共轭先验,让模型可以做高效的贝叶斯推断。三位作者中的Andrew Ng正是后来创立Coursera、领导Google Brain和百度AI的吴恩达。LDA假设每篇文章是多个主题的混合,每个主题是多个词的分布——一篇关于"苹果"的文章可能70%是科技主题、30%是食品主题。
来源:Blei, Ng & Jordan, "Latent Dirichlet Allocation", JMLR 2003
一句话总结
💡
LDA 通过最大化类间方差与类内方差之比寻找最优投影方向,实现线性分类与降维。
常见误区
这些坑别踩
✗
误区 1
LDA 和 PCA 一样是无监督降维。
✓
正确理解
LDA 是有监督的,利用类别信息最大化类间分离,PCA 无监督只最大化方差。
✗
误区 2
LDA 能处理任意多类。
✓
正确理解
LDA 投影维度受类别数限制,最多降到 C-1 维。
✗
误区 3
LDA 假设数据线性可分一定成立。
✓
正确理解
LDA 假设高斯和等协方差,不满足时效果会下降。