知了AI学习平台Logo知了
🧠AI 冷知识

你知道吗?

这些有趣的 AI 小知识可能让你大吃一惊

🎯
吴恩达的论文之一

潜在狄利克雷分配(LDA)由Blei、Ng和Jordan于2003年提出,是主题模型中最经典的算法。名字中的"Dirichlet"指的是狄利克雷分布——它是多项式分布的共轭先验,让模型可以做高效的贝叶斯推断。三位作者中的Andrew Ng正是后来创立Coursera、领导Google Brain和百度AI的吴恩达。LDA假设每篇文章是多个主题的混合,每个主题是多个词的分布——一篇关于"苹果"的文章可能70%是科技主题、30%是食品主题。

来源:Blei, Ng & Jordan, "Latent Dirichlet Allocation", JMLR 2003

一句话总结
💡

LDA 通过最大化类间方差与类内方差之比寻找最优投影方向,实现线性分类与降维。

常见误区

这些坑别踩

✗

误区 1

LDA 和 PCA 一样是无监督降维。

✓

正确理解

LDA 是有监督的,利用类别信息最大化类间分离,PCA 无监督只最大化方差。

✗

误区 2

LDA 能处理任意多类。

✓

正确理解

LDA 投影维度受类别数限制,最多降到 C-1 维。

✗

误区 3

LDA 假设数据线性可分一定成立。

✓

正确理解

LDA 假设高斯和等协方差,不满足时效果会下降。