🧠AI 冷知识
你知道吗?
这些有趣的 AI 小知识可能让你大吃一惊
💡
概念"表征学习"这个词听起来抽象,但它做的事情很具体:把图像的数百万个像素压缩成几百维的向量,且语义相似的图像向量也相似。一个好的表征应该满足"线性可分性"——用一根直线(或超平面)就能把猫和狗分开。表征学习的终极目标是"通用性":在 ImageNet 上学到的特征应该也能用于医学影像、卫星图片甚至手写数字。CLIP 的成功证明了这一点——它的图文表征在 30 多个不同领域的数据集上都达到了接近监督训练的效果。
一句话总结
💡
表征学习旨在自动学习数据的有效特征表示,使下游任务更易解决,是深度学习的核心目标之一。
常见误区
这些坑别踩
✗
误区 1
表征学习必须有标签。
✓
正确理解
自监督等方法能从无标签数据学习表征,标签非必需。
✗
误区 2
好的表征对所有下游任务都好。
✓
正确理解
表征质量与任务相关,通用表征需针对具体任务评估。
✗
误区 3
表征越复杂越好。
✓
正确理解
好的表征应简洁、解耦且具判别力,复杂不等于好。