🧠AI 冷知识
你知道吗？
这些有趣的 AI 小知识可能让你大吃一惊
📖
最后一步的智慧用RNN做文本分类时，通常只取最后一个时间步的隐状态作为整个句子的表示。这意味着RNN必须把"整句话的意思"压缩到一个固定向量里——这其实是Seq2Seq的瓶颈所在，也是后来注意力机制要解决的核心问题。
一句话总结
💡
RNN 通过隐藏状态逐步处理序列，理论上能捕获任意长度依赖，常用于文本分类与序列建模。
常见误区
这些坑别踩
✗
误区 1
RNN 天然能记住长距离信息。
✓
正确理解
实际上 RNN 存在梯度消失/爆炸，长距离信息会衰减，需 LSTM/GRU 缓解。
✗
误区 2
双向 RNN 一定比单向好。
✓
正确理解
双向在离线分类时通常更好，但实时生成任务不能用未来信息。
✗
误区 3
用最后一个隐藏状态就能代表整个序列。
✓
正确理解
最后状态可能丢失早期信息，可结合注意力或最大池化。