🧠AI 冷知识
你知道吗？
这些有趣的 AI 小知识可能让你大吃一惊
🌅
循环的黄昏RNN曾统治序列建模长达20年，但Transformer出现后迅速边缘化。RNN的致命伤是"无法并行"——必须逐个时间步计算。不过RNN并未完全死亡：在资源受限的边缘设备上，轻量RNN(如Mamba的前身)仍有用武之地，因为它的推理内存远小于Transformer。
一句话总结
💡
RNN系列通过隐藏状态处理序列数据，标准RNN有梯度问题，LSTM和GRU通过门控机制改善，注意力机制进一步突破长程依赖限制。
常见误区
这些坑别踩
✗
误区 1
LSTM/GRU是处理序列数据的终极方案。
✓
正确理解
LSTM/GRU虽能处理较长序列但仍有局限且无法并行，Transformer通过自注意力机制完全摆脱递归结构，已成为序列建模的主流。
✗
误区 2
RNN已被完全淘汰没有用了。
✓
正确理解
RNN/LSTM/GRU在资源受限场景(如边缘设备)、小数据量和实时流式处理中仍有优势，并非完全被取代，应根据场景选择。
巩固练习
章节练习与面试准备
通过测试检验学习效果，通过面试题提升实战能力
章末测试
共 4 题 · 选择题
1
基础 RNN（Vanilla RNN）的主要局限性不包括以下哪项？
2
相比 RNN，Transformer 在序列建模上的核心优势是？
3
下列关于 RNN 发展趋势的描述，正确的是？
4
为缓解 RNN 的长程依赖问题，下列方法中效果最显著的是？
面试经典题
共 4 题 · 先思考再看答案
1
基础
总结 RNN 的主要局限性，并说明每种局限的成因。
2
中等
从 RNN 到 LSTM/GRU 再到 Transformer，序列建模经历了怎样的演进？驱动因素是什么？
3
困难
既然 Transformer 已占主导，RNN 还有哪些不可替代的应用场景？
4
困难
近年来出现的线性 RNN（如 Mamba、RWKV）是如何兼顾效率与表达力的？
💡 建议：先独立思考并组织语言，再对照参考答案查漏补缺