🧠AI 冷知识
你知道吗？
这些有趣的 AI 小知识可能让你大吃一惊
🔗
压缩瓶颈Seq2Seq的编码器把整个输入序列压缩成一个固定长度的向量，解码器再从这个向量展开生成输出。这就像要求一个人把一整本书的内容"背诵"成一个词，然后再凭这个词重写整本书——信息丢失不可避免，这正是注意力机制诞生的直接动机。
一句话总结
💡
Seq2Seq 用一个编码器将输入序列编码为向量，再由解码器逐步生成输出序列，是机器翻译等任务的基础架构。
常见误区
这些坑别踩
✗
误区 1
编码器的最终隐藏状态能完整表达长序列。
✓
正确理解
固定长度的上下文向量是信息瓶颈，长序列信息会丢失，这正催生了注意力机制。
✗
误区 2
解码器每步输入都一样。
✓
正确理解
解码器是自回归的，每步以上一步输出作为输入逐步生成。
✗
误区 3
Seq2Seq 只能做翻译。
✓
正确理解
它可用于摘要、对话、代码生成等多种序列到序列任务。
巩固练习
章节练习与面试准备
通过测试检验学习效果，通过面试题提升实战能力
章末测试
共 4 题 · 选择题
1
Seq2Seq（序列到序列）模型的基本结构是？
2
传统 Seq2Seq 中"上下文向量"（context vector）的瓶颈问题是？
3
注意力机制如何解决 Seq2Seq 的上下文向量瓶颈？
4
Seq2Seq 模型的典型应用场景不包括以下哪项？
面试经典题
共 4 题 · 先思考再看答案
1
基础
请描述 Seq2Seq 模型的编码器-解码器结构及完整工作流程。
2
中等
详细分析传统 Seq2Seq 的上下文向量瓶颈问题，以及注意力机制如何解决它。
3
中等
比较 RNN-based Seq2Seq 与 Transformer-based Seq2Seq 的区别与优劣。
4
困难
Seq2Seq 训练中存在哪些问题？有哪些改进技巧？
💡 建议：先独立思考并组织语言，再对照参考答案查漏补缺