🧠AI 冷知识
你知道吗？
这些有趣的 AI 小知识可能让你大吃一惊
🌉
桥梁的作用交叉注意力是编码器和解码器之间的唯一桥梁——解码器的Query来自自身，Key和Value来自编码器输出。这就像翻译时"看着原文写译文"：Query是"我写到哪了"，Key和Value是"原文说了什么"。没有它，解码器就成了无源之水。
一句话总结
💡
交叉注意力让解码器的 Query 去关注编码器输出的 Key 和 Value，从而在生成时动态对齐源序列信息。
常见误区
这些坑别踩
✗
误区 1
交叉注意力中 Q、K、V 都来自编码器。
✓
正确理解
Q 来自解码器，K 和 V 来自编码器，这才实现"用解码器需求去检索编码器信息"。
✗
误区 2
没有交叉注意力也能做翻译。
✓
正确理解
缺少交叉注意力解码器无法获取源句信息，等同于无条件生成。
✗
误区 3
交叉注意力和自注意力计算方式不同。
✓
正确理解
计算公式相同，区别只在于 Q/K/V 的来源不同。