一句论文标题，成了一代人的技术宣言
论文标题"Attention Is All You Need"直接点明了这篇论文最核心的主张：处理序列数据不再需要循环结构或卷积结构，仅凭注意力机制本身就已足够，这一在发表时颇为大胆的论断，此后被证明极具前瞻性——七年后，几乎所有主流大语言模型的技术基础都可以追溯到这篇论文提出的架构，"Attention Is All You Need"这句标题本身，也成为人工智能领域被引用与调侃最多的论文标题之一。
🔮
"Transformer八子"
本名Attention Is All You Need Authors
谷歌研究团队，Transformer自注意力架构的共同发明者
算法背后的数学 · 理论奠基人
Transformer架构自注意力机制《Attention Is All You Need》论文
是谁
2017年，八位谷歌研究人员——阿希什·瓦斯瓦尼、诺姆·沙泽尔、妮基·帕尔马、雅各布·乌兹科雷特、利昂·琼斯、艾丹·戈麦斯、卢卡什·凯泽与伊利亚·波洛苏欣——联名发表论文《Attention Is All You Need》（"注意力就是你所需要的一切"），提出一种完全摒弃此前主流的循环神经网络与卷积神经网络结构、仅依靠"自注意力机制"来处理序列数据的全新架构"Transformer"。这一架构让模型能够并行处理整个输入序列中任意两个位置之间的相互关系，而不必像循环神经网络那样必须逐步按顺序处理，这不仅大幅提升了训练效率，更重要的是使得模型能够更充分地捕捉长距离的上下文依赖关系。Transformer架构此后成为几乎所有大规模语言模型——包括谷歌自身的BERT系列、OpenAI的GPT系列——共同采用的底层架构基础，深刻改变了自然语言处理乃至此后计算机视觉、蛋白质结构预测等诸多领域的技术路线，是2010年代深度学习领域影响最为深远的单篇论文成果之一。这八位作者此后大多离开谷歌，先后投身或创办了包括Anthropic、Character.AI、Cohere、Adept在内的多家人工智能创业公司，这一"论文作者集体出走创业"的现象，也从侧面反映出这项发明本身所蕴含的巨大产业价值。
依据原典瓦斯瓦尼等《Attention Is All You Need》（2017年，NeurIPS会议论文）
主要故事
人物关系
今日回响
以下是现代作品对这个名字或故事的借用、改写，不代表原始内容——两者不一样，别混着记。
"论文作者集体出走创业"现象这八位作者此后大多离开谷歌投身人工智能创业，这一现象从侧面反映出这项发明本身所蕴含的巨大产业价值，也是科技媒体反复报道的话题。