一句论文标题，成了一代人的技术宣言
论文标题"Attention Is All You Need"直接点明了这篇论文最核心的主张：处理序列数据不再需要循环结构或卷积结构，仅凭注意力机制本身就已足够，这一在发表当时颇为大胆的论断，此后被证明极具前瞻性，"attention is all you need"这句标题也因此超越论文本身，成为此后人工智能领域被引用与化用次数最多的短语之一。
🔮
"Transformer八子"
本名Attention Is All You Need Authors
谷歌研究团队，Transformer自注意力架构的共同发明者
技术背后的规律 · 理论奠基人
Transformer架构自注意力机制《Attention Is All You Need》论文
是谁
2017年，八位谷歌研究人员——阿希什·瓦斯瓦尼、诺姆·沙泽尔、妮基·帕尔马、雅各布·乌兹科雷特、利昂·琼斯、艾丹·戈麦斯、卢卡什·凯泽与伊利亚·波洛苏欣——联名发表论文《Attention Is All You Need》（"注意力就是你所需要的一切"），提出一种完全摒弃此前主流的循环神经网络与卷积神经网络结构、仅依靠"自注意力机制"来处理序列数据的全新架构"Transformer"。这一架构让模型能够并行处理整个输入序列中任意两个位置之间的相互关系，而不必像循环神经网络那样必须逐步按顺序处理，这不仅大幅提升了训练效率，更重要的是使模型能够更充分地捕捉长距离的上下文依赖关系。Transformer架构此后成为几乎所有大规模语言模型——包括谷歌自身的BERT系列、OpenAI的GPT系列——共同采用的底层架构基础，深刻改变了自然语言处理乃至此后计算机视觉、蛋白质结构预测等诸多领域的技术路线，是2010年代深度学习领域影响最为深远的单篇论文成果之一。这八位作者此后大多离开谷歌，先后投身或创办了包括Anthropic、Character.AI、Cohere、Adept在内的多家人工智能创业公司，这一"论文作者集体出走创业"的现象，也从侧面反映出这项发明本身所蕴含的巨大产业价值。
依据原典瓦斯瓦尼等《Attention Is All You Need》（2017年，NeurIPS会议论文）
主要故事
八位作者，多家创业公司
这篇论文的八位作者此后陆续离开谷歌，分别参与创办或加入了包括Anthropic、Character.AI、Cohere、Adept、Inceptive等在内的多家人工智能创业公司，一篇论文的核心团队此后如此密集地分散催生出一整个新兴创业生态，这一现象本身也成为观察这轮生成式人工智能产业浪潮人才流动特征的典型案例。
版本分歧
这篇论文的八位作者对各自具体贡献的排序与描述，此后也引发过一些公开的轶事与讨论，但论文本身作为一个整体性的团队成果，其历史地位在学界并无争议。
人物关系
师父
今日回响
以下是现代作品对这个名字或故事的借用、改写，不代表原始内容——两者不一样，别混着记。
"Transformer"命名的由来据作者之一雅各布·乌兹科雷特回忆，"Transformer"这一名称的选择更多是因为团队觉得这个词"听起来很酷"，而非严格对应某个技术隐喻，这一命名轶事也常被援引说明重大技术突破的名称有时颇为随性。