一个团队,孕育了改变整个行业的论文
迪恩主导的谷歌大脑团队汇聚了大量深度学习领域的顶尖研究者,2017年团队内部八位研究人员联合发表《Attention Is All You Need》论文,提出完全基于自注意力机制的Transformer架构,这篇论文此后不仅成为谷歌自身BERT、PaLM等模型的技术基础,也直接启发了OpenAI的GPT系列模型,成为整个大语言模型产业公认的共同技术地基,其影响力远超论文发表当时任何人的预期。
美国计算机科学家,谷歌人工智能首席科学家
杰夫·迪恩(1968- )是美国计算机科学家,1999年加入谷歌,主导设计了包括MapReduce、BigTable在内的多项支撑谷歌早期崛起的核心大规模分布式系统架构,被公司内部与业界誉为工程能力的传奇人物,甚至衍生出大量类似"程序员笑话"的"杰夫·迪恩趣闻"在工程师圈子中流传。2011年,他共同创立"谷歌大脑"(Google Brain)研究团队,将深度学习研究系统性地引入谷歌的产品与基础设施,此后主导开发了被广泛应用的开源机器学习框架TensorFlow。谷歌大脑团队此后于2017年发表《Attention Is All You Need》论文,提出Transformer架构,这篇诞生于迪恩所领导团队内部的论文,此后成为几乎所有现代大语言模型共同采用的底层技术基础。2023年,谷歌大脑团队与DeepMind合并为统一的"谷歌DeepMind",迪恩转任谷歌首席科学家一职。
迪恩主导的谷歌大脑团队汇聚了大量深度学习领域的顶尖研究者,2017年团队内部八位研究人员联合发表《Attention Is All You Need》论文,提出完全基于自注意力机制的Transformer架构,这篇论文此后不仅成为谷歌自身BERT、PaLM等模型的技术基础,也直接启发了OpenAI的GPT系列模型,成为整个大语言模型产业公认的共同技术地基,其影响力远超论文发表当时任何人的预期。
以下是现代作品对这个名字或故事的借用、改写,不代表原始内容——两者不一样,别混着记。