让模型学会"该看哪里"
本吉奥与合作者构思的注意力机制，让神经机器翻译模型在生成译文的每一个词时，都能动态回顾输入原文中与当前最相关的部分，而不必像此前的模型那样，被迫把整段原文压缩进一个固定长度的向量里再统一解码——这一"按需动态关注"的设计思路，此后被证明是深度学习处理序列数据最重要的思想突破之一，三年后的Transformer架构正是将这一思路推向了极致。
🔗
约书亚·本吉奥
本名Yoshua Bengio
加拿大计算机科学家，注意力机制与序列建模的先驱
技术背后的规律 · 理论奠基人
神经机器翻译注意力机制的早期探索蒙特利尔学习算法研究所（Mila）
是谁
约书亚·本吉奥（1964- ）是加拿大计算机科学家，长期在蒙特利尔大学从事神经网络在自然语言处理领域的研究工作，他与合作者在循环神经网络处理长序列数据时普遍面临的"梯度消失"难题上做出重要理论贡献，并于2014年与合作者共同提出将"注意力机制"引入神经机器翻译模型——让模型在生成每一个输出词时，都能够动态地对输入序列中最相关的部分给予更高权重的关注，而非像此前的模型那样必须把整段输入压缩进一个固定长度的向量。这一注意力机制的早期探索，为三年后谷歌研究团队提出完全基于自注意力机制、彻底摒弃循环结构的"Transformer"架构，提供了重要的思想先导。本吉奥2016年在蒙特利尔创立"蒙特利尔学习算法研究所"（Mila），此后发展成为全球规模最大的深度学习研究机构之一。他因这些奠基性贡献，与辛顿、勒昆于2018年共同获得图灵奖。近年来，本吉奥持续在国际公开场合就先进人工智能系统可能带来的安全与社会风险发出警示，是多份国际人工智能安全评估报告的核心作者之一。
依据原典巴丹瑙、赫、本吉奥《通过联合学习对齐与翻译的神经机器翻译》（2014年，注意力机制早期论文）
主要故事
从技术奠基人到风险警示者
本吉奥近年来投入相当精力，持续在国际公开场合与政策制定场合就先进人工智能系统可能带来的安全隐患与社会风险发出警示，参与撰写多份具有广泛国际影响力的人工智能安全评估报告，这一从"奠定技术基础"到"警示技术风险"的角色转变，在他与辛顿等同代深度学习奠基者身上都不同程度地出现，也是这一代技术奠基者集体面对自己亲手推动的技术浪潮时颇为独特的心路历程。
人物关系
今日回响
以下是现代作品对这个名字或故事的借用、改写，不代表原始内容——两者不一样，别混着记。
国际人工智能安全报告的核心作者本吉奥是多份由多国政府支持编写的"国际人工智能安全报告"的核心作者之一，这类报告已成为各国政府制定人工智能监管政策时的重要参考依据。