"苦涩的教训":越通用、越依赖算力的方法,往往笑到最后
萨顿在文中回顾了计算机国际象棋、语音识别、计算机视觉等多个人工智能子领域的发展历程,发现一个反复出现的模式:研究者最初总是倾向于把人类的专业知识与直觉编码进系统,短期内确实能取得进展,但长期来看,那些放弃依赖人类先验知识、转而依靠更强算力与更多数据进行通用搜索或学习的方法,几乎总能后来居上、取得更好效果。这一观察被许多研究者视为解释此后大语言模型"规模化路线"为何能够压倒此前多种更"精巧"方法的重要理论依据。
加拿大计算机科学家,强化学习理论的奠基人
理查德·萨顿(1957- )是加拿大计算机科学家,长期任教于阿尔伯塔大学,与安德鲁·巴托合著的《强化学习:导论》被公认为该领域最经典、影响最广泛的教科书,系统建立了"智能体通过与环境交互、依据奖励信号调整策略"这一强化学习框架的理论基础,这套理论此后成为AlphaGo等系统的核心训练机制。萨顿2019年发表的短文《苦涩的教训》,提出一个此后被业界反复引用讨论的观点:纵观人工智能研究七十年历史,那些依靠堆砌算力与数据、而非依赖人类精心设计的领域知识与规则的通用方法,长期来看总是更胜一筹,这篇文章此后被广泛视为解释大语言模型"规模化路线"为何最终占据主流的重要理论依据之一。
萨顿在文中回顾了计算机国际象棋、语音识别、计算机视觉等多个人工智能子领域的发展历程,发现一个反复出现的模式:研究者最初总是倾向于把人类的专业知识与直觉编码进系统,短期内确实能取得进展,但长期来看,那些放弃依赖人类先验知识、转而依靠更强算力与更多数据进行通用搜索或学习的方法,几乎总能后来居上、取得更好效果。这一观察被许多研究者视为解释此后大语言模型"规模化路线"为何能够压倒此前多种更"精巧"方法的重要理论依据。
以下是现代作品对这个名字或故事的借用、改写,不代表原始内容——两者不一样,别混着记。