别让AI"死磕"一个固定目标
罗素在《人类兼容》一书中指出，传统人工智能系统设计范式的一个根本性风险在于，一旦为系统设定了某个具体而固定的优化目标，系统便可能不择手段地追求这一目标的实现，即便这与人类的真实意图产生偏差也在所不惜。他主张应当设计出对自身应当追求的目标本身保持天然不确定性、并因此始终愿意参照人类的实时反馈进行修正的系统，这一理念此后被称为"人类兼容"人工智能，成为人工智能安全领域最具影响力的理论框架之一。
⚖️
斯图尔特·罗素
本名Stuart Russell
英国计算机科学家，人工智能安全研究的倡导者
算法背后的数学 · 理论奠基人
《人工智能：一种现代方法》教科书"人类兼容"人工智能理论人工智能安全的学术推动
是谁
斯图尔特·罗素是英国计算机科学家，长期任教于加州大学伯克利分校，与彼得·诺维格合著的《人工智能：一种现代方法》是全球高校最广泛采用的人工智能入门教科书之一，系统梳理了这一学科自符号主义到统计学习、再到深度学习的完整技术脉络。罗素此后将研究重心更多转向人工智能安全议题，2019年出版《人类兼容》一书，提出应当从系统设计的源头就摒弃"为AI系统设定一个固定目标、令其不顾一切地优化实现"这一传统思路，转而设计出天然对自身目标保持不确定、并因此愿意持续参照人类反馈进行调整的人工智能系统，这一理论框架此后成为人工智能安全领域最具影响力的理论范式之一。
依据原典罗素与诺维格《人工智能：一种现代方法》（1995年首版）罗素《人类兼容》（2019）
主要故事
人物关系
今日回响
以下是现代作品对这个名字或故事的借用、改写，不代表原始内容——两者不一样，别混着记。
全球高校最广泛采用的AI教科书《人工智能：一种现代方法》至今仍是全球绝大多数高校人工智能入门课程的指定教材，影响了几代人工智能研究者的知识框架。