"随机鹦鹉":会说话,不代表懂道理
格布鲁与合著者在论文中用"随机鹦鹉"来比喻大语言模型的本质——就像一只经过训练能够模仿人类说话声音的鹦鹉,看似能说出流畅连贯的语句,实际上并不理解这些语句背后真正的含义,这一比喻精准地捕捉到了大语言模型能力的一个核心局限,此后被学界与公众广泛引用,成为讨论生成式人工智能能力边界时最常被提及的说法之一。
埃塞俄比亚裔美国计算机科学家,AI伦理研究者
蒂姆尼特·格布鲁是出生于埃塞俄比亚的计算机科学家,曾任谷歌人工智能伦理团队联合负责人,2020年与团队成员合著论文《论随机鹦鹉的危险:语言模型是否可能过于庞大?》,系统指出大语言模型在训练数据规模不断扩大的同时,也可能放大训练数据中蕴含的社会偏见与歧视性内容,且其生成流畅文本的能力容易让使用者误以为模型真正"理解"了内容含义,而实际上模型本质上只是在进行统计意义上的模式匹配,这一比喻中的"随机鹦鹉"一词此后被广泛引用,成为描述大语言模型能力局限的经典说法之一。2020年末,格布鲁因这篇论文的发表流程与公司内部意见相左,在颇具争议的情况下离开谷歌,这一事件在科技行业引发了关于企业内部人工智能伦理研究独立性的广泛讨论。格布鲁此后创立独立研究机构"分布式人工智能研究所"(DAIR),继续从事相关研究工作。
格布鲁与合著者在论文中用"随机鹦鹉"来比喻大语言模型的本质——就像一只经过训练能够模仿人类说话声音的鹦鹉,看似能说出流畅连贯的语句,实际上并不理解这些语句背后真正的含义,这一比喻精准地捕捉到了大语言模型能力的一个核心局限,此后被学界与公众广泛引用,成为讨论生成式人工智能能力边界时最常被提及的说法之一。
格布鲁离开谷歌的具体经过,公司方面与格布鲁本人的说法存在分歧,本站陈述已公开的事实经过,不裁定孰是孰非。
以下是现代作品对这个名字或故事的借用、改写,不代表原始内容——两者不一样,别混着记。