AI里最大的Bug，也是人类文明最伟大的起点

数字生命卡兹克 4小时前来源: 虎嗅网热度: 8

OpenAI论文揭示AI幻觉源于训练体系奖励猜测而非沉默，导致准确率无法100%；幻觉可控为说"我不知道"，小模型更可靠。类比人类信息不足时创造神话的历史，幻觉在严肃领域有害但在创意中是优点，既是Bug也是人类文明的起源。训练机制：训练体系系统性奖励猜测行为产生AI幻觉。数据对比：OpenAI实验显示诚实模型......