它把不存在的按钮写进了我的手册:AI 幻觉是怎么回事,我现在怎么防

它把不存在的按钮写进了我的手册:AI 幻觉是怎么回事,我现在怎么防

摘要

让它核一份操作手册,它补了一条界面上根本不存在的按钮,语气比原手册还笃定。这篇拆开幻觉的成因:为什么它错得越具体越难被发现、为什么让它“再想想”没用,以及我套在模型外面的四层——查证代替回忆、引用标出处、代码校验、允许它说不知道。