很多人对大模型的幻觉不以为然,甚至盲目信任,造成了信息矫正的负担。
如果是一个中学生跟你说一件胡编的事情,你很快就能发现它的问题,但是如果是大学教授说一件不存在的事情,并且引经据典,你是否还能发现问题呢?

AI 的普及,导致生成内容的门槛嫉妒低,而热度一定程序上催生了盲目信任。

前些天,公司在探讨 “产品的文化符号”,需要去从传统文化中寻找文化意象。
对有一些歧义的文字名称,我通过古汉语字典等载体确认了涵义,发现了一些 “贬义” 的成分,作为产品文化符号不合适。

然后一个同事蹦出来,说这个词内涵丰富,是好的寓意,deepseek 都这么认为。

老板一听 deepseek 来劲了,好好好,我咋没想到问一下 ds,来,我看看。
俩人津津有味看起来了。
对于我翻阅词典、百科得到的 “贬义” 的解释不屑一顾。

对着 ds 生成的讨好内容,啧啧称好。他们完全不认为 AI 有幻觉,尤其是 ds 这样的大明星。

ps.
与其说 AI 正在制造大量的垃圾信息堆场,不如说这个时代越来越需要人有 “思辨” 的能力,绝大多数人对信息没有自我筛选、判断、加工的能力,听之信之。而没有思考力的,只会被海量信息蒙昧。
这也正提醒了我们,在强工具时代,辩证思维、结构性思维等思维范式,仍然是非常宝贵的特征。