AI 幻觉,指大模型在生成回答时,编造事实、混淆信息、引用过期内容的现象。很多企业以为只要官网信息正确就足够,但忽略了:大模型会抓取全网碎片化网页、旧文章、转载内容整合答案。
当潜在客户向大模型咨询品牌业务,AI 幻觉会带来几类典型问题:业务范围描述过时、将竞品案例安在本品牌身上、错误介绍企业资质、编造不存在的服务。这类错误信息藏在大模型回答内,传统舆情监控很难捕捉,属于隐形品牌风险。
普通舆情工具,主要抓取社交媒体、新闻评论等公开内容;而 GEO 天眼,直接模拟用户提问,采集大模型输出的原始回答,识别 AI 幻觉带来的品牌信息冲突、错误描述,并留存问答快照。系统还可以溯源 AI 采信的原始网页,找到产生错误信息的源头。
识别风险之后,搭配万域智瞰搭建结构化官方知识库,输出 AI 更容易读取的权威内容,提升官方信息权重,降低大模型采信老旧碎片化信息的概率。
需要注意,无法彻底根除 AI 幻觉。互联网存量历史信息数量庞大,企业的目标不是消除全部碎片内容,而是让官方权威信息成为大模型优先采信的信源,减少错误描述出现概率,提前发现风险,避免客户被误导。