随着天生式人为智能深度融入AB钱包出产生涯，，“有问题问AI”已经成为不少人的习惯，，但AI带给我们方便的同时，，也陪伴着一些问题，，好比有人就发现，，AI提供的内容并不那么正确，，有时甚至会出现严重的谬误。！５盇I郑重其事地“言三语四”，，就是AI“幻觉”的典型阐发。！

    来听听AB钱包人为智能公司AI专家王占一解读什么是AI“幻觉”，，以及若何预防AI“幻觉”。！

    近日，，一位网友吐槽，，自己的手机不休接到陌生电话，，对方开口就问是否卖猪。！Ｆ鸪跛晕嵌褡骶，，后来才发现，，这些电话竟然来自AI的搜索了局，，他的号码被AI谬误标注为某养殖场的联系方式。！I为何会产生这样的“幻觉”？？这种“幻觉”能否预防呢？？

    AB钱包人为智能公司首席AI专家王占一介绍：：AI的幻觉此刻重要指的是大模型的幻觉，，那就是大模型在它的天生
、回覆的过程中，，看似天生了好多合理的
、很流畅
、很天然
、语义语法
、也没问题的回覆，，但是它在事实性
、真实性上面是有问题的，，可能比力自负，，郑重其事在说什么，，但是其实是不合的。！

    当AI郑重其事地“言三语四”时，，就是“AI幻觉”的典型阐发。！Ｓ捎贏I给出的回覆读着通顺
、语气笃定，，用户往往很难判断其真伪。！Ｄ敲，，AI为什么会产生这种幻觉呢？？

    数据层面：：训练的数据有可能质量差或者数据缺失，，数据的时效性不够，，以及问题可能是它没有学过。！

    模型机制：：也是最关键的，，就是模型自身的实现机制。！Ｓ捎谒陨硎且恢指怕誓Ｐ，，它依赖于前面的上文去推理下一个词，，这个过程中可能就会有一些“幻觉”，，是由于它去回覆的时辰是越发关注于怎么样越发流畅，，但是它没有关注到事实性。！

    推理与高低文：：高低文过长，，会对模型的能力提出挑战，，用户的输入和指令可能也有前后矛盾的，，模型可能也不知晓应该选哪个，，这也有可能鉴别错。！

    专家：：当前"AI幻觉"不能齐全预防但可缓解

    专家通知记者，，作为平台方，，“AI会产生幻觉”这件事自身，，是齐全可预感的，，但具体何时
、针对哪个问题会出现幻觉，，却难以判断。！２煌，，在当前技术前提下，，AI幻觉虽无法齐全解除，，仍可通过预防措施来降低其产生概率。！

    王占一暗示，，能够通过这些伎俩综合起来能够将幻觉尽量去降低。！

    在数据层面做一些优化。！

    在训练层面，，通过强化学习的训练步骤，，让它可能更正确。！

    在后面模型利用时，，在里边加一些工程化的伎俩，，让它尽量去缓解幻觉，，校验能够用多个大模型或者智能体之间去相互校验。！

    能够做一些类似于护栏伎俩，，好比说输出涉及容易出幻觉的处所，，这些能够做一个交叉验证，，是不是此外处所也有这种足够翔实的起源。！