媒体中所报道的因为训练语料库污染,而出现的AI机器幻觉与机器欺骗的现象

朋友们好,我使用AI大模型已经一年了,通过它来查询资料时经常会出现错误的问题,但经过一年的发展和完善,AI所给予的答案差错率已经降低了很多了,为什么他会出现答案错误的问题呢,最近媒体中也经常在讨论这个话题,其中二月二十五日,中国之声下午的新闻进行时节目,在14点05分,播出了有关我国人口年龄逐年下降的有关谣言问题,其根源在于AI大模型提供的数据,并说是由正规专家来提供的,但经过官方正规渠道查询根本没有这么回事,再次向AI提问,他还会改口申辩,感兴趣的朋友们可以回听一下这个报道,几家媒体在采访有关专业人士时所得到的回答是,各类AI大模型通过他强大的运算能力,能迅速的将网上的各类资源信息进行分析整合,很快的提取到有用的信息资料,但互联网上的信息有些是正规官方渠道提供的,有些是自媒体平台发布的错误信息,或者是没有经过核实的消息,这样AI大模型的训练语料库就受到了污染,而出现了机器幻觉或机器欺骗的问题,现在没有什么好的解决办法,只能期待AI大模型技术未来会变得更强大,处理有关信息会更加的精准,在当前的这种状况下,只能依靠个人知识的积累以及生活的阅历,来甄别所查询的信息是否正确,所以我在通过他查询问题的时候确实要倍加小心甄别,不然就会被他那种在回答问题时,严肃认真的态度假象所蒙蔽了,如果没有朋友为我证实,确实不是很踏实

发表于:2025-02-26 20:28
4个回复
您还没有登录,登录后才可回复。 登录 注册