奉天承運網

　　【现象】使用人工智能大模型时，不少人或许都遇到过类似问题：它们有时会捏造细节，甚至“一本正经地胡说八道”。比如，让它推荐书，给出的却是一堆压根不存在的书名；人物身份张冠李戴，还能给出一些并不准确的链接……这些现象都可以归为AI幻觉?！　　?#28857;评】　　所谓AI幻觉，可以通俗地理解为AI也会像人产生心理幻觉一样，遇到不熟悉或超出“知识储备”的问题时，编造一些并不存在的细节，生成与事实相悖的答案。一项调研显示，对于“公众认为使用AI应用过程中有哪些突出问题”，反馈最多的是“内容不准确，或含虚假信息”，占比高达42.2%?！　I幻觉从何而来？可能得从源头寻找答案。　　大模型的工作原理，是基于概率生成内容。给它上半句，它就根据自己“学”过的海量知识，“算出”下半句该说什么。比如，当用户输入“今天天气非常”，它大概率会接“不错”“热”“潮湿”等答案，而不会出现“甜”。同时，大模型又不是简单地储存所有事实，而会像人脑记东西那样，进行大量压缩和泛化——也就是“抓概要、找规律”。因此，当“喂给”大模型的训练数据包含虚假信息时，它就会产生“幻觉”、给出错误答案。　　有报告显示，我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长，AI幻觉潜藏的风险也随之增加。比如，如果一些看似合理却与现实相去甚远的内容被AI反复学习，会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥，已成为不容回避的课题?！　?#19981;过也有观点认为，AI幻觉可被视作一种“发散思维”和“想象力”。理论上，如果把训练一个大模型看作信息“压缩”的过程，那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式，可能会出现谬误，也可能触发新的创造。对发展尚未定型的新事物，要保持开放心态，辩证看待其利与弊，在有效防范弊端的同时，给予足够空间使之朝好的方向成长?！　?#30701;时间内，AI幻觉问题难以被解决。各方都在努力降低其负面影响，相关部门也加大了对违规AI产品的处置力度，推动生成合成内容标识加速落地。一些大模型厂商在积极行动，比如文心大模型利用检索到的信息来指导文本或答案的生成，提高了内容的质量和准确性；通义大模型加强训练语料管理，通过“红蓝对抗”机制提升对虚假信息的识别能力。对广大用户而言，则要加快提升AI素养，学会“智慧”地运用“智慧工具”，既借助大模型破除思维定式、启发创新思路，又提高自身有效获取、理解、评估和使用信息的能力?！　?#20154;类塑造工具，工具也影响人类生活。应对AI幻觉等问题挑战的过程，既促使人们思考改进工作方法，也为AI不断进化提供了源动力。激发新技术的正向价值，让AI更好融入生产生活、赋能千行百业，我们迈向智慧时代之路才能走得更加稳当、更加顺畅。　　谷业凯　　《人民日报》(2025年07月02日 第 05 版) 【编辑:史词】

• 首頁
• 綜合
• 娛樂
• 知識
• 焦點
• 百科

網站分類

• 娛樂
• 焦點
• 熱點
• 知識
• 時尚
• 休閑
• 綜合
• 探索

熱門文章

• 家用電器出現這幾種情況一定要注意！真的該換新了
• 你好，機器人在家嗎
• 逐夢·高招零距離丨保定理工學院2025年河北省本科招生計劃
• 山西省兒童醫院兩中心開診
• 香港5月零售業總銷貨臨時估值313億港元 同比升2.4%
• 文化中國行·千問千尋大運河｜萬斤糯米，如何筑就三百年“銅幫鐵底”？
• 靈丘：貨運行業聯合工會讓貨車司機找到“家”的溫度
• 小米推出移動固態硬盤 2000MB/s讀寫提供1TB容量
• 10億度疆電入渝 為山城送去清涼
• 美國公路安全保險協會（IIHS）最新碰撞試驗結果，15款車型僅有1款獲全優
• 新華V訪談丨天津航空董事長李榮魁：打造服務京津冀的“空中名片”
• 瞭望丨河北高速助力文旅產業“出圈”
• 中國成功發射試驗二十八號B星01星
• “中國式現代化的萬千氣象”網絡名人山西行活動啟動
• 第三屆石家莊五人制足球全國擂臺賽火熱開賽

友情鏈接

• 天津市人大常委會免職名單
• 今年首期增投個人普通車指標2.5萬個
• 天津：流光溢彩迎盛會
• 山西省醫保定點醫藥機構服務更透明
• AI構建“未來醫院”新范式
• 太原市人民代表大會常務委員會任免名單
• 山西省發布住房公積金二〇二四年年度報告
• 5月份中價?新華焦煤價格指數運行解讀
• 天津市2025年中考平穩順利結束
• Vlog｜解鎖津門親海“新玩法”
• 重慶江北國際機場預計今年暑運旅客吞吐量940萬人次
• 東西問丨王學典：警惕文明隔閡惡化為意識形態對抗
• 遼寧大連：純苯期貨掛牌上市首日運行平穩 產業鏈企業積極參與
• 時政現場說丨凝聚創新力量 筑牢強國之基
• 市場監管總局：嚴把特醫食品注冊關 保障過敏患兒身體健康
• 上期所：逐步將符合條件的商品期貨期權品種納入對外開放品種范圍
• 國道318線四川天全縣山體垮塌現場搜救工作結束
• 南京航空航天大學，太寶藏了吧！
• 挪威三文魚“飛抵”南京
• 遼寧大連：純苯期貨掛牌上市首日運行平穩 產業鏈企業積極參與

© 2025. sitemap