如何看待AI“一本正經地胡說八道”
(資料圖片僅供參考)
【點評】
所謂AI幻覺，可以通俗地理解為AI也會像人產生心理幻覺一樣，遇到不熟悉或超出“知識儲備”的問題時，編造一些并不存在的細節，生成與事實相悖的答案。一項調研顯示，對于“公眾認為使用AI應用過程中有哪些突出問題”，反饋最多的是“內容不準確，或含虛假信息”，占比高達42.2%。
AI幻覺從何而來？可能得從源頭尋找答案。
大模型的工作原理，是基于概率生成內容。給它上半句，它就根據自己“學”過的海量知識，“算出”下半句該說什么。比如，當用戶輸入“今天天氣非常”，它大概率會接“不錯”“熱”“潮濕”等答案，而不會出現“甜”。同時，大模型又不是簡單地儲存所有事實，而會像人腦記東西那樣，進行大量壓縮和泛化——也就是“抓概要、找規律”。因此，當“喂給”大模型的訓練數據包含虛假信息時，它就會產生“幻覺”、給出錯誤答案。
有報告顯示，我國生成式人工智能產品用戶規模達2.49億人。用戶規模快速增長，AI幻覺潛藏的風險也隨之增加。比如，如果一些看似合理卻與現實相去甚遠的內容被AI反復學習，會形成“數據污染—算法吸收—再污染”的惡性循環。有效防范由此帶來的虛假信息泛濫，已成為不容回避的課題。
不過也有觀點認為，AI幻覺可被視作一種“發散思維”和“想象力”。理論上，如果把訓練一個大模型看作信息“壓縮”的過程，那么大模型經過推理、輸出答案就是一個信息“解壓”的過程。這種處理信息的方式，可能會出現謬誤，也可能觸發新的創造。對發展尚未定型的新事物，要保持開放心態，辯證看待其利與弊，在有效防范弊端的同時，給予足夠空間使之朝好的方向成長。
短時間內，AI幻覺問題難以被解決。各方都在努力降低其負面影響，相關部門也加大了對違規AI產品的處置力度，推動生成合成內容標識加速落地。一些大模型廠商在積極行動，比如文心大模型利用檢索到的信息來指導文本或答案的生成，提高了內容的質量和準確性；通義大模型加強訓練語料管理，通過“紅藍對抗”機制提升對虛假信息的識別能力。對廣大用戶而言，則要加快提升AI素養，學會“智慧”地運用“智慧工具”，既借助大模型破除思維定式、啟發創新思路，又提高自身有效獲取、理解、評估和使用信息的能力。
人類塑造工具，工具也影響人類生活。應對AI幻覺等問題挑戰的過程，既促使人們思考改進工作方法，也為AI不斷進化提供了源動力。激發新技術的正向價值，讓AI更好融入生產生活、賦能千行百業，我們邁向智慧時代之路才能走得更加穩當、更加順暢。
標簽：
搶先讀
- “人工智能+”重塑制造業競爭優勢
- AI拓展信息通信業新天地
- 如何看待AI“一本正經地胡說八道”
- 人工智能應用場景加速拓展 要聞速遞
- “車路云一體化” 讓“聰明車”跑上“智慧路” 當前信息
- AI拓展信息通信業新天地-今日觀點
- 國家網信辦發布《網信部門行政處罰裁量權基準適用規定》 微資訊
- “車路云一體化” 讓“聰明車”跑上“智慧路”|最新快訊
- 探訪世界互聯網大會開放日 這個市集會讓你大開眼界|今日熱門
- 今日熱文：前5個月我國規上互聯網企業完成互聯網業務收入7735億元
- 看熱訊：車企縮短賬期，供應鏈有何影響？
- 每日消息!以硬核創新實力閃亮國際舞臺 江淮汽車榮獲“科技創新優秀案例”
- 快播：新疆石河子航空產業向全產業鏈發展邁進
- 新疆石河子航空產業向全產業鏈發展邁進 焦點信息
- （活力中國調研行）拓展多元場景 安徽低空經濟“高飛”
- 焦點速讀：新疆石河子航空產業向全產業鏈發展邁進
- 播報:國家礦山安全監察局公布2025年第二批典型執法案例
- 國家礦山安全監察局公布2025年第二批典型執法案例
- A股高開 海洋經濟概念股持續強勢
- 2025（中國）亞歐商品貿易博覽會簽約金額逾4179億元
- 6月份中國倉儲指數為51% 連續八個月運行在擴張區間
- 7月3日央行開展572億元7天期逆回購操作 焦點日報
- 寧夏銀川：智能化與科技創新雙輪驅動 激活高質量發展新動能 播資訊
- 焦點要聞：寧夏銀川：智能化與科技創新雙輪驅動 激活高質量發展新動能
- 熱頭條丨中國首座海水漂浮式光伏項目建成投用
- A股海洋經濟板塊周三表現亮眼
- 中國工商銀行獲準擔任土耳其人民幣清算行
- 通訊！A股海洋經濟板塊周三表現亮眼
- 每日時訊!京津兩地離境退稅“即買即退”實現跨城互認
- 機構指2025年香港IPO集資額有望重奪全球首位
- 中國工商銀行獲準擔任土耳其人民幣清算行_焦點日報
- 機構指2025年香港IPO集資額有望重奪全球首位|焦點簡訊
- 上墳之交是什么意思？上墳之交是什么梗？
- 黃式自信是什么意思？黃式自信是什么梗？|最資訊
- 黃式自信是什么意思？黃式自信是什么梗？
- 山正是什么意思？什么是山正？ 當前熱議
- 社交天花板是什么意思？什么是社交天花板？|每日熱聞
- 觀焦點：走進首都“材料谷”：政企攜手打造完整新材料產業鏈生態
- 焦點快播：你的鎂偷走了我的鋅是什么意思？你的鎂偷走了我的鋅是什么梗？
- 從每月一班到每日十班 河南中歐班列累計運貨逾1228萬噸-每日頭條
- 山東青年創新“智”造 推動民營企業向“新”而行 每日快播
- 挫男是什么意思？什么是挫男？_時訊
- 今日觀點!中國首艘甲醇雙燃料動力集裝箱船完成綠色甲醇加注
- 海南加速船舶岸電推廣進程 推動綠色低碳航運|焦點滾動
- 今日訊！南寧粵桂協同創新中心啟動運營
- 南寧粵桂協同創新中心啟動運營
- 觀焦點：優化“個轉企”辦理流程 九部門出臺意見
- 薅學家是什么梗？什么是薅學家？ 天天快報
- 報告稱中國健康科技產業已轉向轉型深化階段發展-快資訊
- 每日快訊!優化“個轉企”辦理流程 九部門出臺意見
- 【新視野】歐冠十六郎是什么意思？歐冠十六郎是什么梗？
- 焦點關注：女通訊錄是什么意思？女通訊錄是什么梗？
- 飯性戀是什么意思？飯性戀是什么梗？
- 天天資訊:精神小學生是什么意思？精神小學生是什么梗？
- 單身永動機是什么意思？單身永動機是什么梗？|每日速讀
- 內膽是什么梗？內膽是什么意思？
- 百事通！我國創新藥獲批上市呈井噴效應
- 焦點！我國創新藥獲批上市呈井噴效應
- 卡農后遺癥是什么意思？卡農后遺癥是什么梗？
- 每日訊息!空閑型焦慮是什么意思？空閑型焦慮是什么梗？
- 每日觀點:家用電器出現這幾種情況一定要注意！真的該換新了
- 中國西安醫療團隊赴哈薩克斯坦培訓“洋中醫”
- 魚刺卡喉，喝熱水可軟化？丨中新真探 每日速訊
- 我國全面進入主汛期！這些知識值得收藏
- 家用電器出現這幾種情況一定要注意！真的該換新了 視點
- 焦點短訊！全力搜救中！河南西峽極端強降雨致8人失聯
- 播報:你習以為常的6個行為，正在加速結節生長！很多人忽視了
- 3歲兒童被熱水燙傷致嚴重感染 這樣處理不可取
- 上海專家6厘米切口手術“剪斷”患者十年痙攣枷鎖
- 每日報道：上海專家6厘米切口手術“剪斷”患者十年痙攣枷鎖
- 血常規上的“箭頭”代表什么？這4個指標很關鍵|快報
- 長三角地區50家醫院72位專家聚力編寫共識 提升腎臟罕見腫瘤診療水平
- 油膩大叔控糖60天變型男，控糖真的這么管用嗎？
- 你習以為常的6個行為，正在加速結節生長！很多人忽視了
- 天天資訊:身體這5處“發紅”的人氣血足更健康 對照檢查
- 你習以為常的6個行為，正在加速結節生長！很多人忽視了|熱點評
- 溫網綜合：王欣瑜迎開門紅 鄭欽文連續三年止步首輪
- 每日速看!男籃人才培養亟待跳出“舒適圈”
- 頭條：3歲兒童被熱水燙傷致嚴重感染 這樣處理不可取
- 斯諾克冠軍聯賽：肖恩·墨菲爆冷出局
- 2025全國青少年冰球訓練營在“中國冰球之城”開啟
- 滾動:曼城爆冷出局 國米慘遭淘汰
- 溫網綜合：王欣瑜迎開門紅 鄭欽文連續三年止步首輪-每日報道
- 今熱點：（尋味中華丨非遺）千年儺面有了“新面孔”
- 14世紀以來武備藝術特展寧波開幕 抗戰大刀展現民族精神 新資訊
- 【獨家】2025年上半年中國內地電影票房達292.31億元
- 古代中國的“計程車”如何工作？
- 西藏拉薩百歲養路工人的入黨心愿 今日快訊
- 中國文物迎暑期“出差”熱潮 年輕人從打卡轉向讀史 熱聞
- 新疆拾光｜穿越絲路 聽龜茲壁畫“奏響”千年樂舞篇章
- 中俄友好城市晚會點亮撫遠盛夏之夜 熱頭條
- 暴雨、大霧、強對流 中央氣象臺今晨三預警齊發_焦點速讀
- 暑期學車熱，警惕“低價包過”坑
- 訊息：華北地區東北地區四川盆地等地多降雨 江淮江南等地將有持續性高溫
- 動態:為了規范納稅繳費信用管理，促進納稅人繳費人誠信自律，提高稅法遵從度，推進社會信用體系建設，國家稅務總局發布《納稅繳費信用管理辦法》。哪些情形會被直接判為D級？一張圖帶你看明白↓
- 抗日英雄譜丨吉鴻昌：國破尚如此 我何惜此頭-每日消息
- 為了規范納稅繳費信用管理，促進納稅人繳費人誠信自律，提高稅法遵從度，推進社會信用體系建設，國家稅務總局發布《納稅繳費信用管理辦法》。哪些情形會被直接判為D級？一張圖帶你看明白↓
- 【播資訊】云南大臨鐵路線路區間發生水害 列車臨時停運
- 拆包裝像“闖關游戲”，過度包裝怎么治？
- “90”后告訴90后：什么是“紅”