專家警告：AI系統(tǒng)的可解釋性存在欺騙可能-每日快播
圖片來源：princeea網(wǎng)站
如果AI系統(tǒng)作出了正確預(yù)測，但卻以完全不同的方式解釋其得出的這些結(jié)果，會(huì)發(fā)生什么？DFKI數(shù)據(jù)科學(xué)團(tuán)隊(duì)介紹了“X-hacking”給AI可信度帶來結(jié)構(gòu)性風(fēng)險(xiǎn)的研究成果。
X-hacking一詞源于統(tǒng)計(jì)學(xué)中的P-hacking。所謂P-hacking指的是研究人員可通過一些數(shù)據(jù)操作技巧，在統(tǒng)計(jì)學(xué)上得出一個(gè)有顯著意義的結(jié)果，即使這個(gè)結(jié)果實(shí)際上并無意義。這相當(dāng)于一種數(shù)據(jù)篡改，可能會(huì)導(dǎo)致發(fā)布假陽性結(jié)果。
相應(yīng)的X-hacking描述了兩種核心機(jī)制：一是Cherry-picking，即從眾多同樣優(yōu)秀的模型中，精心挑選出解釋能力最強(qiáng)、最能支持預(yù)期結(jié)果的模型；二是定向搜索，AutoML系統(tǒng)不僅能優(yōu)化預(yù)測性能，還能精準(zhǔn)地找到具有特定解釋模式的模型。但這里面存在的風(fēng)險(xiǎn)往往被低估。
即使模型得出的結(jié)果幾乎相同，所謂的特征重要性也可能存在巨大差異。這在醫(yī)學(xué)研究或社會(huì)科學(xué)等應(yīng)用領(lǐng)域尤為敏感，因?yàn)樵谶@些領(lǐng)域，可解釋的模型通常構(gòu)成關(guān)鍵決策的基礎(chǔ)。
AutoML代表了開發(fā)、選擇和優(yōu)化機(jī)器學(xué)習(xí)模型的自動(dòng)化流程。軟件工具接管了許多以前只有經(jīng)驗(yàn)豐富的機(jī)器學(xué)習(xí)工程師才能完成的任務(wù)，例如選擇合適的模型架構(gòu)、數(shù)據(jù)預(yù)處理和超參數(shù)優(yōu)化等。在醫(yī)學(xué)、工業(yè)或社會(huì)研究等數(shù)據(jù)密集型領(lǐng)域，AutoML有望實(shí)現(xiàn)更快的開發(fā)速度、更低的進(jìn)入門檻和可重復(fù)的結(jié)果。
然而，這種自動(dòng)化使得人們難以理解模型決策的制定方式，這是可解釋AI的一個(gè)關(guān)鍵問題。因此，DFKI研究團(tuán)隊(duì)建議，使用AutoML的學(xué)科應(yīng)該意識(shí)到方法的風(fēng)險(xiǎn)，而不僅僅只是信任軟件。
標(biāo)簽：
搶先讀
- AI轉(zhuǎn)身：從“舞臺(tái)炫技”奔向“惠民興業(yè)”_即時(shí)看
- 專家警告：AI系統(tǒng)的可解釋性存在欺騙可能-每日快播
- 無人機(jī)群飛行規(guī)劃員：繪制低空經(jīng)濟(jì)“新藍(lán)圖” 今日觀點(diǎn)
- 產(chǎn)地冷鏈物流政策將出 多產(chǎn)業(yè)迎利好_焦點(diǎn)精選
- 每日視訊:浙江杭州：共享單車接入北斗系統(tǒng) 探索“北斗+出行”治理新模式
- 聚焦：具身智能，未來值得期待
- 長八甲火箭成功發(fā)射衛(wèi)星互聯(lián)網(wǎng)低軌衛(wèi)星
- 中國工程院發(fā)布“人工智能新興技術(shù)備選清單” 提出近300項(xiàng)熱點(diǎn)
- 納米光子器件中實(shí)現(xiàn)光信號(hào)跨結(jié)構(gòu)“穿梭” 當(dāng)前關(guān)注
- 每日聚焦：海南商業(yè)航天串起多元業(yè)態(tài)
- 今日看點(diǎn):中國游戲用戶規(guī)模近6.79億
- 補(bǔ)上制造業(yè)計(jì)量這個(gè)關(guān)鍵“小缺口”
- 中央財(cái)經(jīng)大學(xué)校長、黨委副書記馬海濤：教育家精神與數(shù)字化技術(shù)雙輪驅(qū)動(dòng) 鑄就新時(shí)代高水平教師隊(duì)伍
- 第七批新職業(yè)聚焦三個(gè)“新” 觀天下
- 第七批新職業(yè)聚焦三個(gè)“新”
- 今日訊！暑期托管，如何托得安管得好
- 什么是火龍果女孩？火龍果女孩是什么梗？
- 今日視點(diǎn):什么是讓二追三？讓二追三是什么梗？
- 戀商是什么意思？什么是戀商？
- 蛇團(tuán)是什么意思？蛇團(tuán)是什么梗？|焦點(diǎn)資訊
- pop貓是什么意思？pop貓是什么梗？ 獨(dú)家焦點(diǎn)
- 知識(shí)盲區(qū)是什么梗？什么是知識(shí)盲區(qū)？-微資訊
- 單超是什么意思？單超是什么梗？-新消息
- 耳機(jī)黨炸裂是什么意思？耳機(jī)黨炸裂是什么梗？ 焦點(diǎn)熱訊
- 獻(xiàn)舍式演技是什么梗？什么是獻(xiàn)舍式演技？
- 孫宇晨的而立之年：爭議未遠(yuǎn)，傳奇已立
- 淚點(diǎn)高是什么意思？淚點(diǎn)高的表現(xiàn)有哪些？
- 敦煌人是什么梗？什么是敦煌人？-當(dāng)前信息
- 抹唇殺是什么意思？抹唇殺是什么梗？
- 現(xiàn)眼包是什么意思？什么是現(xiàn)眼包？ 資訊
- 挖墳是什么意思？挖墳是什么梗？
- 毛至之年是什么梗？毛至之年是什么意思？_當(dāng)前熱議
- 每日熱訊!馬拉卡是什么意思？馬拉卡是什么梗？
- 眼瘸是什么意思？眼瘸是什么梗？ 看熱訊
- 焦點(diǎn)日?qǐng)?bào):精神污染是什么意思？精神污染是什么梗？
- 入股不虧是什么意思？入股不虧是什么梗？|快訊
- 天天資訊:高分屏蔽生是什么意思？什么是高分屏蔽生？
- 核善是什么意思？什么是核善？|微資訊
- 少些身心勞累，多些暖心服務(wù)——我國持續(xù)加強(qiáng)貨車司機(jī)合法權(quán)益保障|焦點(diǎn)報(bào)道
- 熱點(diǎn)評(píng)！新華鮮報(bào)｜國家育兒補(bǔ)貼方案公布！3周歲前每娃每年3600元
- 我國貨車司機(jī)工會(huì)會(huì)員總數(shù)達(dá)590萬人
- 農(nóng)業(yè)農(nóng)村部等十部門發(fā)布促進(jìn)農(nóng)產(chǎn)品消費(fèi)實(shí)施方案|觀熱點(diǎn)
- 天津薊州啟動(dòng)防洪二級(jí)應(yīng)急響應(yīng) 報(bào)道
- 熱文：成都世運(yùn)會(huì)志愿者誓師大會(huì)舉行
- 北京平谷區(qū)啟動(dòng)防汛一級(jí)應(yīng)急響應(yīng)
- 瞭望 | 村干部上大學(xué)的青海實(shí)踐
- 看熱訊：北京發(fā)布暴雨紅色預(yù)警信號(hào) 關(guān)閉所有景區(qū)
- 河北將洪水防御Ⅲ級(jí)應(yīng)急響應(yīng)提升至Ⅱ級(jí)|每日時(shí)訊
- 國家防總對(duì)北京天津河北升級(jí)啟動(dòng)防汛三級(jí)應(yīng)急響應(yīng)
- 河北將洪水防御Ⅲ級(jí)應(yīng)急響應(yīng)提升至Ⅱ級(jí) 今日熱搜
- 河北將洪水防御Ⅲ級(jí)應(yīng)急響應(yīng)提升至Ⅱ級(jí)
- 北京防汛一級(jí)應(yīng)急響應(yīng) 遇極端情況地鐵將立即封站區(qū)段停運(yùn)
- 泥濘里的守護(hù)——天津薊州搶險(xiǎn)救災(zāi)一線見聞_熱門
- 兩部門發(fā)文推進(jìn)養(yǎng)老服務(wù)設(shè)施布局規(guī)劃編制-每日?qǐng)?bào)道
- 潮白新河洪水水頭抵達(dá)天津_獨(dú)家焦點(diǎn)
- 河北將洪水防御Ⅲ級(jí)應(yīng)急響應(yīng)提升至Ⅱ級(jí)
- 觀焦點(diǎn)：杭州臨安：公益暑托班開進(jìn)企業(yè)園區(qū)
- 今日要聞!北京密云、延慶和懷柔地區(qū)48個(gè)村莊恢復(fù)供電
- 2025上海百貨會(huì)完美落幕！添贊硬核“手護(hù)”實(shí)力圈粉，新品互動(dòng)引熱潮！
- 成都世運(yùn)會(huì)“小青椒”志愿者：我們準(zhǔn)備好了_焦點(diǎn)要聞
- 北京發(fā)布暴雨橙色預(yù)警信號(hào)與洪水紅色預(yù)警
- 實(shí)時(shí)：北京發(fā)布暴雨黃色預(yù)警信號(hào) 29日仍有強(qiáng)降水和雷暴大風(fēng)
- 中國紅十字會(huì)總會(huì)已派出工作組赴北京密云開展救災(zāi)工作|今日觀點(diǎn)
- 北京平谷區(qū)已轉(zhuǎn)移群眾12879人次 降級(jí)發(fā)布暴雨橙色預(yù)警
- 今日訊！新華社記者探訪天津薊州區(qū)居民安置點(diǎn)、進(jìn)水村
- 杭州臨安：公益暑托班開進(jìn)企業(yè)園區(qū)_即時(shí)看
- 國家防減救災(zāi)委對(duì)北京河北啟動(dòng)國家救災(zāi)應(yīng)急響應(yīng)
- 京津冀暴雨持續(xù) 國家防總辦公室、應(yīng)急管理部調(diào)度部署防汛救災(zāi)工作|今日視點(diǎn)
- 兩部門緊急預(yù)撥3.5億元重點(diǎn)支持9省（區(qū)、市）做好災(zāi)害應(yīng)急搶險(xiǎn)救災(zāi)工作
- 中國國家話劇院原創(chuàng)話劇《鼓樓那些事兒》在滬連演三場 “背包法官”詮釋新時(shí)代法治中國 最資訊
- 愛奇藝“大片計(jì)劃”重磅電影項(xiàng)目《1840》開機(jī)，尹力執(zhí)導(dǎo)重現(xiàn)民族覺醒時(shí)刻
- 每日資訊：當(dāng)代中國交響佳作如何更多被聽見 全國業(yè)內(nèi)名家學(xué)者滬上共話新時(shí)代音樂創(chuàng)作高質(zhì)量發(fā)展
- 焦點(diǎn)簡訊:俄羅斯話劇《葉甫蓋尼·奧涅金》將來華巡演
- 看熱訊：舞劇《永不消逝的電波》 舞蹈無聲卻振聾發(fā)聵
- “倪郝”組合橫空出世！倪大紅郝云單曲《半日閑游》火爆網(wǎng)絡(luò)
- “倪郝”組合橫空出世！倪大紅郝云單曲《半日閑游》火爆網(wǎng)絡(luò)
- “倪郝”組合橫空出世！倪大紅郝云單曲《半日閑游》火爆網(wǎng)絡(luò) 每日看點(diǎn)
- 綠色算力“算”出發(fā)展新機(jī)遇
- 俄羅斯話劇《葉甫蓋尼·奧涅金》將來華巡演
- 頭部紛紛綁定大模型 智能攝像頭加速迭代-焦點(diǎn)熱聞
- “全球首發(fā)”“中國首秀”彰顯人工智能向“新”力 快看點(diǎn)
- 5G應(yīng)用蓬勃發(fā)展創(chuàng)造新增長點(diǎn)_看點(diǎn)
- 大腦芯片技術(shù)重塑人機(jī)融合新范式_熱推薦
- 我國人工智能上市企業(yè)超300家
- 工信部將完善人形機(jī)器人等產(chǎn)業(yè)發(fā)展政策_(dá)每日速讀
- 我國人工智能上市企業(yè)超300家
- 快消息！5G應(yīng)用蓬勃發(fā)展創(chuàng)造新增長點(diǎn)
- 工信部將完善人形機(jī)器人等產(chǎn)業(yè)發(fā)展政策
- 世錦賽女子100米蝶泳決賽，張雨霏0.14秒之差無緣獎(jiǎng)牌 熱文
- 主創(chuàng)談《南京照相館》：鐵證如山！無需渲染血腥|速看料
- 國家數(shù)據(jù)局：我國7個(gè)數(shù)據(jù)標(biāo)注基地已建設(shè)數(shù)據(jù)集524個(gè) 服務(wù)大模型163個(gè)
- 人民日?qǐng)?bào)刊文評(píng)陳佩斯喜劇藝術(shù)：一位喜劇人的藝術(shù)探索和理論自覺 今日觀點(diǎn)
- 人民日?qǐng)?bào)刊文評(píng)陳佩斯喜劇藝術(shù)：一位喜劇人的藝術(shù)探索和理論自覺_今日訊
- 8月動(dòng)漫｜抓住暑假的尾巴，繼續(xù)看動(dòng)畫吧 每日看點(diǎn)
- 今熱點(diǎn)：成都世運(yùn)會(huì)中國體育代表團(tuán)成立
- 稅與制度競爭｜歐洲規(guī)范：誰來主導(dǎo)第三波全球化？
- 視焦點(diǎn)訊！十屆上海國際少年足球賽的背后，是楊浦區(qū)厚植基層青訓(xùn)的決心
- 熱消息：稅與制度競爭｜歐洲規(guī)范：誰來主導(dǎo)第三波全球化？
- 稅與制度競爭｜歐洲規(guī)范：誰來主導(dǎo)第三波全球化？_每日聚焦
- 共拓AI+媒體新生態(tài)，澎湃新聞旗下派生萬物與瑞壹投資、MiniMax達(dá)成三方戰(zhàn)略合作