這條呵護(hù)小學(xué)生的“禁令”有深意
在人工智能應(yīng)用越來越普及的當(dāng)下，“禁止小學(xué)生獨自使用開放式內(nèi)容生成功能”，這一要求在互聯(lián)網(wǎng)上引發(fā)熱議。開放式內(nèi)容生成功能的使用門檻早已降低，如今許多人都在使用相關(guān)功能來提升日常工作效率，不少學(xué)生也在學(xué)習(xí)中用它來答疑解惑。
只不過，當(dāng)前開放式內(nèi)容生成功能存在諸多問題待解。《使用指南》的禁止性建議，不僅旨在防范學(xué)生因過度依賴生成式人工智能而弱化獨立思考能力，還有更深層的考量。“禁止小學(xué)生獨自使用”的表述，表明了《使用指南》的相關(guān)建議并非只是為了防止學(xué)生投機取巧完成作業(yè)。
值得關(guān)注的現(xiàn)象是，當(dāng)前開放式內(nèi)容生成功能尚不完善，最核心的問題在于，人工智能所生成的內(nèi)容并非完全準(zhǔn)確。胡編亂造、斷章取義乃至虛構(gòu)新聞、杜撰文獻(xiàn)和法律條文等情形的出現(xiàn)，使得人們通過人工智能獲取到的結(jié)果未必都是真實的。“一本正經(jīng)地胡說八道”，是許多人對當(dāng)前開放式內(nèi)容生成功能的觀感和評價。面對人工智能提供的五花八門的生成內(nèi)容，一部分成年人尚可以通過社會經(jīng)驗或行業(yè)經(jīng)歷來判斷其可靠性，但小學(xué)生群體顯然不具備這樣的能力。因此，教育部發(fā)布政策性指南文件，有其現(xiàn)實必要性。
開放式內(nèi)容生成功能依托的是機器學(xué)習(xí)、深度學(xué)習(xí)等人工智能算法，對于信息內(nèi)容來者不拒，這讓一部分使用者可以通過大量灌輸無意義內(nèi)容，訓(xùn)練人工智能生成難以判斷真假的信息，并“污染”其他用戶的正常使用結(jié)果。譬如，一些社會機構(gòu)開始盯上人工智能生成工具，生成虛假文章上傳到多個網(wǎng)絡(luò)平臺，實現(xiàn)流量變現(xiàn)，以此進(jìn)行牟利。2024年，江西南昌警方查處的一起利用人工智能技術(shù)批量造謠案件，某MCN機構(gòu)(網(wǎng)絡(luò)信息內(nèi)容多渠道分發(fā)服務(wù)機構(gòu))最高峰時單日能生成4000至7000篇虛假文章，并通過800多個自媒體賬號分發(fā)。上述情形所制造的大量信息垃圾，不僅中小學(xué)生難以辨別，許多成年人同樣招架不住，一定程度上造成了互聯(lián)網(wǎng)內(nèi)容更加魚龍混雜。盡管“AI污染”是人工智能發(fā)展初期所必須經(jīng)歷的問題，但這也提醒我們，在人工智能適用人群足夠廣泛的當(dāng)下，保護(hù)好認(rèn)知能力較弱的小學(xué)生尤為必要。
長遠(yuǎn)看，《使用指南》的發(fā)布也對開放式生成內(nèi)容行業(yè)提出了更高要求。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》要求，智能對話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況。如何讓生成式人工智能更具信息辨識能力，如何讓開放式內(nèi)容生成功能盡快走出“AI污染”發(fā)展階段，需要包括研發(fā)主體、使用主體在內(nèi)的全社會一道共同努力解決。
標(biāo)簽：
搶先讀
- 山西聞喜：月季經(jīng)濟鋪就鄉(xiāng)村振興“芳香路”
- 打好抗旱保供“組合拳” 全力守護(hù)群眾生產(chǎn)生活用水安全
- 云南巧家：小草莓成為鄉(xiāng)村振興“新引擎”
- 專治“急難愁盼”——藏在樓道里的“超級英雄”
- 這條呵護(hù)小學(xué)生的“禁令”有深意
- 全國助殘日｜全國人大代表王永澄：推進(jìn)無障礙環(huán)境建設(shè) 讓殘疾人生活“有愛無礙”
- 趨勢投資是什么意思？趨勢投資的策略和要點有哪些？
- 企業(yè)的盈利狀況怎么分析？企業(yè)利潤率一般在多少？
- 全國助殘日｜從受助者到助人者：雙拐撐起璀璨人生
- 全國助殘日｜從受助者到助人者：雙拐撐起璀璨人生
- 全國助殘日｜從受助者到助人者：雙拐撐起璀璨人生
- 逆境向前 綻放光彩——推進(jìn)殘疾人事業(yè)發(fā)展弘揚自強與助殘精神
- 云南巧家：小草莓成為鄉(xiāng)村振興“新引擎”
- 江蘇淮安：蝦苗分塘精養(yǎng)助增收
- 江蘇淮安：蝦苗分塘精養(yǎng)助增收
- 共享經(jīng)濟是什么意思？什么是共享經(jīng)濟？
- 新華社權(quán)威快報|自強！助殘！全國200個集體260名個人受到表彰
- 典獄長是什么意思？典獄長是什么梗？
- 隱形外地人是什么意思？隱形外地人是什么梗？
- 玻璃大炮是什么意思？玻璃大炮是什么梗？
- 天貓618開門紅，美妝、戶外、寵物等品牌全面爆發(fā)
- “浪還在琴沒了”浪琴門店：從未出現(xiàn)此情況
- 行業(yè)泡沫破滅？警惕寵物經(jīng)濟陷阱
- “浪還在琴沒了”浪琴門店：從未出現(xiàn)此情況
- 銀行撥備的基本概念是什么？撥備在金融財務(wù)中有何意義？
- 聊天大圣是什么意思?什么是聊天大圣?
- 上市后首次年度凈利潤下滑，“衣中茅臺”比音勒芬業(yè)績剎車
- 春夏褲女郎 舒展即高級
- 安德瑪轉(zhuǎn)型還要多久
- 花西子智能工廠開放日：產(chǎn)學(xué)研一體化的長期主義
- 金錢樹的養(yǎng)殖方法是什么?金錢樹應(yīng)該施什么肥料?
- “青春夢想家”微光行動走進(jìn)廣西
- “青春夢想家”微光行動走進(jìn)廣西
- 湖北體彩獲評全國“大滿貫”
- 【安全警示錄】“彩票專家”主動加好友，是餡餅還是陷阱？
- 《筑夢》：青春不設(shè)限 公益筑夢“進(jìn)行時”！記錄熱愛與擔(dān)當(dāng)
- “青春夢想家”微光行動走進(jìn)廣西
- 第24屆“漢語橋”世界大學(xué)生中文比賽約旦賽區(qū)決賽落幕
- 第十二屆中國國際警用裝備博覽會在京開幕
- 第24屆“漢語橋”世界大學(xué)生中文比賽約旦賽區(qū)決賽落幕
- 第八屆新疆國際智能交通產(chǎn)業(yè)博覽會開幕
- 第十二屆中國國際警用裝備博覽會在京開幕
- “青銅之光——古蜀文明特展”在雅典開幕
- 香港故宮文博館推出“‘紋’以載道”沉浸式體驗展
- 新華財經(jīng)|小城文旅變“流量C位” 下沉市場成消費新藍(lán)海
- 新華財經(jīng)|小城文旅變“流量C位” 下沉市場成消費新藍(lán)海
- 記者手記｜在大阪世博會感受中國厚度、溫度與速度——中國館“滿月”記
- 2025中國智能科技展覽會在吉隆坡舉辦
- 300秒看家鄉(xiāng)︱江西省瑞金市：紅都今朝更好看
- 水榭枕黃河，朱欄乘曉色—— 2025“漢語橋”故事會西北區(qū)預(yù)賽舉辦
- 郵輪市場回暖按下“快進(jìn)鍵”
- “低空+旅游”如何激發(fā)消費新活力？
- 300秒看家鄉(xiāng)︱遼寧省朝陽市建平縣：紅山古韻 文明建平
- 從AI選房到云端護(hù)航 文旅消費智變升級
- 貴州七星關(guān)亮相《300秒看家鄉(xiāng)》，烏蒙雄關(guān)引領(lǐng)發(fā)展新風(fēng)尚
- 300秒看家鄉(xiāng)︱山東省日照市東港區(qū)：陽光海岸 活力港城
- 沂水縣亮相《300秒看家鄉(xiāng)》，千年古韻與秀美山水共繪文旅新篇章
- 300秒看家鄉(xiāng)︱遼寧省朝陽市建平縣：紅山古韻 文明建平
- 傳承東方美學(xué)，共赴浪漫之約，中免全球悅享季詮釋節(jié)日消費新內(nèi)涵
- 貴州七星關(guān)亮相《300秒看家鄉(xiāng)》，烏蒙雄關(guān)引領(lǐng)發(fā)展新風(fēng)尚
- 300秒看家鄉(xiāng)︱江西省上饒市婺源縣：生態(tài)人文 徽風(fēng)贛韻
- “龍?zhí)鹅`作峰峰雨 石鼓威生面面風(fēng)” 邯鄲市峰峰礦區(qū)亮相《300秒看家鄉(xiāng)》
- 傳承東方美學(xué)，共赴浪漫之約，中免全球悅享季詮釋節(jié)日消費新內(nèi)涵
- “長壽銅鼓 康養(yǎng)勝地”——江西省銅鼓縣亮相《300秒看家鄉(xiāng)》
- 傳承東方美學(xué)，共赴浪漫之約，中免全球悅享季詮釋節(jié)日消費新內(nèi)涵
- “彩云之巔 吉祥德欽” 云南省德欽縣亮相《300秒看家鄉(xiāng)》
- “彩云之巔 吉祥德欽” 云南省德欽縣亮相《300秒看家鄉(xiāng)》
- “太極之鄉(xiāng) 魅力永年” 邯鄲市永年區(qū)亮相《300秒看家鄉(xiāng)》
- 北京上德銀泰城主力品牌進(jìn)場
- “山水之城 如畫南豐” 江西省南豐縣亮相《300秒看家鄉(xiāng)》
- 共探品牌全球化之道 2025品牌高質(zhì)量出海論壇在德清舉辦
- 田茂華：機遇與挑戰(zhàn)并存 在變局中建立家居產(chǎn)業(yè)新生態(tài)
- 田茂華：機遇與挑戰(zhàn)并存 在變局中建立家居產(chǎn)業(yè)新生態(tài)
- 田茂華：機遇與挑戰(zhàn)并存 在變局中建立家居產(chǎn)業(yè)新生態(tài)
- 胡捷：軟實力是品牌出海的硬道理
- 首發(fā)經(jīng)濟激發(fā)城市新活力
- 新華視點丨新規(guī)施行后，如何更好滿足群眾宜居需求？
- 首發(fā)經(jīng)濟激發(fā)城市新活力
- 《建筑施工手冊（第六版）》正式出版
- 中國農(nóng)業(yè)科學(xué)院飼料研究所王金全：解碼寵物營養(yǎng)科學(xué)，助力“它經(jīng)濟”高質(zhì)量發(fā)展
- 機構(gòu)：輕重并舉是產(chǎn)業(yè)園區(qū)運營商重要的發(fā)展戰(zhàn)略
- 28項交通任務(wù)助力唱好京津“雙城記”
- 線上線下同步 京東618將于5月底正式開啟
- 新華會客廳專訪|廣順興董事長趙朋 ：如何以“強總部”重構(gòu)餐飲品牌連鎖新生態(tài)？
- 雀巢方軍濤：為消費者創(chuàng)造價值 致力于探索營養(yǎng)健康解決方案
- 千年舟亮相2025世界品牌莫干山大會
- 中國農(nóng)業(yè)科學(xué)院飼料研究所王金全：解碼寵物營養(yǎng)科學(xué)，助力“它經(jīng)濟”高質(zhì)量發(fā)展
- 中國茶葉流通協(xié)會會長王慶：以茶為媒 推動健康生活新風(fēng)尚
- 《營養(yǎng)翻譯官》煥新升級 特食安全助力“一老一小”健康營養(yǎng)
- 權(quán)威營養(yǎng)科普再啟航 新華網(wǎng)《營養(yǎng)翻譯官》全面煥新升級
- 雀巢方軍濤：為消費者創(chuàng)造價值 致力于探索營養(yǎng)健康解決方案
- “代工”風(fēng)波里的娃哈哈：產(chǎn)量與流量雙考
- 《營養(yǎng)翻譯官》煥新升級 特食安全助力“一老一小”健康營養(yǎng)
- 完美抗衰新視野：頂尖專家解碼細(xì)胞級策略與關(guān)鍵技術(shù)
- 有友食品產(chǎn)品結(jié)構(gòu)單一難題待解
- 中茶數(shù)字化工廠，探秘茶飲基因如何煉成之烏龍茶
- 新華網(wǎng)聯(lián)合湯臣倍健發(fā)布2025年國民蛋白質(zhì)攝入現(xiàn)狀調(diào)查報告
- 滬青同心共筑希望之樹 太太樂第七所“愛心廚房”扎根青海久治
- 2025年“一展兩會”在京開幕 南北茶脈共融共促茶業(yè)高質(zhì)量發(fā)展
- 2025年“一展兩會”在京開幕 南北茶脈共融共促茶業(yè)高質(zhì)量發(fā)展