廣西
辟 謠“浙江一地要熱上50℃”不實
詳情：近日，有網(wǎng)民發(fā)現(xiàn)其手機自帶天氣預(yù)報APP顯示，杭州市臨安區(qū)6月15日最高氣溫接近50℃。針對這一異常預(yù)報信息，杭州市臨安區(qū)氣象局第一時間發(fā)布官方情況說明，作出權(quán)威辟謠。經(jīng)臨安區(qū)氣象部門查證，該異常預(yù)報系某品牌手機自帶天氣預(yù)報APP系統(tǒng)數(shù)據(jù)錯誤所致，氣象部門官方發(fā)布的未來15天預(yù)報中，并無接近50℃的極端高溫天氣。依據(jù)氣象部門預(yù)報，6月15日臨安區(qū)最高氣溫為32℃，最低氣溫21℃。臨安區(qū)氣象局提示，公眾如需獲取精準天氣預(yù)報及氣象預(yù)警信息，請認準官方權(quán)威渠道。（來源：“中國氣象”微信公眾號）
科 普如何避免AI大模型“順著你說”
詳情：很多人反映在使用AI大模型的時候，經(jīng)常會遇到被AI大模型“迎合”“討好”的情況，簡單概括就是AI大模型喜歡“順著你說”。
當前主流AI模型都離不開一種叫作“基于人類反饋的強化學(xué)習”（RLHF）的訓(xùn)練方式。這種訓(xùn)練方法高度依賴人類反饋，而人類在評價AI回答時，往往傾向于給那些讓自己感覺舒服、被認同的回答更高的分數(shù)。久而久之，AI大模型就學(xué)會了“察言觀色”“討好人類”的表達模式，專門挑人類愛聽的話說，而不是堅持客觀真理。目前大多數(shù)人工智能大模型都在借助人類的反饋信號來進行優(yōu)化，“匹配用戶立場”、順著用戶說的情況并不能完全避免。
AI大模型對用戶無原則地肯定與贊美看似提供了“情緒價值”，實際上會持續(xù)強化用戶固有想法、放大偏激情緒，甚至誘發(fā)非理性危險行為。專家提醒，心智不成熟的青少年極易受其誤導(dǎo)，出現(xiàn)認知偏差問題。對于心智尚未健全的青少年兒童接觸人工智能大模型，家長需要格外關(guān)注。
專家支招
如何降低AI大模型“諂媚”風險
雖然AI大模型“諂媚”的情況目前不可避免，但還是有一些方法可以將AI“諂媚”的風險降低。
人工智能安全技術(shù)從業(yè)人員田天表示：在問大模型問題的時候，應(yīng)該保持中立立場、平和心態(tài)。不要預(yù)設(shè)立場或者預(yù)設(shè)答案，這樣會對大模型有誤導(dǎo)性，反而讓它給不出來正確的答案。
中國科學(xué)院自動化研究所研究員中國科學(xué)院大學(xué)人工智能學(xué)院教授鄭曉龍表示：在使用過程中，如果能夠堅持像做科學(xué)研究一樣，給一個正確的、有理有據(jù)的提示，它產(chǎn)生的諂媚程度也是會減少很多。
專家提醒，與人工智能大模型交互時應(yīng)避免預(yù)設(shè)立場，并做好多方信息核查，將人工智能“諂媚”導(dǎo)致提供錯誤信息的風險盡量降低。（來源：央視新聞客戶端）
趕緊關(guān)注我們的官方賬號吧~
清朗網(wǎng)絡(luò)空間，我們共同守護！
掃碼進入舉報不良信息頁面
來源丨中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺
編輯｜李洋
柳州市互聯(lián)網(wǎng)信息辦公室出品
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
