(相關(guān)資料圖)

中新網(wǎng)上海9月7日電 (高志苗 王夢瑤)“伏羲”說：9月1日上海不下雨。中國科學(xué)院院士、復(fù)旦大學(xué)副校長張人禾7日在2023外灘大會上表示，20年來復(fù)旦大學(xué)首次舉辦戶外開學(xué)典禮背后有氣象大模型的“預(yù)測助力”。

他介紹，“伏羲”是復(fù)旦基于學(xué)校自有云上科研智算平臺訓(xùn)練出的氣象大模型，擁有45億參數(shù)，可以成功預(yù)報未來15天的全球天氣，每次預(yù)報耗時在3秒以內(nèi)?！啊恕A(yù)報的9月1日天氣與當(dāng)天結(jié)果完全一致，不僅為師生帶來難忘的青春回憶，也是高校創(chuàng)造全新科研范式的一大體現(xiàn)?！?/p>

從ChatGPT到文心一言、盤古、曹植……2022年年底OpenAI發(fā)布的ChatGPT掀起了全球大模型浪潮。以“科技·創(chuàng)造可持續(xù)未來”為主題的2023 INCLUSION·外灘大會7日開幕。大模型成為大會關(guān)鍵詞的同時，大模型安全等“冷思考”也成為專家關(guān)注的重點。

美國科學(xué)院院士、美國工程院院士、英國皇家學(xué)會外籍院士邁克爾·喬丹(Michael I.Jordan)表示，ChatGPT無法確定自己所寫內(nèi)容的正確性，因為它技術(shù)上是存在問題的，而這個問題它還沒有真正有效解決。在講到“不確定”時，人非常擅長處理溝通以及應(yīng)對不確定信息，ChatGPT沒有辦法對不確定性進(jìn)行量化，要找到可能的方法去應(yīng)對這些挑戰(zhàn)。

針對大模型的安全問題，中國科學(xué)院院士何積豐認(rèn)為，主要體現(xiàn)在未經(jīng)同意的情況下，收集、使用和泄露個人信息。隱私問題既可能發(fā)生在訓(xùn)練過程，也可能發(fā)生在使用過程中，大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護(hù)更加困難。

“為了應(yīng)對這些問題，我們需要大模型對齊技術(shù)?！焙畏e豐說，“對齊”是指系統(tǒng)的目標(biāo)和人類價值觀一致，使其符合設(shè)計者的利益和預(yù)期，不會產(chǎn)生意外的有害后果。“如果把人工智能看作西游記里的孫悟空，‘對齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會任意使用能力胡作非為?！?/p>

何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實現(xiàn)對齊的技術(shù)途徑，目前有兩種方式，一是通過人工反饋給模型不同的獎勵信號，引導(dǎo)模型的高質(zhì)量輸出；另一種方式是事先給大模型提供明確的原則，系統(tǒng)自動訓(xùn)練模型對所有生成的輸出結(jié)果提供初始排序。“這意味著，不僅智能系統(tǒng)需要向人類價值觀對齊，人類的訓(xùn)練方法也要向價值觀對齊?！?/p>

邁克爾·喬丹強(qiáng)調(diào)，人工智能不會替代人，它只是一個新的工程系統(tǒng)?！翱萍际且粋€很好的工程系統(tǒng)，它應(yīng)該服務(wù)于每個人，應(yīng)該是公平、誠實、透明、穩(wěn)定的，這些特性是整個工程系統(tǒng)的特點，而不是系統(tǒng)當(dāng)中個體的特點。所以AI它是集體性的，是將我們團(tuán)結(jié)在一起的技術(shù)?！?完)

（原標(biāo)題：中外院士共談AI大模型：應(yīng)對大模型安全問題需設(shè)好“緊箍咒”）

標(biāo)簽：