黃鐵軍：涌現(xiàn)性是大模型最驚奇的特征

大模型的出現(xiàn)，如果要和人類(lèi)歷史上發(fā)生的革命相比的話，有兩個(gè)東西具有可比性，一個(gè)是工業(yè)革命，另一個(gè)是電力。

盡管今天已經(jīng)訓(xùn)練出具有競(jìng)爭(zhēng)力的模型，但是真正效率高、成本低、用得好的模型還沒(méi)有出現(xiàn)，這需要長(zhǎng)期的研究。

“一個(gè)模型用幾百上千億個(gè)參數(shù)，達(dá)到一定規(guī)模之后，就像網(wǎng)絡(luò)系統(tǒng)里一個(gè)個(gè)的節(jié)點(diǎn)，節(jié)點(diǎn)之間有連接，自然界中常見(jiàn)的涌現(xiàn)現(xiàn)象就在人工智能模型上出現(xiàn)了，也就是通常說(shuō)的融會(huì)貫通。”北京智源人工智能研究院院長(zhǎng)、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍在中國(guó)互聯(lián)網(wǎng)大會(huì)上表示。

(資料圖片)

大模型，是人工智能發(fā)展的里程碑。AGI的意思是在人類(lèi)智能所有方面全面超越人類(lèi)的智能。以前大家認(rèn)為這是一種科幻，甚至認(rèn)為這種人工智能是永遠(yuǎn)做不到的，但是今年的發(fā)展讓很多人的想法有所改變。

什么是大模型，黃鐵軍認(rèn)為有三個(gè)特點(diǎn)：第一是規(guī)模大，一個(gè)模型的參數(shù)應(yīng)該達(dá)到百億規(guī)模才能稱得上大模型，雖然沒(méi)有準(zhǔn)確的數(shù)據(jù)邊界，但如果規(guī)模不夠大，大模型的能力是很難實(shí)現(xiàn)的；第二是通用性，此前的人工智能主要聚焦于某個(gè)問(wèn)題，比如人臉識(shí)別、語(yǔ)音識(shí)別等，今天的人工智能模型更加智能，能解決的問(wèn)題也更加多樣；第三是涌現(xiàn)性，一個(gè)模型訓(xùn)練到一定程度以后突然出現(xiàn)預(yù)料之外的能力，這種涌現(xiàn)性在大模型上出現(xiàn)了。

以前講一個(gè)信息系統(tǒng)、計(jì)算機(jī)系統(tǒng)或者互聯(lián)網(wǎng)系統(tǒng)，往往是講底層是軟硬件，上面是應(yīng)用。黃鐵軍舉例稱，現(xiàn)在的通用型人工智能就像大樹(shù)一樣，原來(lái)的基礎(chǔ)軟件和應(yīng)用當(dāng)然還需要，中間的樹(shù)干出現(xiàn)了，這個(gè)樹(shù)干就是智能大模型，并且在未來(lái)產(chǎn)業(yè)生態(tài)中扮演著基礎(chǔ)性核心性的角色。

這樣一個(gè)角色會(huì)對(duì)經(jīng)濟(jì)社會(huì)發(fā)展帶來(lái)怎樣的影響？黃鐵軍認(rèn)為如果要和人類(lèi)歷史上發(fā)生的革命相比的話，有兩個(gè)東西具有可比性，一個(gè)是工業(yè)革命，另一個(gè)是電力。工業(yè)革命解放了人的雙手，給全球帶來(lái)了巨大的變革。電力時(shí)代實(shí)現(xiàn)7×24小時(shí)發(fā)電和服務(wù)，電通過(guò)能量流轉(zhuǎn)在全世界，驅(qū)動(dòng)社會(huì)的運(yùn)行。

智力時(shí)代是智力，以這種方式服務(wù)于整個(gè)社會(huì)，具備兩方面特征，一是可以和工業(yè)革命相比，二是描繪了形態(tài)，它是流動(dòng)的，是7×24小時(shí)產(chǎn)生了這樣一種服務(wù)形態(tài)。

盡管今天已經(jīng)訓(xùn)練出具有競(jìng)爭(zhēng)力的模型，但是真正效率高、成本低、用得好的模型還沒(méi)有出現(xiàn)，這需要長(zhǎng)期的研究。大模型的智能歸根結(jié)底來(lái)自數(shù)據(jù)，數(shù)據(jù)是大模型發(fā)展的“壓艙石”。今年成立了國(guó)家數(shù)據(jù)局，國(guó)家對(duì)數(shù)據(jù)的治理已經(jīng)有了高層體系化的考慮。這里面各種各樣的數(shù)據(jù)，除了今天大家訓(xùn)練用的互聯(lián)網(wǎng)數(shù)據(jù)之外，還有物聯(lián)網(wǎng)數(shù)據(jù)，以及未來(lái)產(chǎn)生的數(shù)據(jù)等，都是未來(lái)大模型要提升智能水平必要的數(shù)據(jù)源。

黃鐵軍認(rèn)為，大模型在未來(lái)一個(gè)可能的發(fā)展趨勢(shì)是以云的方式發(fā)展，且會(huì)落在實(shí)體經(jīng)濟(jì)。他認(rèn)為，今天大模型已經(jīng)有了智能的涌現(xiàn)，但是今天的涌現(xiàn)和人的大腦涌現(xiàn)還是有差別的。如果我們能制造出結(jié)構(gòu)上更像人類(lèi)神經(jīng)系統(tǒng)新的軟硬件以及新的信息處理系統(tǒng)的話，涌現(xiàn)能力會(huì)更強(qiáng)。

黃鐵軍預(yù)測(cè)，未來(lái)第一個(gè)可能是驅(qū)動(dòng)全無(wú)人自動(dòng)駕駛的落地。目前的駕駛智能缺少對(duì)常識(shí)的理解，大模型補(bǔ)上了這一環(huán)，有了基本常識(shí)，認(rèn)識(shí)到什么東西可以撞、什么東西不可以撞，如果這個(gè)問(wèn)題解決了，就會(huì)加速發(fā)展。

另外，黃鐵軍也提出了自己的擔(dān)憂，任何有效的控制系統(tǒng)都必須和系統(tǒng)一樣復(fù)雜。如果人工智能水平超過(guò)了人類(lèi)，人類(lèi)要完全控制它至少?gòu)睦碚撋鲜遣豢赡艿摹Ｈ绻祟?lèi)發(fā)明了比自己更聰明的AGI，那應(yīng)該是AGI來(lái)控制人類(lèi)。AI越來(lái)越強(qiáng)，風(fēng)險(xiǎn)顯而易見(jiàn)與日俱增，如何構(gòu)建一個(gè)安全的AI，目前來(lái)看還沒(méi)有確定的答案。

關(guān)鍵詞：