“ChatGPT之父”等多位專家共話AI安全與“人機(jī)對(duì)齊” AI監(jiān)管將成下一個(gè)增量賽道

(資料圖片僅供參考)

據(jù)媒體報(bào)道，2023智源大會(huì)將于6月9日至10日召開(kāi)，屆時(shí)多位圖靈獎(jiǎng)得主、OpenAI創(chuàng)始人SamAltman、諾貝爾獎(jiǎng)得主等多位專家共話AI安全與人機(jī)對(duì)齊問(wèn)題。本周二，“ChatGPT之父”SamAltman再次呼吁，成立類似聯(lián)合國(guó)系統(tǒng)下國(guó)際原子能機(jī)構(gòu)的監(jiān)管機(jī)構(gòu)來(lái)監(jiān)管AI技術(shù)。

OpenAI研發(fā)的ChatGPT的成功讓人們得以一窺AI如何改變?nèi)祟惞ぷ骱蛯W(xué)習(xí)的方式，這也引發(fā)了人們的擔(dān)憂。進(jìn)入大模型時(shí)代，如何確保越發(fā)強(qiáng)大和通用的人工智能系統(tǒng)安全可控，符合人類意圖和價(jià)值觀，是極為重要的一個(gè)問(wèn)題。這一安全問(wèn)題又被稱為人機(jī)對(duì)齊。

4月11日，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》。

5月11日，歐洲議會(huì)內(nèi)部市場(chǎng)委員會(huì)和公民自由委員會(huì)通過(guò)了歐盟委員會(huì)提出的“人工智能法案”提案的談判授權(quán)草案，該草案將于6月中旬提交歐洲議會(huì)全會(huì)表決。

5月16日，美國(guó)國(guó)會(huì)召開(kāi)主題為“AI監(jiān)管：人工智能規(guī)則的聽(tīng)證會(huì)”，首次對(duì)OpenAI創(chuàng)始人Sam Altman質(zhì)詢，ChatGPT和其他生成式AI工具的不斷出現(xiàn)引發(fā)了美國(guó)立法者對(duì)AI安全的擔(dān)憂，參議院表示該場(chǎng)聽(tīng)證會(huì)開(kāi)啟了對(duì)人工智能先進(jìn)算法和強(qiáng)大技術(shù)的監(jiān)督和闡釋工作。

東方證券(行情600958,診股)認(rèn)為，人工智能發(fā)展中可能出現(xiàn)怎樣的風(fēng)險(xiǎn)已經(jīng)成為全球關(guān)注的話題，最終目標(biāo)指向數(shù)據(jù)安全、知識(shí)產(chǎn)權(quán)和以人為本。監(jiān)管與發(fā)展也并不相悖，前者是行業(yè)健康生態(tài)的有力保障。

民生證券指出，未來(lái)國(guó)內(nèi)大模型AI監(jiān)管有望在政府帶領(lǐng)下不斷發(fā)展，建議關(guān)注三六零(行情601360,診股)、美亞柏科(行情300188,診股)、浩瀚深度(行情688292,診股)、吉大正元(行情003029,診股)、中新賽克(行情002912,診股)、三未信安(行情688489,診股)、信安世紀(jì)(行情688201,診股)、奇安信(行情688561,診股)、啟明星辰(行情002439,診股)、深信服(行情300454,診股)，天融信(行情002212,診股)等已經(jīng)擁有或正在研發(fā)大模型AI監(jiān)管技術(shù)的公司。

關(guān)鍵詞：