每日熱門：“暫停巨型GPT訓(xùn)練呼吁”引發(fā)激辯 OpenAI創(chuàng)始人阿爾特曼、周鴻祎這么看

(資料圖片僅供參考)

在GPT大模型不斷升級(jí)的同時(shí)，關(guān)于人工智能倫理方面的爭(zhēng)議也接踵而至。3月29日，馬斯克等近千名科技人員在一封公開信中呼吁，在未來六個(gè)月暫停對(duì)巨型GPT模型的訓(xùn)練，以免該模型對(duì)社會(huì)和人類造成潛在風(fēng)險(xiǎn)。若禁令不能迅速實(shí)施，政府應(yīng)該介入并制定暫停令。

公開信稱，人工智能開發(fā)者必須與政策制定者合作，大幅加速開發(fā)強(qiáng)大的人工智能治理系統(tǒng)。

不過，OpenAI的首席執(zhí)行官阿爾特曼沒有在這封信上簽名。在公開信發(fā)布后的第二天，阿爾特曼如此表態(tài)，要實(shí)現(xiàn)通用人工智能繁榮的未來需要三個(gè)條件。首先，技術(shù)上擁有對(duì)齊超級(jí)智能的能力，其次，大多數(shù)領(lǐng)先的通用人工智能模型之間可以實(shí)現(xiàn)充分協(xié)調(diào)，第三，存在有效的全球監(jiān)管框架，包括民主治理在內(nèi)。

值得注意的是，英國近期發(fā)布了針對(duì)人工智能的監(jiān)管措施。白皮書概述了針對(duì)ChatGPT等人工智能治理的五項(xiàng)原則，這五項(xiàng)原則包括：安全性和穩(wěn)健性、透明度和可解釋性、公平性、問責(zé)制和治理，以及爭(zhēng)議與補(bǔ)救。

英國政府表示，在接下來的12個(gè)月內(nèi)，監(jiān)管機(jī)構(gòu)將向各個(gè)組織發(fā)布使用指南和風(fēng)險(xiǎn)評(píng)估模板等其他工具及資源，來制定如何在行業(yè)內(nèi)實(shí)施相關(guān)原則。在議會(huì)時(shí)間允許的情況下，也將出臺(tái)立法，以確保監(jiān)管機(jī)構(gòu)始終如一地秉持這些原則。

對(duì)于人工智能領(lǐng)域的風(fēng)險(xiǎn)問題，也有人持不同的看法。3月30日，360集團(tuán)創(chuàng)始人周鴻祎發(fā)文表示，昨天，以馬斯克為首的科學(xué)家給美國政府寫請(qǐng)?jiān)感牛髸和PT-5的研發(fā)，擔(dān)心它“對(duì)社會(huì)和人類構(gòu)成潛在風(fēng)險(xiǎn)”。周鴻祎認(rèn)為這不影響中國發(fā)展自己的大語言模型。現(xiàn)在擔(dān)心風(fēng)險(xiǎn)為時(shí)尚早。

他表示，不管你愿不愿意，GPT都將引領(lǐng)一場(chǎng)新的工業(yè)革命，意義超越互聯(lián)網(wǎng)和iPhone的發(fā)明。它將帶來生產(chǎn)力的大幅提升，進(jìn)而提升國家競(jìng)爭(zhēng)力。中國一定要迎頭趕上。自己是做安全的，但堅(jiān)定地認(rèn)為，不發(fā)展才是最大的不安全。

標(biāo)簽：