近日，一個(gè)名叫生命未來(lái)研究所的網(wǎng)站發(fā)布了一篇名為《暫停大型人工智能研究》的公開(kāi)聯(lián)名信，在公開(kāi)信開(kāi)頭我們看到，“我們呼吁所有AI實(shí)驗(yàn)室暫時(shí)停止AI訓(xùn)練比GPT-4還強(qiáng)大的AI，至少6個(gè)月。”截至記者發(fā)稿，該公開(kāi)信已經(jīng)收到了1126個(gè)簽名，其中不乏像馬斯克和蘋(píng)果聯(lián)合創(chuàng)始人Steve Wozniak這樣的名人。

接著，公開(kāi)信闡述了研究所的立場(chǎng)：

最近這幾個(gè)月，全球的AI實(shí)驗(yàn)室已經(jīng)完全失控了，它們瘋狂地開(kāi)展AI競(jìng)賽，來(lái)開(kāi)發(fā)和部署更強(qiáng)大的AI，而沒(méi)有任何人可以理解、預(yù)測(cè)、控制這些AI，連它們的創(chuàng)造者都不能。

(資料圖片)

人工智能系統(tǒng)對(duì)社會(huì)和人類構(gòu)成較大的風(fēng)險(xiǎn)。盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮，開(kāi)發(fā)和部署越來(lái)越強(qiáng)大的數(shù)字大腦，但目前沒(méi)有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng)，也沒(méi)有相應(yīng)水平的規(guī)劃和管理。人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)在暫停期間，共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議，由獨(dú)立的外部專家進(jìn)行嚴(yán)格的審查和監(jiān)督。

簡(jiǎn)單說(shuō)，就是得到頂級(jí)AI實(shí)驗(yàn)室的認(rèn)可、具有人類競(jìng)爭(zhēng)智能的AI系統(tǒng)，可能對(duì)社會(huì)和人類構(gòu)成深遠(yuǎn)的風(fēng)險(xiǎn)。

在科技界被廣泛認(rèn)可的AsilomarAI原則提到，高級(jí)人工智能可能代表著地球上生命歷史的深刻變革，應(yīng)該以相應(yīng)的謹(jǐn)慎和資源進(jìn)行規(guī)劃和管理。

前兩天，馬云探訪云谷學(xué)校時(shí)曾提出，ChatGPT這一類技術(shù)已經(jīng)對(duì)教育帶來(lái)挑戰(zhàn)，但是ChatGPT這一類技術(shù)只是AI時(shí)代的開(kāi)始。我們要用人工智能去解決問(wèn)題，而不是被人工智能所控制，雖然人的體力、腦力比不過(guò)機(jī)器，但機(jī)器只有“芯”，而人有“心”。

他說(shuō)，工業(yè)時(shí)代是知識(shí)驅(qū)動(dòng)，知識(shí)的競(jìng)爭(zhēng)；數(shù)字時(shí)代，是智慧驅(qū)動(dòng)，是創(chuàng)造力和想象力的競(jìng)爭(zhēng)，是領(lǐng)導(dǎo)力、擔(dān)當(dāng)力、責(zé)任的競(jìng)爭(zhēng)，是獨(dú)立思考的競(jìng)爭(zhēng)。

以前我們只能在電影當(dāng)中看到各種各樣似乎屬于未來(lái)的人工智能，但是現(xiàn)在，它就在我們眼前，以目前的發(fā)展速度下去，AI將擁有怎么樣的能力，我們不得而知，所以我們也許真的得像公開(kāi)信中說(shuō)的那樣對(duì)它充滿畏懼，提高警惕。

半個(gè)月前，GPT-4在科技界產(chǎn)生了如此大的影響，那么肯定會(huì)有人問(wèn)：會(huì)有GPT-5，6甚至7嗎？其實(shí)早就有團(tuán)隊(duì)預(yù)測(cè)，OpenAI團(tuán)隊(duì)將在2023年9月或10月推出一個(gè)過(guò)渡版本GPT-4.5，它將能處理更復(fù)雜的文本，提高連貫性，給用戶更準(zhǔn)確的回答。經(jīng)過(guò)億萬(wàn)級(jí)訓(xùn)練之后的GPT,只會(huì)比以往更強(qiáng)大，更智能，更專業(yè)。

在公開(kāi)信的最后作者提到：人類可以享受AI帶來(lái)的繁榮未來(lái)。在成功創(chuàng)建了強(qiáng)大的AI系統(tǒng)后，我們可以享受“AI之夏”收獲回報(bào)，設(shè)計(jì)上述系統(tǒng)，以造福所有人，給全人類一個(gè)適應(yīng)的機(jī)會(huì)?，F(xiàn)在，我們的社會(huì)已經(jīng)暫停其他可能造成災(zāi)難性影響的技術(shù)。對(duì)于AI，我們也該如此。讓我們享受一個(gè)漫長(zhǎng)的AI夏天，而不是毫無(wú)準(zhǔn)備地進(jìn)入秋天。

那么，這些AI團(tuán)隊(duì)，包括OpenAI，會(huì)“聽(tīng)”公開(kāi)信的建議嗎？

標(biāo)簽：