人工智能的發(fā)展足夠迅速，它可能帶來的危險(xiǎn)也足夠明顯，以至于OpenAI的領(lǐng)導(dǎo)層認(rèn)為，世界需要一個(gè)類似于管理核能的國(guó)際監(jiān)管機(jī)構(gòu)--而且要快，但不要太快。在公司博客的一篇文章中，OpenAI的創(chuàng)始人Sam Altman、總裁Greg Brockman和首席科學(xué)家Ilya Sutskever解釋說，人工智能的創(chuàng)新速度如此之快，以至于我們不能指望現(xiàn)有的機(jī)構(gòu)能夠充分地控制這項(xiàng)技術(shù)。

雖然這里有某種拍馬屁的性質(zhì)，但任何公正的觀察者都清楚，這項(xiàng)技術(shù)，最明顯的是OpenAI的爆炸性流行的ChatGPT對(duì)話機(jī)器人，代表了一種獨(dú)特的威脅，也是一種寶貴的資產(chǎn)。

文章在細(xì)節(jié)和承諾方面比較輕描淡寫，但也承認(rèn)人工智能不會(huì)自己管理自己：

我們需要在領(lǐng)先的開發(fā)工作中進(jìn)行某種程度的協(xié)調(diào)，以確保超級(jí)智能的發(fā)展以一種既能讓我們保持安全又能幫助這些系統(tǒng)與社會(huì)順利整合的方式進(jìn)行。

我們最終可能需要一個(gè)類似于[國(guó)際原子能機(jī)構(gòu)]的機(jī)構(gòu)來開展超級(jí)智能工作;任何超過一定能力(或計(jì)算等資源)門檻的努力都需要接受國(guó)際權(quán)威機(jī)構(gòu)的檢查，要求進(jìn)行審計(jì)，測(cè)試是否符合安全標(biāo)準(zhǔn)，對(duì)部署程度和安全級(jí)別進(jìn)行限制，等等。

IAEA是聯(lián)合國(guó)在核電問題上進(jìn)行國(guó)際合作的官方機(jī)構(gòu)，就像核不擴(kuò)散監(jiān)管一樣，建立在這種模式上的人工智能管理機(jī)構(gòu)可能無法進(jìn)入并打開不良行為者的開關(guān)，但它可以建立并跟蹤國(guó)際標(biāo)準(zhǔn)和協(xié)議，這至少是一個(gè)起點(diǎn)。

OpenAI的帖子指出，跟蹤用于人工智能研究的計(jì)算能力和能源使用情況是相對(duì)較少的客觀措施之一，可以而且可能應(yīng)該被報(bào)告和跟蹤。雖然可能很難說人工智能應(yīng)該或不應(yīng)該被用于哪些領(lǐng)域，但說用于人工智能的資源應(yīng)該像其他行業(yè)一樣受到監(jiān)督和審計(jì)可能是有價(jià)值的。(該公司也建議較小的AI公司可以豁免監(jiān)管，以避免扼殺創(chuàng)新的綠芽)。

領(lǐng)先的人工智能研究員和評(píng)論家Timnit Gebru今天在接受《衛(wèi)報(bào)》采訪時(shí)說了類似的話："除非有外部壓力要求做一些不同的事情，否則公司是不會(huì)自我監(jiān)管的。我們需要監(jiān)管，我們需要比單純的利潤(rùn)動(dòng)機(jī)更好的模式。"

OpenAI明顯接受了后者，這讓許多希望它名副其實(shí)的人感到驚愕，但至少作為市場(chǎng)領(lǐng)導(dǎo)者，它也在呼吁在治理方面采取真正的行動(dòng)--除了最近的聽證會(huì)，參議員們排隊(duì)發(fā)表連任演講，文稿大多以問句結(jié)束。

雖然該建議相當(dāng)于"也許我們應(yīng)該，比如，做一些事情"，但它至少是行業(yè)內(nèi)的一個(gè)對(duì)話啟動(dòng)器，表明世界上最大的單一人工智能品牌和供應(yīng)商支持做一些事情。迫切需要公共監(jiān)督，但"我們還不知道如何設(shè)計(jì)這樣一個(gè)機(jī)制"。

雖然該公司的領(lǐng)導(dǎo)人說他們支持踩剎車，但現(xiàn)在還沒有計(jì)劃這樣做，因?yàn)樗麄儾幌敕艞?quot;改善我們的社會(huì)"(更不用說底線)的巨大潛力，也因?yàn)橛幸环N風(fēng)險(xiǎn)，即壞的行為者已經(jīng)把他們的腳放在油門上。