雷火平台-中国知名电竞赛事平台

今天，AI領域傳出一封重要的公開信。

包括「ChatGPT之父」Sam Altman在內(nèi)350位AI權威都簽署了這封聯(lián)名公開信，并對當前正在開發(fā)的AI技術可能會對人類構成生存威脅擔憂。

這封信只有一句聲明：降低人工智能滅絕的風險，應該與其它社會規(guī)模的風險（如大流行病和核戰(zhàn)爭）一樣，成為全球的優(yōu)先事項。

加入公開信簽名?

https://www.safe.ai/statement-on-ai-risk

簽署人包括三個領先的AI公司高管：

OpenAI首席執(zhí)行官Sam Altman；

Google DeepMind首席執(zhí)行官Demis Hassabis；

Anthropic的首席執(zhí)行官Dario Amodei；

更重要的是，名單里還有Geoffrey Hinton和Yoshua Bengio兩位人工智能的「教父」。

超過350名從事人工智能工作的高管、研究人員和工程師簽署了這份由非盈利組織人工智能安全中心發(fā)布的公開信，認為人工智能具備可能導致人類滅絕的風險，應當將其視為與流行病和核戰(zhàn)爭同等的社會風險。

如今人們越來越擔心ChatGPT等人工智能模型的發(fā)展可能對社會和就業(yè)帶來的潛在威脅，很多人呼吁針對AI行業(yè)進行更強力的監(jiān)管，否則它將對社會造成不可挽回的破壞。

AI不斷狂飆，但相關的監(jiān)管、審計手段卻遲遲沒有跟上，這也意味著沒有人能夠保證AI工具以及使用AI工具的過程中的安全性。

在上周，Sam Altman和另外兩位OpenAI的高管提出應該建立類似國際原子能機構這樣國際組織來安全監(jiān)管AI的發(fā)展，他呼吁國際間領先的人工智能制造商應該展開合作，并要求政府強化對尖端人工智能制造商的監(jiān)管。

其實早在3月，就一篇有關叫停6個月AI研究的公開信火遍了全網(wǎng)。

該信呼吁所有的AI實驗立即暫停研究比GPT-4更先進的AI模型，暫停時間至少6個月，為的就是把這些可怕的幻想扼殺在搖籃之中。

AI的進步速度實在過于驚人，但相關的監(jiān)管、審計手段卻遲遲沒有跟上，這也意味著沒有人能夠保證AI工具以及使用AI工具的過程中的安全性。

該聯(lián)名信已經(jīng)獲得了包括2018年圖靈獎得主Yoshua Bengio、馬斯克、史蒂夫·沃茲尼亞克、Skype聯(lián)合創(chuàng)始人、Pinterest聯(lián)合創(chuàng)始人、Stability AI CEO等多位知名人士的簽名支持，截稿前聯(lián)名人數(shù)已經(jīng)達到1125人。

公開信的原文如下：

人工智能具有與人類競爭的智能，這可能給社會和人類帶來深刻的風險，這已經(jīng)通過大量研究[1]得到證實，并得到了頂級AI實驗室的認可[2]。正如廣泛認可的阿西洛馬爾人工智能原則（Asilomar AI Principles）所指出的，先進的AI可能代表地球生命歷史上的重大變革，因此應該以相應的關注和資源進行規(guī)劃和管理。

不幸的是，即使在最近幾個月，AI實驗室在開發(fā)和部署越來越強大的數(shù)字化思維方面陷入了失控的競爭，而沒有人能夠理解、預測或可靠地控制這些數(shù)字化思維，即使是它們的創(chuàng)造者也無法做到這一點。

現(xiàn)代AI系統(tǒng)現(xiàn)在已經(jīng)在通用任務方面具有與人類競爭的能力[3]，我們必須問自己：

我們應該讓機器充斥我們的信息渠道，傳播宣傳和謊言嗎？

我們應該將所有工作都自動化，包括那些令人滿足的工作嗎？

我們應該發(fā)展可能最終超過、取代我們的非人類思維嗎？

我們應該冒失控文明的風險嗎？

這些決策不應該由非選舉產(chǎn)生的科技領導人來負責。只有當我們確信AI系統(tǒng)的影響是積極的，風險是可控的，我們才應該開發(fā)強大的AI系統(tǒng)。這種信心必須得到充分的理由，并隨著系統(tǒng)潛在影響的增大而增強。OpenAI最近關于人工智能的聲明指出：「在某個時候，可能需要在開始訓練未來系統(tǒng)之前獲得獨立審查，對于最先進的努力，需要同意限制用于創(chuàng)建新模型的計算增長速度?！刮覀兺狻，F(xiàn)在就是那個時刻。

因此，我們呼吁所有AI實驗室立即暫停至少6個月的時間，不要訓練比GPT-4更強大的AI系統(tǒng)。這個暫停應該是公開和可驗證的，并包括所有關鍵參與者。如果無法迅速實施這樣的暫停，政府應該介入并實行一個暫禁令。

AI實驗室和獨立專家應該利用這個暫停時間共同制定和實施一套共享的先進AI設計和開發(fā)安全協(xié)議，這些協(xié)議應該由獨立的外部專家嚴格審核和監(jiān)督。

這些協(xié)議應確保遵守它們的系統(tǒng)在合理懷疑范圍之外是安全的[4]。這并不意味著暫停AI發(fā)展，而只是從不斷邁向更大、不可預測的黑箱模型及其突現(xiàn)能力的危險競賽中退一步。

AI研究和開發(fā)應該重點放在提高現(xiàn)有強大、先進系統(tǒng)的準確性、安全性、可解釋性、透明度、魯棒性、對齊、可信度和忠誠度。

與此同時，AI開發(fā)者必須與政策制定者合作，大力加速AI治理體系的發(fā)展。這些至少應包括：

專門負責AI的新的、有能力的監(jiān)管機構；

對高能力AI系統(tǒng)和大型計算能力池的監(jiān)督和跟蹤；

用于區(qū)分真實與合成內(nèi)容、跟蹤模型泄漏的溯源和水印系統(tǒng)；

健全的審計和認證生態(tài)系統(tǒng)；對AI造成的損害承擔責任；

技術AI安全研究的充足公共資金；

應對AI引起的巨大經(jīng)濟和政治變革（特別是對民主制度的影響）的資深機構。

人類可以在AI的幫助下享受繁榮的未來。在成功創(chuàng)造出強大的AI系統(tǒng)之后，我們現(xiàn)在可以享受一個「AI盛夏」，在其中我們收獲回報，將這些系統(tǒng)明確地用于造福所有人，并讓社會有機會適應。

在面臨可能對社會造成災難性影響的其他技術上，社會已經(jīng)按下了暫停鍵[5]。在這里，我們也可以這樣做。讓我們享受一個漫長的AI盛夏，而不是毫無準備地沖向秋天。