直指GPT-4！馬斯克等千名“大佬”簽署公開信，叫停AI訓練

中新經緯3月29日電 當地時間28日，未來生命研究所(Future of Life Institute)網站披露了一封公開信，呼吁所有AI實驗室立即暫停比GPT-4更強大的AI系統訓練至少6個月。

生命未來研究所是在2014年創立于美國波士頓的研究機構，目的一方面是為了促進對“未來樂觀圖景”的研究，一方面是為了“降低人類面臨的現存風險”。2017年制定了Asilomar AI原則，這是被公認最早和最有影響力的AI治理原則之一。

(資料圖片)

公開信顯示，頂級實驗室的深入研究表明，具有與人類能力相匹配的AI系統可能對未來社會和人文道德構成風險。正如廣泛認可的Asilomar AI原則中所述，高級AI可能造成地球生命史上的深刻變化，應以相應的資源等進行規劃和管理。不幸的是，為了開發和部署更強大的數字思維，最近幾個月AI實驗室陷入了一場失控的競賽，但相應級別的規劃和管理目前還沒有。

來源：未來生命研究所網站

公開信指出，當代人工智能系統在一般任務上已變得與人類具有競爭力，必須捫心自問：我們是否需要讓機器宣傳充斥著信息渠道？我們是否要自動化所有工作？是否最終發展成可能超過我們并取代我們的非人類思維？應該冒險失去對我們文明的控制嗎？

“只有確信它們的影響是積極并且風險可控時，才應該開發更強大的人工智能系統。”公開信呼吁，所有AI實驗室立即暫停比GPT-4更強大的AI系統訓練至少6個月。如果不能迅速實施暫停，政府應該介入。

公開信稱，AI實驗室和獨立專家應該利用這次暫停，共同開發和實施一套用于高級AI設計和開發的共享安全協議，并由獨立外部專家進行嚴格審計和監督。

網站頁面顯示，此封公開信已獲得包括蘋果聯合創始人斯蒂夫·沃茲尼亞克、特斯拉首席執行官埃隆·馬斯克等在內的上千位知名企業家、學者簽名。

來源：未來生命研究所網站

據路透社此前報道，當地時間周一，歐洲刑警組織也表達了對ChatGPT等先進人工智能有關道德和法律的擔憂，警告該系統在網絡釣魚、虛假信息和網絡犯罪中可能被濫用。(中新經緯APP)

編輯：付健青