全球新動態(tài)：智源大會最應(yīng)該知道的四位大佬和他們的 AI 金句

其實一個人是不可能 " 完整 " 參加智源大會的，因為它兩天會期從早到晚都安排了幾乎在同時進行的諸多議程。不包括開幕式和線上的特邀報告，僅大的分論壇就有 13 個之多，不僅涵蓋了目前最火熱的大模型領(lǐng)域，智源堅持的開源理念，以及始終強調(diào)的具身智能和類腦智能并行路線也都被囊括其中。下面是品玩篩選的其中最值得關(guān)注的觀點和金句，以及我們的評論分析。

(相關(guān)資料圖)

Yann LeCun 楊立昆

How is it that we have systems that are fluent, that can pass the law exams or medical exams, but we don"t have domestic robots that can clear up the dinner table and fill up the dishwasher, right? This is something that any 10-year-old can learn in minutes, and we still don"t have machines that can come anywhere close to doing this. So we"re obviously missing something extremely major.

為什么我們有流暢的系統(tǒng)可以通過法律或醫(yī)學(xué)考試，但沒有可以清理餐桌和裝滿洗碗機的家用機器人？ 這是任何 10 歲孩子都可以在幾分鐘內(nèi)學(xué)會的東西，而我們?nèi)匀粵]有可以接近做到這一點的機器。我們顯然遺漏了一些非常重要的東西。

楊立昆是深度學(xué)習(xí)三巨頭之一，也是 Meta 首席 AI 科學(xué)家，相對于同儕，楊立昆對 AI 的發(fā)展態(tài)度堪稱樂觀，但這種樂觀是基于他對目前主流路線的否定——楊立昆認為自監(jiān)督的語言模型沒有辦法習(xí)得真實世界的知識，而隨著模型規(guī)模的擴大，出現(xiàn)謬誤（也就是機器幻覺）的幾率也會越來越高。

楊立昆的演講發(fā)生在智源大會開幕式，彼時他人正在法國，而時間是凌晨 4 點。楊立昆在演講中宣稱，如果想要讓機器擁有更高級別的人工智能，那么它應(yīng)該學(xué)習(xí)人類認識世界的方式——學(xué)習(xí)推理、學(xué)習(xí)將復(fù)雜任務(wù)分解成簡單任務(wù)。

將上述的理念和成本的因素考慮進去后，楊立昆提出所謂 " 世界模型 "，盡管尚無具體的實現(xiàn)步驟，但楊立昆認為 " 世界模型 " 將很好的避免生成式模型帶來的缺陷。

楊立昆同時也認為強大人工智能的威脅可以通過技術(shù)手段輕松遏制，這與他回擊馬斯克有關(guān)人工智能威脅的論調(diào)相一致。

Max Tegmark

I think Yann LeCun was teasing me a little bit. He called me a doomer. Look at me – I ’ m pretty happy and cheerful – more optimistic than Yann LeCun about our ability to understand future AI systems. …… I think if we go full steam ahead and give ever more control away from humans to machines that we don ’ t understand, that will end very badly. But we don ’ t have to do that. …… we can actually make sure that all this ever more powerful intelligence works for us and use that to create an even more inspiring future than science fiction writers used to dream of.

我覺得楊立昆在逗我玩。 他叫我末日使者。 看看我——我非常高興和開朗——比楊立昆更樂觀地認為我們有能力理解未來的人工智能系統(tǒng)。 ……我認為，如果我們?nèi)σ愿埃瑢⒏嗟目刂茩?quán)從人類手中交給我們不了解的機器，那將導(dǎo)致非常糟糕的結(jié)果。 但我們不必那樣做。 ...... 我們實際上可以確保所有這些強大的智能為我們服務(wù)，并利用它來創(chuàng)造一個比科幻作家過去夢想更鼓舞人心的未來。

Max Tegmark 是那封呼吁暫停 AI 開發(fā)六個月公開信的發(fā)起人——這可能是他近期最著名的一個 title，實際上他還是著名的物理學(xué)家，未來生命研究所的創(chuàng)始人。在智源大會上 Max Tegmark 的演講題目是《將 AI 變得可控》，這看上去與他在今年初的呼吁格格不入，而實際上 Max Tegmark 在大會上解釋了他的論點：AI 巨大的潛力意味著人們應(yīng)該更謹(jǐn)慎和負責(zé)任的思考它究竟意味著什么，暫停研究六個月的目的并不是試圖拖延或阻止 AI 的快速發(fā)展。

Max Tegmark 在隨后與張亞勤的一對一談話中對中國在 AI 監(jiān)管與治理領(lǐng)域的水平給予了很高評價，在他的心目中，中國位居第一，歐洲第二，美國則排名第三。

Sam Altman

The book of the Tao reminds us that the journey of a thousand miles begins with a simple step. We think the most constructive first step to take is with the international scientific and technological community.

《道德經(jīng)》提醒我們，千里之行，始于足下。 我們認為（AI 安全與對齊）最有建設(shè)性的第一步是與國際科技界合作。

Sam Altman 作為 OpenAI 聯(lián)合創(chuàng)始人、CEO 已經(jīng)不需要更多介紹了，品玩也第一時間發(fā)布了他在智源大會上演講的全文。

在一對一訪問環(huán)節(jié)，Sam Altman 回應(yīng)了智源研究院理事長張宏江有關(guān)通用人工智能的問題。Sam Altman 謹(jǐn)慎地表示，盡管無法做出任何實質(zhì)性的預(yù)測，但他認為十年內(nèi)人類將擁有強大的人工智能系統(tǒng)（AI System）。

另一個大家普遍關(guān)心的問題是開源。Sam Altman 其實已經(jīng)在許多場合回應(yīng)過這個問題，他再次表示 OpenAI 沒有相關(guān)的新的有關(guān)開源的時間表，盡管他承認在有關(guān) AI 安全的問題上，開源模型具有優(yōu)勢，但 Sam Altman 強調(diào)開源所有東西可能并不是一條（促進 AI 發(fā)展的）最佳路線。

Geoffrey Hinton

One advantage we have, one fairly small advantage, is that these things didn"t evolve. We built them. And it may be that because they didn"t evolve, they don"t have the competitive aggressive goals that hominids have. …… And maybe we can give them ethical principles. But at present, I"m just nervous, because I don"t know any examples of more intelligent things being controlled by less intelligent things, when the intelligence gap is big. And the example I like to think about is suppose frogs had invented people. Who do you think would be in charge now, the frogs or the people?

我們（人類）有一個微弱的優(yōu)勢 AI 沒有，那就是進化。我們創(chuàng)造了它們，這或許意味著 AI 沒有原始人具有的那種競爭性和侵略性。我們或許可以給它們賦予道德原則。

但現(xiàn)在，我真正緊張了，我還想象不到更智能的事物，被一些反倒沒那么智能的事物所控制的例子，（尤其）當(dāng)智能的鴻溝非常巨大的時候。

一個例子是，假設(shè)青蛙發(fā)明了人類，那現(xiàn)在是誰說了算呢，青蛙還是人？

Geoffrey Hinton 現(xiàn)在的頭銜已經(jīng)可以被稱為 AI 教父了，據(jù)說之前智源大會就曾邀請過他參加，但在即將開幕時 Geoffrey Hinton 發(fā)現(xiàn)了自己演講內(nèi)容有 bug 因而取消。

最近 Geoffrey Hinton 最引人注意的新聞是辭去了他在谷歌的職務(wù)，因為他對目前人工智能驚人的發(fā)展速度感到了恐慌——本次智源大會上的演講，Geoffrey Hinton 延續(xù)了這個論調(diào)。在他看來超級智能到來的時間將比他本人預(yù)料的早得多，而他本人甚至看不出要如何防止 AI 失控的狀況發(fā)生，他在演講中公然宣稱把希望寄托在了年輕一代身上。