每日精選：專訪凱文 · 凱利：我希望在技術首次出現 5000 天后再進行監管，人工智能將比電和火都強大

你可記得，5000 天前的世界是什么樣子的？

從今天倒推回去，大約是 2009 年 8 月。那時，3G 網絡剛剛在中國起步，谷歌的安卓系統才誕生 1 年，微軟的 Windows 7 系統距離推出還有兩個月，蘋果的 iPhone 才發展到第三代，而手機領域的老大還是諾基亞和塞班系統。

(資料圖片僅供參考)

如果那時有人說，5000 天之后，我們將看到掃碼付款、無人（輔助）駕駛、虛擬現實、增強現實，還有強大的人工智能，不僅生成的文章接近，甚至超過人類水平，還能根據寥寥數語創造全新的圖像。或許大多數人都會覺得這是天方夜譚。

圖 |凱文·凱利（Kevin Kelly）（來源：凱文·凱利）

作為知名雜志《連線（Wired）》的聯合創始人，凱文自上世紀 80 年代就持續活躍在媒體界和科技圈，以對前沿技術發展的深度思考而聞名。他的文字和著作，例如知名的三部曲《失控》、《科技想要什么》和《必然》，包含著對未來生活、社會的天馬行空的描述和想象，啟發了許多中美科技企業家和文藝工作者。

凱文對科技發展的樂觀態度是廣為人知的。"如果我們想要塑造未來，我們得保持樂觀。我們要塑造的世界不是完美的世界。它不完美，問題重重，壞事頻現，"凱文在一次 TED 演講中說道。"但是問題不會阻礙進步。問題引領著進步。沒有問題，就不會有進步。"

這種樂觀的態度使他總能以非同尋常的角度思考問題，再結合他豐富的人生經歷，碰撞出對未來的深刻洞察：數百萬人將會一同工作。

（我們將看到）現實世界全部數字化的鏡像世界。利用人工智能和算法，鏡像世界既可以搜索現實世界，又可以搜索人際關系，并催生出新的事物。鏡像世界的優勢并不僅僅是可以讓你"看見"一切。在鏡像世界里，所有對象都變成了數據，都可以被機器讀取。

現在的人工智能只能將我們大腦所做工作的一部分合成并制作出來。對人腦的智能而言，這實在是微不足道的一小部分……因此，再過 50 年，當回憶今天時，我們只會感慨當年真的是在蹣跚學步。

即便我們移居到其他星球，只要那里的地形和重力等客觀條件和地球接近，文明的發展進程就一定會以和地球文明類似的形式發生。

這些是凱文腦海中對未來 5000 天的設想的一小部分，寫在了他的新書《5000 天后的世界》中。未來的 5000 天，與迄今為止的 5000 天相比，會發生更大的變化。同時，他認為很多并非物質層面的變化，人們的人際關系、休閑方式，甚至人生觀都可能會發生改變。

（來源：資料圖）

如果你也想一窺 5000 天之后的世界，想更好地了解凱文對未來科技的看法，DeepTech 對他進行了專訪。采訪內容進行了編譯，力求全面、準確地傳達凱文的真知灼見和思考過程。

圖 | 從左到右：凱文·凱利、DeepTech 特約記者Ren（來源：資料圖）

DeepTech：為什么你認為接下來的 5000 天將會是"人類歷史中最關鍵的時間段"？

凱文·凱利：世界上有很多事情是第一次出現，這就是我用來衡量重要事件的標準。我們看到一些戰爭正在進行中，但這并不重要。我的意思是，從某種意義上說，我們已經忍受了（戰爭）很長的時間，總會度過難關的。但是，還有其他事情是第一次出現，其中之一就是氣候變化。

我們的氣候已經受到了影響，所以必須以前所未有的新方式來持續管理它。這是一個星球規模的任務。作為一個物種，人類才剛剛開始嘗試在星球尺度上做事、合作，這是我們以前從未做過的。

有很長一段時間，我們以部落為單位運作，然后是省，還有國家。現在我們正在努力，在星球層面上努力做到一些事。這是非常大的一步，但這是必要的，因為氣候變化越來越明顯。因此，要實現這一點，人類就需要新技能，需要新水平的合作和新工具來實現這種合作。所以這件事，就是為什么現在是一個非常、非常重要的時刻的原因之一，我們需要度過這段時間，我們必須適應新的政權，一個星球層面的政權。

與此同時，我們也第一次有了星球層面的經濟。眾所周知，世界上最大的兩個經濟體，中國和美國，是糾纏在一起的，你無法真正將它們分開。因此，理解并嘗試兩者共存的經濟體系，也是一大步。我們必須弄清楚如何在接下來的 5000 天內盡快做到這一點。

然后是"人工智能主宰"，"人工智能浪潮"，這已經持續了很長時間，但是現在人們可以看到它是真實的。由此滋生了很多恐懼，但也有很多令人興奮的地方。非常清楚的是，這將是非常具有變革性和破壞性的。作為一個物種，我們共同承擔了一項任務，即嘗試弄清楚如何利用這種新力量造福他人而不是造成傷害。而且它非常新，我們沒有很多好的模型，也沒有人告訴我們該怎么做。

我們很可能會犯一些可怕的錯誤，比如嘗試將人工智能武器化，將其用于網絡戰或其他類似的糟糕的事情。而且我認為這將是有風險的，我們正在進入一個高風險時代。我認為風險不在于人工智能會殺死我們，而是我們可能會因此爆發戰爭，或者可能會因未能好好管理人工智能而無意中傷害到很多人。

這三件正在發生的事，對我來說是最重要的，但當然還有其他事情發生。比如，在接下來的 5000 天里，我們將處于世界從人口過剩轉向人口不足的最初階段。這才剛剛開始。東亞國家比如日本和韓國，已經開始了，中國也有這個趨勢，還有很多歐洲國家也是。這也是這個星球上第一次出現的非常關鍵的變化，我們的人口正在開始大規模減少，我們真的不知道如何應對。這就是接下來的 5000 天是非常、非常重要的第四個原因。

DeepTech：人口減少確實是一個趨勢，但有人說這是好事，會減少我們對地球的消耗，而且人工智能的出現也提升了生產力，可能不需要那么多人了。你如何看待這個觀點？

凱文·凱利：最初，人口減少可能會帶來好處。但問題是，如果你每年都在失去人口，那么這顯然無法持續下去，然后在某個時候，這個數字會變成零，或者變得很小，以至于完成很多事情會變得很困難。

從經濟學和技術的角度來看，你需要一定數量的人口，一定的市場規模，才能讓許多事情值得去做，尤其是規模龐大的事情。比如建造一艘前往火星的飛船最少需要多少人？是十億人嗎？是一百萬嗎？不管是什么，但必須有一個數字，才能產生足夠的盈余、想法和勞動力。

這是基于這樣一個事實，即更大的市場似乎會生產更多的東西，更多的新事物。因此，人口減少的趨勢并不足以帶來恐懼和擔憂，環保主義者甚至會說這對地球有好處，剩下的當然可以用人工智能來彌補。但問題是，有什么方法能阻止它進一步減少呢？因為生物學的運作方式，是獨立于文化的。生物學的運作方式是，對于每個沒有孩子的女人，另一個女人必須有四個孩子，才能達成人口的平衡。這是一個很大的差距。如果條件無法滿足，那么人口每年都會越來越少，直到歸零。

但我想明確一點，我們離這種歸零還差得很遠，只是正在經歷變化的開端。我們必須重新想象我們的社會，要么讓生孩子變得更容易，要么鼓勵人們生孩子。但到目前為止，我們嘗試的一切都沒有奏效：不僅在中國，而是在世界各地。

我們還需要一種不同的資本主義經濟體系，它不需要越來越多的受眾（市場）來變得更好、更繁榮。我們當前的系統需要不斷擴張，需要增加更多的東西、更多的人、更大的市場。所以令人興奮的是，我們可以嘗試想象一個不同的系統：舉個例子，與其說試圖銷售更多的冰箱，我們想銷售更好的冰箱，同樣數量的冰箱，只是更好。

我的想法是，即使在接下來的 5000 天里，我們可能會開始意識到，我們可能想要改變我們的價值觀和獎勵制度，獎勵不僅僅是為了更多的錢，而是試圖真正強調和獎勵（而不是懲罰）那些正在做出更好改進的事物。所以我認為人口銳減（及其帶來的問題）在幾十年內不會發生，但我們已經開始朝著那個方向發展。

DeepTech：面對人工智能，還有其他類似的新興技術，政府和監管機構應該扮演什么樣的角色？

凱文·凱利：很明顯，各級政府的監管對于文明來說是必要的。這在技術領域也是必要的。有很多東西是市場本身不能提供的，不能自己調節的，所以需要政府干預。但我強調的是，政府監管應該介入的很晚。

在我們真正知道發生了什么之前，過早地進行監管是非常有害的。事實上，當存在高度不確定性時，政府傾向于制定和實施監管，他們認為這是一種保護措施，但實際上它是相反的。它只能保護既定的參與者。

我認為應該在很久以后再進行監管，當我們對技術達成更多共識的時候。在某種意義上，我希望在技術首次出現后 5000 天再進行監管。一開始你不需要監管，因為我們根本不知道它是什么、它有什么用、它是怎么回事。因此，我們需要基于證據的監管。很多監管，無論是對人工智能還是基因工程，都不是基于證據的，而是基于直覺，基于恐懼，基于想象力，是人們想象的會發生什么。

因此，我希望等待足夠長的時間，直到我們對證據達成真正可靠的、科學的共識，然后我們再制定規則，有點像打上一個烙印，蓋棺定論。

對社交媒體的真正監管還為時過早，它還太年輕了。人工智能更是非常年輕的，現在嘗試進行監管將是非常有害的。但就像我們從互聯網上了解到的那樣，（適當的）監管是有益的，因為你減少了不確定性，而不確定性是非常有害的，尤其是從投資的角度而言，因為有了監管，確定性就更強，人就越有信心，投資就越多。這就是加密貨幣面臨的問題之一，沒有那么多的投資，因為它非常不確定，其法律地位不明確。因此，它希望受到監管，以消除不確定性和風險，從而吸引更多投資以繼續增長。

所以，政府、非市場力量的監管非常重要。但不能過早，不是在一開始。我們要先弄清楚它是什么。很明顯，我們不知道人工智能是什么，所以現在試圖對其進行監管將是一場真正的災難。

如果你要進行監管，想象一下化學和元素的歷史。在現代化學出現之前，有煉金術，人們對元素是什么的想法非常奇怪，我們看到了弗蘭肯斯坦、以太和其他東西。看看所有這些想法，如果你想象在煉金術時代對化學進行監管，從某種意義上說，你只是在監管荒誕的東西。

這就是我們現在和人工智能的關系。這就像煉金術，我們真的不太了解它。現在的監管，基本上就是試圖凍結或確定某些不應該被確定的想法，我們應該放手，讓它們自行其是。

簡而言之，政府的監管是必不可少的，但不能過早介入。

DeepTech：但我們現在已經看到了一些監管，比如歐盟的人工智能法案，美國也正在推進類似的措施。如果沒有政府介入，該如何解決人工智能的偏見、有毒內容等問題？

凱文·凱利：我們對人工智能有很多擔憂，有人工智能對齊，有偏見，有能耗問題。我們這里只討論偏見。

最棘手的地方在于，這些人工智能是根據人類所有的文字、書籍，以及數千年的歷史進行訓練的。本質上，它們是自動完成引擎，會根據之前從人類那里獲得的一切來猜測答案。因此，它們產生的是普羅大眾的智慧，給出一個平庸的答案。

普通人的行為并不高尚，這不足為奇。人工智能已經接受了人類平均行為的訓練，而人類的平均行為是有偏見的，普羅大眾是有偏見的。基于此，我們制造出來的人工智能，就會有偏見。

問題是我們無法接受。我們會說，這可不行。我們希望這些人工智能比我們更好，我們希望它比平均水平更好，我們希望它優于我們，超越平庸。典型的人類是有偏見的，但我們不會允許典型的人工智能出現這種情況。典型的人工智能必須比我們更好。這是可能的，我們可以改代碼，但問題是，我們人類并不清楚比我們更好意味著什么。我們對它是什么樣的沒有達成共識。比一般人類行為更好，那是什么樣的？

事實證明，即使是我們的美好愿望或我們最好的道德，也是非常淺薄的、無法統一的，但人類允許自己這樣。所以問題不在于人工智能對齊，問題在于人類對齊。

很多人都擔心 ChatGPT，擔心它不值得信賴。但是當新技術出現時，我們總是將它與其他技術進行比較。那么和人類比較呢？值得信賴嗎？我的意思是，如果歐盟必須評估人類的聊天，他們不會讓它通過的。他們會說人類聊天不可靠，有偏見，我們不允許你和人類聊天。這是多荒謬的事情。

我們希望我們的人工智能比我們更好，但我們對這意味著什么并沒有很好的概念。那是覺醒嗎？是政治正確嗎？那看起來像什么？我們從來沒有真正給自己分配過這樣的任務來解決這個問題，但現在我們沒有太多選擇。哲學家們已經考慮了一段時間，這似乎很深奧。但現在我們實際上必須選擇，集體做出決定。我們還有很多問題，誰能做這些決定？我們需要達成共識嗎？

我的直覺是，我們將擁有多個版本的人工智能，它們有不同的道德規范、不同的訓練集、不同的訓練內容。有些人只想用優質的書籍訓練人工智能，其他人想用所有書籍訓練，無論好壞。這就像有不同的育兒方式一樣，訓練這些人工智能就像養育孩子。有些人會非常遵守規則，控制孩子接觸到的東西，有的人則完全不同，會讓孩子看到一切，給他們所有價值觀，讓他們看到這個世界是什么樣的。

我們將看到以不同方式訓練的不同人工智能出現。你必須始終記住，人工智能是復數的，會有很多種人工智能，成百上千個。它們將接受不同的訓練，接受不同的教育。有些人可能會傾向于一種人工智能，因為它更適合他們。我認為我們將有一個不同類型的訓練集市場，有各種不同的偏見，因為人工智能都是有偏見的，你必須選擇你想要的偏見。

DeepTech：你在書中強調，長期思維是洞察科技趨勢的關鍵要素。組織和個人應當如何鍛煉這種能力，并以這種思維方式行事？

凱文·凱利：我參與了一個名為 Long Now Foundation 的組織，我們正在努力鼓勵長期思考。我的目標之一是能夠為小學生開發課程，比如環境課程，這將幫助他們始終嘗試為子孫后代著想。我們喜歡使用的術語是，我們想讓人們成為好祖先。他們的后代會感謝他們創造了一些東西，建造了一些東西，開始了一些東西。

我認為其中一件事就是做一些你知道需要 10 年或 20 年才能完成的事情，不要半途而廢，或者做一些可能比你的生命還要久才能完成的事情，比如建造大教堂。這是鼓勵人們從事更長期的事情，而不是僅僅在一年或兩年內完成的事情。

還要有允許這樣做的工具。做這種事情的困難之一是資金，從經濟角度來看，它們在當前環境下沒有意義，但是我們可以建立稅收和其他類型的金融工具來獎勵和允許這類項目，如果你從事一個需要 10 年而不是 1 年的項目，也許還有稅收減免。

要獎勵那些努力做長期項目的人。社會保障，這是我們使用的其中一種想法，我們自動將退休金留到未來。這是我們發明的一種工具，很有幫助。因此，我們可以使用其他類似的工具，鼓勵人們放眼長遠。

政府還可以做其他事情。政府必須參與其中，因為企業和個人更難做到這一點，因為沒有合適的回報。但政府可以資助長期科學和研究，不期望在兩年內得到回報，但這種期望會在 20 年后得到回報。這也是幫助我們從長遠考慮子孫后代的另一種方式。考慮這樣一個事實，即無論生活在何處的大多數人都將生活在未來，并試圖在現在做出考慮子孫后代及其后代的決定。法律也可以制定一些條款，嘗試為子孫后代保留選擇權，而不是將其關閉。

個人也可以做一些事情，比如長期投資，為子孫后代種一棵樹。這是一件很容易做的事，做個好祖先。還有一些事情，比如面對政客和公司，選擇那些眼光更長遠的。現在我們有很多企業是綠色的，評判標準是他們在多大程度上在氣候變化上進行投資。但我們也可以擁有同樣的東西，在評級系統或其他領域，我們可以讓東西不僅僅是綠色的，也許——我之前從未想過——還有另一種顏色，比如白色，用以標記哪些公司以長遠的目光承諾和行動。這可能是個人和公司可以促進這種長期思考理念的另一種方式。

DeepTech：你說過，科技本身不存在好壞，它的好壞取決于使用目的和使用的人。我們該如何更好地保證新技術不被濫用？

凱文·凱利：一個簡短的回答是，我不知道。

我認為最好的舉措是收集好處和壞處的證據。并將其用于制定政策，而不僅僅是想象會發生什么。現在很多危害，都是我們想象出來的。有多少人因為人工智能而失業？也許有幾十個？非常、非常少的人因為人工智能失業，但很多、很多人都在想象他們可能會失業。

現在的許多政策都是基于我們的想象，但我想說，讓我們看看真實的危害和好處的證據，并以此為基礎制定政策。到目前為止，還為時過早，我們根本沒有證據許多人因為人工智能被解雇了，反過來我們有一些證據表明人工智能提高了某些工人、程序員、作家的生產力，我們有證據表明他們的工作做得更好。所以現在下結論還為時過早。但是，當我們（未來）這樣做時，讓我們以證據為基礎。

DeepTech：在過去幾年里，隨著時間的變化，你對技術的哪些觀點發生了變化？

凱文·凱利：我想應該是，我可以清楚地看到人工智能帶來的問題了。

人工智能，是許多人研究了 20、30、40 年的東西。但它的實際實施現在非常具體，比如 ChatGPT 和其他東西。正因為如此，我想我改變了對其局限性（limitations）的看法。這是我想要的詞，不是問題（problems），而是局限性。其局限性現在比以前更加明顯。

我改變想法的地方在于，理解到人工智能對齊不是問題所在，真正的問題在于讓人類就我們必須做的事情達成一致，也就是前面提到的"人類對齊"。

人工智能的主要問題之一不是與人類有關的部分，而是意識到我們將要面臨的問題是試圖使人類與人工智能對齊，而不是讓人工智能與人類對齊。人類自己的道德和價值觀不一致，除非我們首先讓它們保持一致，否則我們無法真正實現人工智能對齊。我認為這對我來說是一個新想法。真正的苦差事，真正的障礙，將是讓人類個體就我們希望人工智能做什么達成一致。這是我以前沒有想到的。

DeepTech：技術素養，即理解技術工作原理的能力，將成為重要的個人能力。你可以講講這個觀點嗎？我們如何提升這個能力？

凱文·凱利：我喜歡和欽佩阿米什人的原因之一是，他們的素養和文化傳承是集體而不是個人的。因為他們很清楚這需要集體的力量來實現。我認為這是我們必須完成的第一步。如何闡明我們的技術素養是什么？我們的標準是什么

針對社交媒體，我們要設定它的邊界（安全護欄）。你四歲的時候，這些是適合四歲小孩的最佳技術實踐，當你八歲的時候，又新加了哪些技術。目前，父母沒有任何指導，老師沒有任何指導，沒有任何證據。我其實想要一種基于證據的技術素養，比如這就是我們對兒童如何使用屏幕的了解；這就是我們所知道的兒童如何使用人工智能；這就是我們對疫苗或者其他任何技術的了解。我們要搞清楚兩件事：好處是什么，壞處是什么。因為我們總是要付出代價的，這就是技術素養的關鍵之一。當我們談論新技術時，我們必須將其與現有技術進行比較。

每個技術都有優點，也有缺點。當我們審視成本、危害以及新技術的好處時，總是必須將其與舊技術進行比較，比如電話 VS 短信，自行車 VS 汽車，我們計算所有技術的優缺點，不僅是新技術，還有舊技術。我認為技術素養的一部分是教育性的，從某種意義上說，它應該是我們閱讀和寫作的一部分，每項新技術都會有成本，成本是多少？有什么好處？你了解它嗎？有什么證據？就像去學習閱讀和寫作一樣，我們要學習如何更好地使用人工智能。

DeepTech：在最近的一次演講中，你提到，人工智能就像實習生一樣，可以展開講講嗎？我們應該如何與人工智能共存？哪些技能是值得學習的？

凱文·凱利：這就像每個人在生活中都有一個私人導航員，也就是谷歌地圖之類的 APP，可以引導我們到任何地方。這在以前是很難做到的，你需要有很多地圖，并且有很好的判斷力。現在每個人都有一個私人導航員。

當我們在百度或谷歌上搜索東西時，我們有一個私人圖書管理員，在茫茫數據中尋找答案，這曾經是圖書管理員的工作。現在每個人都有一個私人圖書管理員。

我認為，GPT 和 ChatGPT 的第一個版本是我們可以支配的私人助理。我們可以用他們做研究，回答一些問題，做一些東西的初稿，查找一些代碼，提出建議，但他們是實習生，我們必須檢查他們的工作。

又因為它的水平很平庸，平庸的程序員，平庸的作家，平庸的圖書館員，所以如果你想變得優秀，那么我們必須增加一點東西，我們必須推動他們，必須與他們對話。那些真正擅長制作人工智能藝術或使用 ChatGPT 的人是那些學習如何與人工智能進行對話的人，在某種程度上推動它、鼓勵它超越平庸的水平。

現在，撰寫"提示（prompt）"已經成為了一項技能，這是未來學習如何與這些私人實習生交談的關鍵技能之一。所以要充分利用，你必須了解他們是如何工作的，了解他們喜歡聽什么。很明顯，有些人在這方面比其他人做得更好。

部分原因是他們為此花費了 1000 個小時。他們明白，這就像學習一門語言一樣。或者你必須像實習生一樣思考，才能猜出它在想什么。我認為這是技能之一。到目前為止，對于當今世界任何地方的學校里的任何人來說，最主要的技能是學習如何學習，找到最適合自己的學習方法。

這不僅僅是對"學習如何學習"的一般理解，而是要找到你最好的方法是什么？學習一門新語言的最好技巧是什么？你必須重復多少次？你必須睡多少時間？如果你正在學習一門新科學，什么是你最好的學習方式？你如何優化自己的學習？如果你正在學習一項體育技能，你最好的學習方式是什么？

這是每所學校都應該教授的主要技能。如果你的學校沒有教它，那么你必須通過其他方式學習。你應該在畢業前掌握適合自己的學習方法，因為學習將是你在余生中不斷要做的事情。

DeepTech：在未來的 5000 天里，哪些新技術帶來的可能性讓你感到興奮？哪些又讓你感到擔憂？

凱文·凱利：到目前為止，人工智能是最令人興奮和最強大的技術，我們已經談了很多。這里我想再次強調，人工智能是我們發明的最具顛覆性的技術。從長遠來看，它比電、火，甚至是寫作都更加強大。

從長遠來看，確實如此。但現在，人工智能有點被夸大了，因為它離我們心目中的樣子還差得很遠，它才剛剛開始。在接下來的 5000 天里，它將成為最主要的顛覆者。

但也有其他事情正在發生，比如將衛星送入太空。我們正在制造太空中的眼睛，一個圍繞地球的神經系統，它可以從全球的角度看待這個星球，因為為了建立全球經濟，我們必須有一個全球圖景。這是一件非常重要的事情，在接下來的 5000 天里，會有越來越多的人進行更多的嘗試，馬斯克、貝索斯、中國、印度都在做類似的事情。未來我們將看到更多參與者。

第二件事是新食物，比如合成肉、人造肉、基于動物細胞的肉。它們將在未來 5000 天出現（普及）。這對我來說非常令人興奮，因為我不吃紅肉。

另一件非常令人興奮的事情是計算機大腦接口，我原以為要 2 萬天（超過 50 年）才會發生，但現在，我所看到的證據表明，這可能會在未來 5000 天開始出現。也許還不會成為主流，但可能會開始用于解決四肢癱瘓或其他醫學問題，適用于盲人或其他殘障人士。

至于未來我最擔心的事情，應該是網絡戰爭。因為國際上沒有達成有關的協議，什么是可以接受的，什么不是，沒有真正的協議。我們對傳統戰爭有很多限制，有各種各樣的關于地雷、生物武器的條約，但對于人工智能（的戰爭用途），我們沒有很好的條約和協議。

我擔心，可能要有一些非常糟糕的事情發生，才能促使全人類達成某種協議。我衷心希望這不會發生，但我確實很擔心。

采訪手記："明天不會像我們想象的那樣完美，但會變得比今天稍微好一點兒。"這是凱文曾說過的一句話。這種樂觀態度使他總是能夠先人一步地捕捉到科技發展的脈絡：縱使有需要擔憂的東西，但明天或許只要比今天更好，哪怕只有一點點，也是一種進步。