環球微速訊：AI哨所｜外媒：強大AI需“超智能”監管 這兩種制度或可一試

【資料圖】

鳳凰網科技訊 《AI哨所》北京時間5月8日消息，ChatGPT的橫空出世已經讓人工智能(AI) 的監管提上日程。外媒周日發表觀點文章稱，強大的AI需要有“超智能”(superintelligent)的監管。

AI監管已提上日程

文章稱，強大的AI系統可以為社會帶來巨大好處，并幫助人類解決一些世界性難題。例如，機器學習模型已經在診斷疾病、加速科學研究、提高經濟生產率，以及通過優化電網的電流來減少能源使用等方面發揮了重要作用。不過，如果這些好處因為AI遭到強烈反對而受到損害，那將是一場悲劇。但正如“AI教父”杰弗里·辛頓(Geoffrey Hinton)上月從谷歌辭職時所警告的那樣，隨著AI技術在不公平歧視、虛假信息和欺詐等領域的濫用成倍增加，危險也越來越大。

因此，各國政府必須迅速采取行動，適當和成比例地監管這項技術。但是，如何做到這一點將是人類這個時代面臨的最大管理挑戰之一。機器學習系統可以部署在數百萬個用例中，無法簡單分類，可能會給監管機構帶來許多問題。這種快速發展的技術也可以大規模地以分散、無形和無處不在的方式使用。但令人鼓舞的是，世界各地的監管機構終于開始著手解決這些問題。

鳳凰網科技 《AI哨所》了解到，文章指出，解決AI監管問題的第一步是科技行業本身就透明度、問責制和公平達成一致并實施一些通用原則。例如，企業永遠不應該試圖拿聊天機器人假冒人類；第二步是所有監管機構在就業法、金融和消費者市場、競爭政策、數據保護、隱私和人權等領域，修改現有規則，以考慮AI帶來的具體風險。第三步是政府機構和大學深化自身的技術專長，以降低被產業俘獲的風險。

除此之外，人類還應該考慮對AI制定兩種總體監管制度，即使單獨一種都不足以應對挑戰的規模。一種是基于預防原則的制度，這意味著在一些關鍵的、生死攸關的領域，如醫療保健、司法系統和軍隊，使用的算法在使用前需要預先批準。 這可能會以與美國食品和藥物管理局大致相同的方式運作，后者在藥物上市前進行篩選，并擁有更廣泛的職責來保護和促進公眾健康。

第二種更靈活的模式可以基于“意外治理”，就像航空業一樣。雖然這聽起來令人擔憂，但在過去幾十年里，它在提高航空安全標準方面發揮了極其有效的作用。一旦發現故障，國際航空當局有權要求所有飛機制造商和航空公司做出改變。當在面向消費者的AI模型(例如自動駕駛汽車)中發現有害缺陷時，可以使用類似的方法。

文章稱，多位領先的行業研究人員呼吁暫停開發先進的生成式AI模型。但是，除非能夠建立更清晰的管理機制，否則暫停是毫無意義的。就連科技行業也承認，它現在需要更清晰的行業規則，必須與政府和民權組織建設性地合作，幫助制定這些規則。畢竟，如果安裝了有效的剎車裝置，汽車在轉彎時可以開得更快。鳳凰網科技《AI哨所》對此將持續關注。(作者/簫雨)