對話《人類簡史》作者尤瓦爾：我們需要防止人工智能失控，確保其符合人類價值觀

　　“2024 ESG 全球領導者大會”于 10 月 16 日-18 日在上海舉行。新浪財經歐洲站站長郝倩與知名歷史學家、哲學家、《人類簡史》、《智人之上》作者尤瓦爾・赫拉利展開對話。

　　尤瓦爾認為，人工智能(AI)的崛起是人類所面臨的一大挑戰。但不可否認的是，人工智能能夠造福人類的觀點同樣存在。在被問題及，在可持續發展的社會中，人工智能應該扮演什么角色時，尤瓦爾表示，如果能夠防止人工智能失控，確保它能符合人類的價值觀，那么人工智能可能會成為人類歷史上最好的發明。

　　“因為到那時，它的巨大力量將服務于人類社會，而不是危害人類社會”，尤瓦爾舉例說，諸如醫療保健等領域，目前沒有足夠數量的醫生為病人服務，而人工智能醫生可以在這方面提供巨大幫助。

　　此外，尤瓦爾還舉例稱，每年有 100 多萬人死于車禍，其中大多數事故都是人為失誤造成的，比如酒后駕車或疲勞駕駛。如果人工智能控制自動駕駛，每年就能拯救 100 萬人，盡管人工智能也可能會導致事故，但總數會少得多。

　　同樣，在氣候變化方面，人工智能可以幫助人類找到新的能源，找到更好的、可持續的、管理經濟的方法。

　　“但最大的問題是，如何在享受這些好處的同時防止技術帶來的巨大危險”，尤瓦爾再次強調。

　　談及人工智能的監管問題，尤瓦爾強調，“監管非常重要，而且許多國家的政府對此很感興趣”。

　　他說，由于是新生事物，政府機構目前并不確定應該如何監管人工智能，但有些規定應該是顯而易見的，比如應該禁止人工智能假冒人類。“我們歡迎人工智能以醫生或教師的身份在社交媒體上與我們互動，但它絕不能假裝自己是人類。你在交談時，需要知道交談的對象是人類還是人工智能”，他解釋說，“在社交媒體上，某個推送獲得了大量關注，有很多用戶點擊。你可能會想，大家都對這個感興趣，我也想了解一下人們正在談論什么。于是你也開始點擊它。實際上，最初推送這則內容的并不是人類用戶，而是機器人”。

　　“所以你需要知道，這不是人類，而是機器人，然后再做決定”，他強調，禁止人工智能假冒人類是一項重要規定。“就像各國政府禁止偽造貨幣，以維護人們對貨幣的信任一樣，我們需要禁止偽造人類，以維護人們對人類的信任”。

　　此外，同樣重要的是，人工智能公司要對其算法的行為負責。“要知道，如果一家公司生產的汽車在工程設計上存在缺陷，導致發生事故，造成了人員傷亡，那么對我們來說，這顯然是公司的責任，可能管理者得去坐牢，也可能必須支付一大筆罰款，因為他們是有責任的。如果你生產了一種藥品，而這種藥品有副作用，導致人們患病，那么你的公司顯然要承擔責任”，尤瓦爾說，人工智能算法也應如此。如果一家公司研發了一種功能強大的算法，而它對社會、人類心理或其他方面產生了危險的副作用，那么這家公司就必須承擔責任，必須對它造成的損害負責。

　　尤瓦爾提醒，人工智能是在不斷學習和變化的，今天的人工智能還只是處于初級階段，我們無法預測未來人工智能可能帶來的所有問題和威脅。因此，我們需要的不僅僅是監管，還需要一個可以信賴的機構，它應該了解人工智能的發展，并能對其做出快速反應。

　　“你可以把規章制度看作是我們的牙齒，但在有牙齒之前，你需要先用眼睛看見你要咬的東西”，尤瓦爾說，但目前，有關人工智能的大部分知識只掌握在少數國家的少數公司手中，而世界上大多數人、甚至大多數政府都不太了解發生了什么。

　　尤瓦爾指出，應該像觀測外太空的天文臺那樣，建立起一座全球人工智能發展的觀測站。它能夠告訴我們實際發生了什么，尖端技術是什么，存在什么危險，有哪些機遇。

　　尤瓦爾說，人工智能領域達成某項全球性協議是很困難的，因為你不知道對方是否履行了職責。但如果建立起了這座全球人工智能觀測站，不必進行監管，只是觀察正在發生的事情并告知人們，每個政府都可以承諾提供一定的資金來資助這個機構。它需要大量資金聘用最優秀的人才，引進最先進的技術，需要龐大的預算，而每個政府都可以承諾提供一定的資金，并很容易核實其他政府是否履行了承諾。

　　最后，在被問及什么是可持續發展社會的關鍵要素時，尤瓦爾回應稱，關鍵是要更好地了解人類。在其看來，社會發展最終的目標不是生產人工智能，也不是生產其他東西，而是為了讓人類過上美好、幸福的生活。

　　“你真正需要了解的是，什么是人們生活中痛苦的根源，以及什么是人類的幸福之源”，他說，將如此多的資金、精力和時間用于發展技術和人工智能固然重要，但我們也不應忽視對人類的了解和發展。

　　“如果我們在開發人工智能方面每投入一美元或一分鐘，都能在了解和發展人類和人類思維方面也投入一美元和一分鐘，我想一切都會好起來”，他說。