“2024 ESG 全球領導者大會”于 10 月 16 日-18 日在上海舉行。新浪財經歐洲站站長郝倩與知名歷史學家、哲學家、《人類簡史》、《智人之上》作者尤瓦爾・赫拉利展開對話。

尤瓦爾認為,人工智能(AI)的崛起是人類所面臨的一大挑戰。但不可否認的是,人工智能能夠造福人類的觀點同樣存在。在被問題及,在可持續發展的社會中,人工智能應該扮演什么角色時,尤瓦爾表示,如果能夠防止人工智能失控,確保它能符合人類的價值觀,那么人工智能可能會成為人類歷史上最好的發明。
“因為到那時,它的巨大力量將服務于人類社會,而不是危害人類社會”,尤瓦爾舉例說,諸如醫療保健等領域,目前沒有足夠數量的醫生為病人服務,而人工智能醫生可以在這方面提供巨大幫助。
此外,尤瓦爾還舉例稱,每年有 100 多萬人死于車禍,其中大多數事故都是人為失誤造成的,比如酒后駕車或疲勞駕駛。如果人工智能控制自動駕駛,每年就能拯救 100 萬人,盡管人工智能也可能會導致事故,但總數會少得多。
同樣,在氣候變化方面,人工智能可以幫助人類找到新的能源,找到更好的、可持續的、管理經濟的方法。
“但最大的問題是,如何在享受這些好處的同時防止技術帶來的巨大危險”,尤瓦爾再次強調。
談及人工智能的監管問題,尤瓦爾強調,“監管非常重要,而且許多國家的政府對此很感興趣”。
他說,由于是新生事物,政府機構目前并不確定應該如何監管人工智能,但有些規定應該是顯而易見的,比如應該禁止人工智能假冒人類。“我們歡迎人工智能以醫生或教師的身份在社交媒體上與我們互動,但它絕不能假裝自己是人類。你在交談時,需要知道交談的對象是人類還是人工智能”,他解釋說,“在社交媒體上,某個推送獲得了大量關注,有很多用戶點擊。你可能會想,大家都對這個感興趣,我也想了解一下人們正在談論什么。于是你也開始點擊它。實際上,最初推送這則內容的并不是人類用戶,而是機器人”。
“所以你需要知道,這不是人類,而是機器人,然后再做決定”,他強調,禁止人工智能假冒人類是一項重要規定。“就像各國政府禁止偽造貨幣,以維護人們對貨幣的信任一樣,我們需要禁止偽造人類,以維護人們對人類的信任”。
此外,同樣重要的是,人工智能公司要對其算法的行為負責。“要知道,如果一家公司生產的汽車在工程設計上存在缺陷,導致發生事故,造成了人員傷亡,那么對我們來說,這顯然是公司的責任,可能管理者得去坐牢,也可能必須支付一大筆罰款,因為他們是有責任的。如果你生產了一種藥品,而這種藥品有副作用,導致人們患病,那么你的公司顯然要承擔責任”,尤瓦爾說,人工智能算法也應如此。如果一家公司研發了一種功能強大的算法,而它對社會、人類心理或其他方面產生了危險的副作用,那么這家公司就必須承擔責任,必須對它造成的損害負責。
尤瓦爾提醒,人工智能是在不斷學習和變化的,今天的人工智能還只是處于初級階段,我們無法預測未來人工智能可能帶來的所有問題和威脅。因此,我們需要的不僅僅是監管,還需要一個可以信賴的機構,它應該了解人工智能的發展,并能對其做出快速反應。
“你可以把規章制度看作是我們的牙齒,但在有牙齒之前,你需要先用眼睛看見你要咬的東西”,尤瓦爾說,但目前,有關人工智能的大部分知識只掌握在少數國家的少數公司手中,而世界上大多數人、甚至大多數政府都不太了解發生了什么。
尤瓦爾指出,應該像觀測外太空的天文臺那樣,建立起一座全球人工智能發展的觀測站。它能夠告訴我們實際發生了什么,尖端技術是什么,存在什么危險,有哪些機遇。
尤瓦爾說,人工智能領域達成某項全球性協議是很困難的,因為你不知道對方是否履行了職責。但如果建立起了這座全球人工智能觀測站,不必進行監管,只是觀察正在發生的事情并告知人們,每個政府都可以承諾提供一定的資金來資助這個機構。它需要大量資金聘用最優秀的人才,引進最先進的技術,需要龐大的預算,而每個政府都可以承諾提供一定的資金,并很容易核實其他政府是否履行了承諾。
最后,在被問及什么是可持續發展社會的關鍵要素時,尤瓦爾回應稱,關鍵是要更好地了解人類。在其看來,社會發展最終的目標不是生產人工智能,也不是生產其他東西,而是為了讓人類過上美好、幸福的生活。
“你真正需要了解的是,什么是人們生活中痛苦的根源,以及什么是人類的幸福之源”,他說,將如此多的資金、精力和時間用于發展技術和人工智能固然重要,但我們也不應忽視對人類的了解和發展。
“如果我們在開發人工智能方面每投入一美元或一分鐘,都能在了解和發展人類和人類思維方面也投入一美元和一分鐘,我想一切都會好起來”,他說。
行業資訊、企業動態、業界觀點、峰會活動可發送郵件至news#citmt.cn(把#換成@)。
海報生成中...