AI究竟是如何做出決定的？谷歌研究員在研究

　　3月8日消息，據《紐約時報》報道，所謂的神經網絡大大推動了人工智能的發展，但理解計算機如何作出決策卻十分困難。谷歌的研究人員正在學習機器是如何學習的。

　　機器正在開始自己學習執行任務。它們在鑒別面孔，識別口語詞匯，查看醫學掃描圖，甚至展開它們自己的對話。

　　所有這些任務都是通過所謂的神經網絡來完成的，這些網絡屬于復雜的計算機算法，是通過分析海量的數據來學習執行任務。但是，這些神經網絡帶來了一個科學家正試圖解決的問題：判斷機器如何得出結論并不總是一件容易的事情。

　　周二，谷歌的一個團隊朝著解決這個問題邁出了一小步。他們所展示的新研究成果，大概描述了顯示機器如何作出它們的決策的技術。

　　谷歌研究員克里斯托弗·奧拉(Christopher Olah)指出，“即使只是看到機器作出決策的一部分過程，你也能夠形成很多關于它失效的潛在方式的了解。”

　　越來越多的AI研究人員在開發更好地理解神經網絡的方法。目前供職于打車服務巨頭Uber人工智能實驗室的美國懷俄明州立大學教授杰夫·克蘭(Jeff Clune)將這類技術稱作“人造神經科學”。

　　理解這些系統如何運作將變得更加重要，因為它們所做的決策目前是由人類來作出的，比如誰獲得工作，自動駕駛汽車如何應對緊急情況。

　　神經網絡概念最早在20世紀50年代被提出，它旨在模擬大腦中的神經元網絡。但那只是一個粗略的類似。這些算法真的是一連串的數學計算，每個操作都代表一個神經元。谷歌的新研究，意在以高度可視的方式展示這些數學計算是如何執行離散的任務的，如識別照片中的物體。

　　在神經網絡內，每個神經元都會去識別照片中可能出現的特定特征，比如從特定角度從右到左彎曲的線條，或者合并形成更大形狀的多條線條。谷歌希望提供工具來顯示每個神經元在試圖識別什么東西，哪些神經元識別成功，以及它們的努力如何共同判斷照片中實際上有什么——可能是小狗、燕尾服或小鳥。

　　奧拉表示，谷歌正在討論的這種技術可能也有助于判斷神經網絡為什么容易出錯，以及在寫情況中解釋它是如何習得這種行為的。包括克蘭在內的其他研究人員認為，該類技術還有助于最大限度地減少“對抗樣本”的威脅，比如某人可能通過篡改圖像來欺騙神經網絡。

　　研究人員坦言，這項研究仍處于起步階段。同樣供職于Uber人工智能實驗室的Jason Yosinski認為谷歌的技術理念“是頂級的”。 Uber的AI實驗室產生于該公司收購回來的初創公司Geometric Intelligence。不過Jason Yosinski也警告稱，理解計算機思維可能永遠都不會變容易。

　　“在某種程度上，隨著這些網絡變得越來越復雜，要理解它們為什么做出決策將變得極其困難，”他說道，“這有點像試圖理解人類為什么做出某些決策。”