專訪谷歌AI主管：我反對谷歌涉足自動化武器研發

　　5月10日消息，據外媒報道，大約一個月前，有報道稱蘋果公司挖走了谷歌人工智能(AI)主管約翰·吉安德拉(John Giannandrea)，但他很快被Google Brain研究部門負責人杰夫·迪恩(Jeff Dean)取代。

　　在AI繼續被集成到谷歌所有產品和服務的過程中，這位資深谷歌人接任了AI主管職位，而且AI已經在谷歌形成獨立部門。Google Researc最近甚至更名為Google AI。

　　在最近舉行的開發者大會上，谷歌推出了很多新的功能和更新，包括為移動應用程序開發人員推出的ML Kit，計劃發布第三代張量處理單元(TPU)芯片，Google Assistant中的AI甚至可以代表你打電話。迪恩日前接受采訪，分享了他的未來遠景。

　　在不久的將來，迪恩看到AI創造新產品的機會，并可找到人類從未考慮過的問題的解決方案。他還看到來自AutoML的挑戰，這個AI模型可以構建其他AI模型，同時他認為谷歌不應該加入自動化武器研發行列。

　　通用智能AI崛起

　　在當今世界上，大部分AI只能被用于單一的、狹窄的用例中，就像將一個句子從一種語言翻譯為另一種語言，但是迪恩希望谷歌創造更多的AI模型，它們可以執行多個任務，實現一種“對世界的常識推理。”

　　迪恩表示：“我認為將來你會看到能做很多事情的AI模型，并在此基礎上積累起更多經驗。這樣，當我們想要訓練AI模型來做其他事情時，它就可以在已有技能和專業知識基礎上進行設置。”

　　舉例來說，如果一個機器人被要求撿起什么東西，它需要首先理解一些東西，比如手是如何工作的，重力原理，以及其它對這個世界的理解。迪恩稱:“我認為這將是未來幾年你會看到的一個重要趨勢。”

　　AutoML偏見和不透明挑戰

　　詢問不同的人，谷歌AutoML要么令人興奮，要么令人感到恐懼。機器訓練機器肯定會嚇到AI的反對者。但Google Cloud首席科學家李飛飛(Fei-Fei Li)表示，AutoML降低了為所有人開發定制AI模型的門檻，無論對于高端開發人員還是東京的拉面店老板，都是如此。

　　迪恩認為，這令人非常興奮，因為它可幫助谷歌“自動解決問題”，但是AutoML的使用也帶來了一些獨特的問題。

　　他說:“與傳統的手工編碼軟件相比，我們使用的學習系統更多，所以我認為這給我們帶來了很多挑戰。其中之一是，如果你從數據中學習，而數據中已經存在有偏見的決定，那么機器學習模型就會使這些偏見延續下去。有鑒于此，我們與機器學習社區正在做很多工作，以便弄清楚我們怎樣才能訓練出沒有偏見的機器學習模型。”

　　另一個挑戰是：如何利用AutoML設計出更注重安全的系統，為醫療等行業開發專用AI。幾十年計算機科學的最佳實踐已經為手工編碼建立了這樣的系統，現在也需要為制造機器的機器建立同樣安全的系統。

　　迪恩指出:“我認為這是一個非常有趣和重要的應用方向，特別是當我們開始在更注重安全的系統中使用機器學習的時候，比如那些正在決定你的醫療保健或自動駕駛汽車的東西。”

　　注重安全AI需要更透明

　　伴隨著Google Assistant將很快可代表你接打電話，以及Android P測試版的發布，谷歌首席執行官桑德爾·皮查伊(Sundar Pichai)談到谷歌如何將AI應用到醫療保健領域，以根據電子健康記錄信息來預測患者是否需要重新入院。

　　谷歌研究人員在《數字醫學的本質》(Nature of Digital Medicine)上發表了一篇文章，解釋了其AI為何會對病人做出某些決定，以便醫生能在醫療記錄中看到其推薦治療方案的理由。

　　將來，迪恩希望，那些想知道AI為何做出某個具體決定的開發人員或醫生，能夠通過簡單地詢問AI模型就能得到響應。他說，如今谷歌產品中部署的AI經歷了內部審查過程。谷歌目前正在制定一套指導方針，以評估AI模型是否存在偏見。

　　迪恩稱:“在本質上，就像對產品的新特性進行安全審查或隱私審查一樣，你想要的是對機器學習進行公平審查，這是將機器學習融入我們產品的一部分。”

　　迪恩表示，當涉及到由開發人員通過諸如ML Kit或TensorFlow(已被下載超過1300萬次)等工具部署AI時，人類也應該成為決策過程的一部分。

　　不該涉足AI武器化

　　迪恩說，他認為谷歌不應該涉足自動化武器研發領域。今年3月份，有報道稱谷歌正在與美國國防部合作，幫助改進無人機收集的視頻的分析能力。

　　迪恩解釋稱:“我認為，隨著社會開始發展更強大的技術，機器學習和AI會出現許多有趣的倫理問題。大約在6個月或9個月前，我個人已經簽署了一封公開信，承諾反對機器學習用于自動化武器。我認為很明顯，大多數人都對使用自主武器系統感到不安。”

　　《紐約時報》曾報道稱，數千名谷歌員工曾簽署公開信，敦促谷歌遠離“戰爭技術”，這可能會對谷歌品牌造成不可彌補的損害，并對公司和公眾之間的信任關系產生影響。迪恩沒有說明他是否簽署了《紐約時報》報道中的那封信。

　　AI驅動新項目和產品

　　皮查伊還強調了先前發布的一項關于AI的研究，在研究中，AI就像訓練有素的眼科醫生那樣，準確地發現了糖尿病視網膜病變。這種智力水平的AI模型不再局限于模擬人類活動，它們正在幫助谷歌發現新的產品和服務。

　　迪恩說:“通過使用大量數據對這些模型進行訓練，我們實際上可以讓系統做些我們不知道自己是否能做到的事情，這是個根本性進步。我們目前正在研發AI能夠驗證的全新測試和產品，而不是用AI來做我們想要它們去做的事情。”