谷歌退出AI項目 美國防部憤而前往硅谷招納AI人才

　　12月26日消息，據外媒報道，美國軍方正不顧一切地試圖在人工智能(AI)領域占據一席之地，美國國防部官員相信，AI將在未來的戰爭中幫助美國取得勝利。

　　但國防部的內部文件和對高級官員的采訪清楚地表明，美國國防部的AI努力正因被一家科技巨頭拋棄而陷入舉步維艱的境地。為擺脫這種困境，美國國防部正制定新的戰略，以便在一場新的戰斗中搶占先機，即爭奪硅谷AI人才的大戰。

　　這場戰斗以出人意料的失敗開始。今年6月份，谷歌宣布退出美國國防部的Project Maven，該項目使用了這家科技巨頭的AI軟件。這一努力旨在創建算法，幫助情報分析人員從視頻片段中識別出軍事目標。

　　兩個月前，數千名谷歌員工簽署了一份請愿書，呼吁公司停止與美國國防部就該項目的合作。

　　據五位熟悉有關Project Maven內部討論的消息人士透露，在美國國防部內部，谷歌的退出帶來了挫折和沮喪，甚至是憤怒情緒。Project Maven是美國軍方首次在戰爭中使用AI的重大努力。

　　6月28日，美國國防部向大約50名官員分發了一份內部備忘錄，并稱：“我們在毫無準備的情況下陷入了有關戰略態勢的爭論中。”備忘錄中顯示，谷歌的退出讓美國國防部感覺措手不及，這個部門最近面臨對軍方AI發展計劃至關重要的專家疏遠它的風險。

　　備忘錄警告說：“如果我們不贏得關鍵支持者的‘民心’，我們就無法有效地與我們的對手競爭。”

　　事實上，Project Maven還遠未完成，2017年的開支成本僅為7000萬美元左右，這是五角大樓當年6000億美元海量預算中的一小部分。但谷歌的聲明表明，美國國防部仍在努力應對更大的公共關系和科學挑戰。

　　迄今為止，谷歌的回應是試圖為其AI工作樹立新的公眾形象，并尋求由科技公司高管組成的咨詢委員會對國防部的AI政策進行審查。

　　美國國防部感到焦慮的原因很明顯：它想要一條在未來武器裝備中集成AI的平穩道路，這一愿望已經得到了數十億美元承諾的支持，以努力確保這些系統得到軍事指揮官的信任和接受，此外還需要在技術本身上增加數十億美元的研發支出。

　　AI在戰爭中所發揮的確切作用還不清楚。許多集成有AI技術支持的武器不涉及機器算法的決策，但它們存在這樣做的潛力。正如美國國防部在8月份的一份戰略文件中所說的那樣：“支持無人駕駛系統的技術將使開發和部署自主系統成為可能，這些系統可以獨立選擇目標，并以致命武器發動攻擊。”

　　美國國防官員稱，開發AI技術與創造其他軍事技術不同。盡管軍方很容易就能從大型國防承包商那里獲得最先進的戰斗機和炸彈，但AI和機器學習的創新核心卻屬于硅谷的非國防科技巨頭。

　　官員們擔心，如果沒有他們的幫助，美國軍方可能會輸掉一場不斷升級的全球軍備競賽。在這場競賽中，AI將扮演越來越重要的角色。

　　前科技創業家、美國國防部下屬國防數字服務(DDS)部門主管克里斯·林奇(Chris Lynch)在接受采訪時表示：“如果你決定不參與Project Maven，實際上你也未能參與討論是否將AI或機器學習用于軍事行動。”林奇表示，AI已經開始被用于戰爭，所以現在的問題是，哪些美國技術專家將會設計它?

　　林奇聘用了多名技術專家，并花了幾年時間研究美國國防部面臨的問題。林奇表示，AI技術太重要了，即使該機構不得不依賴不那么專業的專家，它也要繼續這方面的研發。

　　但是，林奇補充說：“如果沒有業內精英的幫助，我們將雇傭能力遠遠不如他們的人去開發能力更差的產品，這種產品可能會讓年輕的男女陷入危險的境地，而且可能會因此而出現錯誤。”

　　谷歌不太可能很快改弦更張。今年6月份，谷歌宣布不會尋求續簽Maven合同不到一周后，隨即發布了一套AI指導原則，規定該公司不會將AI用于“幫助開發武器或其他用于直接傷害人類的產品”。

　　自那以來，美國國防部許多官員抱怨谷歌不愛國，并指責該公司仍在與中國政府合作。中國政府是美國在AI技術領域最大的競爭對手。

　　據知情人士透露，Project Maven的目的是通過在無人機和其他平臺的視頻片段中標記對象類型，簡化情報分析人員的工作，幫助分析人員收集信息，并縮小對潛在目標的關注范圍。但算法并沒有選擇目標或命令發動打擊，對于那些擔心先進計算和新形式致命暴力相結合的人來說，這是一種長期恐懼。

　　盡管如此，谷歌的許多人還是以令人擔憂的方式看待這項計劃。

　　一位熟悉內部討論的前谷歌員工表示：“他們立即想到了無人機，然后他們又想到了機器學習和自動目標識別。我認為這個項目開發的AI很快就會升級，讓它們能夠進行有針對性的殺戮，發動有針對性的戰爭。”

　　谷歌只是美國國防部試圖將AI技術集成到現代戰爭中的科技巨頭之一，微軟和亞馬遜也參與了其相關努力。據美國國防部現任和前任官員稱，在谷歌6月份宣布退出消息后，十多家大型國防公司與美國國防官員接洽，表示愿意接手這項工作。

　　但硅谷活動人士也表示，該行業不能輕易忽視科技從業者的道德疑慮。上述前谷歌員工表示：“那些要對股東負責的人以及想要獲得價值數百萬美元國防部合同的人，與那些必須建造這些東西、并在道義上不愿意成為同謀的普通員工之間，存在著明顯的分歧。”

　　為了彌合這一鴻溝，緩解AI工程師的強烈反對，美國國防部迄今采取了兩項舉措。

　　第一項舉措于6月底正式啟動，旨在創建一個聯合AI中心，旨在監督和管理軍方的所有AI工作，最初的重點是對公關友好的人道主義任務。它將由杰克·沙納漢中將(Jack Shanahan)負責，他此前的主要任務是管理Project Maven。

　　這是個政治上十分精明的決定，它的第一個重大舉措是找出一種利用AI幫助軍隊在自然災害中組織搜索和救援的方法。

　　美國國防部AI戰略首席設計師布倫丹·麥考德(Brendan McCord)在10月份的一次技術會議上說：“我們的目標是拯救生命。我們軍隊的根本任務是維持和平。這是為了阻止戰爭和保護我們的國家。這是為了提高全球穩定，也是為了最終保護啟蒙運動產生的一系列價值觀。”

　　第二項舉措是要求一個由技術專家組成的咨詢小組——國防創新委員會(Defense Innovation Board)對AI道德進行新的審查，該委員會包括谷歌前首席執行官埃里克·施密特(Eric Schmidt)和職業社交網站LinkedIn聯合創始人里德·霍夫曼(Reid Hoffman)。

　　這項審查旨在制定軍隊使用AI的指導原則，國防創新委員會目前由前國防部長創新問題顧問約書亞·馬爾庫塞(Joshua Marcuse)管理，他現在是該委員會的執行董事。

　　這個咨詢團隊將花費大約9個月的時間，與AI專家舉行公開會議，同時美國國防部的一個內部小組也將審議問題。然后，該委員會將向國防部長詹姆斯·馬蒂斯(James Mattis)提出建議，說明AI應該或不應該被集成到武器項目中。

　　馬爾庫塞在接受采訪時說：“這必須是真正意義上的審查，并愿意對我們將要做的事情、我們不會去做的事施加一些限制，明確界限所在。”

　　為了確保辯論的公正性，馬爾庫塞說，國防創新委員會正在尋找對軍方在AI領域中所扮演角色持批評態度的人士。

　　他說：“對于國防部將如何應用這些技術，他們有各種各樣的擔憂，我認為這些擔憂是合理的，因為我們擁有在某些情況下侵犯公民隱私的合法權力，有實施暴力的合法權力，同時還有發動戰爭的合法權力。”

　　美國國防部的官員們表示，解決這些問題至關重要，因為美國管理AI人才的方式不同，它要想法設法吸引外界的專家。

　　馬爾庫塞說：“這些專家必須選擇與我們合作，而我們我們需要向他們提供一個有意義、可驗證的承諾，讓他們有與我們合作的真正機會，讓他們相信自己是好人。”

　　馬爾庫塞表示，盡管他愿意討論未來對AI使用的潛在限制，但他認為國防創新委員會不會試圖改變美國國防部依賴AI自動武器的現有政策。2012年，奧巴馬政府出臺了這一政策。

　　2017年5月，特朗普政府對這項政策進行了小幅度的技術修訂，但并不妨礙軍方在其任何武器系統中使用AI。美國國防部的多名官員表示，該政策規定，指揮官對任何集成AI的武器系統都有“適當程度的人類判斷水平”。

　　然而，這項政策也要求，在計算機被編程啟動致命行動之前，包含它的武器系統必須經過美國國防部三位高級官員的特別審查。但到目前為止，還沒有進行過這類特別審查。

　　據一位熟悉細節的前國防官員透露，2016年末，在奧巴馬政府任期結束的時候，美國國防部曾對這項2012年頒布的政策進行了新的審視，并在一份機密報告中決定，不需要做出重大改變。

　　不過，特朗普政府在內部討論過，并讓軍方的武器工程師更清楚地認識到，這項政策并不禁止在武器系統中使用AI。特朗普擔心，軍方工程師一直不愿將AI集成到他們的設計中。

　　硅谷有關Project Maven的爭論至少暫時阻止了這一討論，促使美國國防部高層首先試圖贏得國防創新委員會的支持。

　　但不管怎樣，五角大樓打算將更多AI整合到其武器中。馬爾庫塞說：“當一項新技術正在徹底改變戰爭模式時，我們不會袖手旁觀。這對美國民眾、對被派往危險戰場的軍人以及依賴我們的盟友來說都不公平。”