揭秘谷歌內(nèi)部AI倫理委員會 由高管組成把持真正權(quán)利

　　4月8日消息，據(jù)外媒報道，兩周前，谷歌成立了專門的外部專家團隊，負責審查與人工智能(AI)相關(guān)的棘手倫理問題。然而，此舉很快就引發(fā)了喧囂。在員工對該委員會所招募成員表示不滿之后，谷歌于上周解散了這個新團隊，其新成員甚至都沒有機會見面。

　　這段插曲表明，谷歌在努力應(yīng)對這項塑造其未來的強大技術(shù)所帶來的社會影響方面面臨的艱巨挑戰(zhàn)。再怎么強調(diào)AI對谷歌的重要性也不為過，該公司首席執(zhí)行官桑達爾·皮查伊(Sundar Pichai)去年就曾表示：“AI比電或火的出現(xiàn)具有更深刻的意義。”但谷歌始終處于一場日益擴大的公眾辯論的中心，這場辯論的主題是：自動化系統(tǒng)如何可能使弱勢群體處于不利地位，或?qū)е麓笠?guī)模失業(yè)，以及AI是否應(yīng)被集成到武器裝備中。

　　谷歌打算組建的團隊名為“先進技術(shù)外部咨詢委員會”(ATEAC)，其如何應(yīng)對上述問題的能力已經(jīng)無關(guān)緊要。但是在谷歌內(nèi)部，還有另一個幾乎與ATEAC名字相同的團隊，即高級技術(shù)審查委員會(ATRC)，據(jù)稱這個團隊才有真正的權(quán)利來幫助塑造谷歌解決其AI倫理困境的方法。

　　彭博社查閱的文件顯示，谷歌宣稱，該公司去年召集的另一個委員會試圖“代表不同的、國際的、跨職能的觀點，這些觀點可以超越眼前的商業(yè)問題”。據(jù)知情人士透露，谷歌尚未公開其ATRC成員名單，但其中包括該公司多名最有影響力的人士，他們與皮查伊及其老板、谷歌聯(lián)合創(chuàng)始人拉里·佩奇(Larry Page)合作多年。

　　ATRC由谷歌首席法律官肯特·沃克(KentWalker)管理。其他成員包括谷歌基礎(chǔ)設(shè)施主管烏爾斯·霍爾澤 (Urs H?lzle) 、AI主管杰夫·迪恩(Jeff Dean)、Google.org副總裁杰奎琳·富勒(Jacquelline Fuller)、教育和大學項目副總裁麥吉·約翰遜(Maggie Johnson)以及谷歌母公司Alphabet旗下領(lǐng)先AI研究公司DeepMind聯(lián)合創(chuàng)始人穆斯塔法·蘇雷曼(Mustafa Suleyman)。

　　熟悉這個內(nèi)部委員會的批評人士將其視為一種粉飾。他們表示，在谷歌聲明的倫理原則與其財務(wù)利益相抵觸的情況下，由高管組成的內(nèi)部AI倫理委員會不太可能對谷歌起到認真的制衡作用。谷歌內(nèi)部多人表示，該公司ATRC的議程和決定在啟動幾個月后仍不清楚。這些人因害怕報復而要求不具名。

　　當被要求置評時，谷歌發(fā)言人提到了去年12月份發(fā)布的一篇博文，該博文首次提及了ATRC，強調(diào)了該公司在AI部署的倫理原則方面取得的進展。當時，谷歌進行了100次審查。在這篇博文中，沃克舉例指出，該公司決定在解決重要的技術(shù)和政策問題之前，暫緩使用一種通用的面部識別工具。

　　許多技術(shù)公司最近制定了倫理原則來指導他們在AI方面的工作。微軟、Facebook和為警察部門生產(chǎn)電擊槍和身體攝像頭的Axon公司，現(xiàn)在都成立了針對這一問題的咨詢委員會。但專家們質(zhì)疑，這些行動是否主要是為了阻止新的政府法規(guī)生效。紐約大學研究團隊AI Now Institute在2018年的一份報告中寫道：“倫理規(guī)范可能會通過承認存在問題來轉(zhuǎn)移批評，而不會放棄任何監(jiān)管或改變技術(shù)開發(fā)和應(yīng)用方式的權(quán)力。我們沒有看到強有力的監(jiān)督和問責來支持科技公司旅行這些道德承諾。”

　　去年，谷歌的AI戰(zhàn)略首次遇到了嚴重的倫理問題。當時，有關(guān)谷歌在名為Project Maven的無人機項目上的工作被披露，導致員工抗議和罷工。去年6月，谷歌發(fā)布了一套合乎倫理的AI原則，并成立了多個委員會，對提議的產(chǎn)品是否符合標準進行投票。這些團隊類似于谷歌對廣告和移動軟件等服務(wù)的隱私準則和法律責任進行審查的方式。

　　對于AI來說，則有個“負責任創(chuàng)新團隊”(Responsible Innovation)，它由為谷歌效力12年的老將Jen Gennai領(lǐng)導，負責處理“日常操作”，并將問題提交給全權(quán)負責的委員會。另一個較大的顧問團隊由較低級別的工作人員組成，他們隨時需要獲得關(guān)于技術(shù)產(chǎn)品和規(guī)程的內(nèi)部專門知識。這份內(nèi)部文件指出，這兩個機構(gòu)位于ARTC之下，后者會將“幫助解決谷歌審查過程中出現(xiàn)的復雜問題”。

　　“短命”的外部咨詢委員會已經(jīng)成為谷歌內(nèi)部尖刻政治沖突的典型例證。在該機構(gòu)成立后幾個小時內(nèi)，那些谷歌反對者將傳統(tǒng)基金會主席凱·科爾斯·詹姆斯(Kay Coles James)和她此前公開發(fā)表的關(guān)于同性戀、變性人以及氣候變化的言論聯(lián)系起來，促使谷歌員工迅速憤怒起來。

　　一份要求罷免詹姆斯的請愿書開始流傳。ATEAC的一名成員辭職，另一名成員為留下來的決定辯護。右翼新聞媒體發(fā)布了員工批評詹姆斯的泄密信息，Breitbart News將嚴厲批評詹姆斯的信息描述為“徹頭徹尾的污點”。傳統(tǒng)基金會沒有立即回復記者的置評請求。

　　被邀請加入谷歌外部咨詢委員會的巴斯大學計算機科學教授喬安娜·布萊森(JoannaBryson)稱，谷歌委員會的崩潰是一個重大挫折。她在一封電子郵件中寫道：“歸根結(jié)底，我們回到了現(xiàn)狀，我個人認為這是不可接受的。”

　　谷歌似乎離想出一種讓任何人都滿意的方法還差得很遠。上周四，當該公司關(guān)閉其外部咨詢委員會時，一份公司聲明稱，該公司正在“重新制定計劃”，但它沒有提到內(nèi)部審查團隊。 (騰訊科技審校/金鹿)