亞馬遜員工抗議公司:不該向美政府賣人臉識別技術(shù)

　　10月18日消息，據(jù)國外媒體報道，一位自稱亞馬遜員工的作者在medium.com發(fā)表了一封公開信，表示反對亞馬遜將其面部識別系統(tǒng)Rekognition出售給美國的執(zhí)法機構(gòu)。

　　該信部分內(nèi)容如下：

　　當一家公司將新技術(shù)推向世界時，它有責任考慮其后果。我所在的亞馬遜目前允許全國各地的警察部門購買其面部識別產(chǎn)品Rekognition，我和其他員工要求公司立即停止這項業(yè)務。

　　幾周前，我的同事就這事的影響給杰夫·貝索斯(Jeff Bezos，亞馬遜CEO，譯者注)和其他高管寫了一封信，這封信獲得了亞馬遜450多名員工的簽名。信中還要求亞馬遜將軟件公司Palantir踢出其云服務AWS，因為該公司為美國移民與海關(guān)執(zhí)法局(ICE)的驅(qū)逐與跟蹤系統(tǒng)提供了大部分的技術(shù)支持，并建立員工對公司決策進行道德監(jiān)督的機制。

　　我們知道貝佐斯意識到了員工的這些擔憂，同時圍繞這一話題正與整個行業(yè)對話。在公開演講中，他承認大型科技產(chǎn)品可能被執(zhí)法部門利用，甚至是濫用。但是，貝佐斯并沒有解釋亞馬遜將如何采取行動來防止其自身技術(shù)被不當使用，而是建議我們等待社會產(chǎn)生“免疫反應”。

　　如果亞馬遜繼續(xù)等待，我們認為這種損害將難以消除。

　　畢竟，我們關(guān)注的不是其它公司將來可能造成的危害，而是亞馬遜目前正在設計、營銷和銷售的一套用于危險、大規(guī)模監(jiān)控的系統(tǒng)：Rekognition。亞馬遜網(wǎng)站吹噓說，該系統(tǒng)可以一次性存儲和搜索數(shù)千萬張人臉。執(zhí)法部門已經(jīng)開始使用亞馬遜的這項面部識別技術(shù)，但幾乎沒有任何公眾監(jiān)督，也沒有對此進行公開辯論，或有所限制。佛羅里達州奧蘭多市正在通過遍布全市的監(jiān)控攝像頭的實時視頻信號來測試Rekognition。俄勒岡州的一個警察部門目前正在利用Rekognition，讓現(xiàn)場的警官將照片與數(shù)據(jù)庫的面部照片進行比對。這已不再是一個假設的情況。

　　我們從歷史中了解到，新型的、強大的監(jiān)控工具不受控制地掌握在執(zhí)法機構(gòu)手中，將被用于針對那些沒有做過錯事的人;在美國，由于缺乏公共問責制，已經(jīng)導致了對有色人種、移民和行使第一修正案權(quán)利的人進行過度干擾和過度監(jiān)管。在向政府和執(zhí)法機構(gòu)提供強大技術(shù)的同時，忽視這些緊迫問題是危險的和不負責任的。

　　這就是為什么當AWS全球公共部門副總裁特雷薩·卡爾森(Teresa Carlson)最近表示亞馬遜“毫不動搖地支持”執(zhí)法、國防和情報部門的客戶時，我們感到失望。他甚至還說，即使我們“不知道他們實際上在利用這個工具做什么”。亞馬遜甚至建議，為警官隨身相機提供Rekognition功能，這將把本來作為警察問責的工具變成針對公眾的移動監(jiān)控設備。我們?yōu)槭裁匆�這樣做?

　　像我們這樣的公司不應該開展促進政府監(jiān)控的業(yè)務。現(xiàn)在不行，永遠也不行。但Rekognition支持通過從一幀視頻中提取幾十個面部標識，并將它們存儲起來供以后使用，或者立即將它們與有數(shù)百萬張圖片的數(shù)據(jù)庫進行比對。

　　銷售這個系統(tǒng)違背了亞馬遜的價值觀。我們標榜自己是一家以客戶為中心的公司，貝佐斯自己直接反對美國政府針對移民的不道德政策，比如穆斯林禁令。

　　我們不能以犧牲公眾利益為代價，從那些擁有強大權(quán)力的客戶群體中獲利;我們不能忽視我們業(yè)務對公眾利益的損害。我們銷售的Rekognition系統(tǒng)是一種有缺陷的技術(shù)，它強化了美國現(xiàn)有的偏見。研究表明，面部識別技術(shù)更容易誤認擁有深色皮膚的人。這一點在最近對Rekognition的測試中得到了明確的證明。這項調(diào)查將美國國會議員的照片與數(shù)據(jù)庫的一些臉部照片逐一比對，結(jié)果出現(xiàn)了28項錯誤匹配，而在有色人種中不正確結(jié)果比例特別高。但即使這些錯誤被修正了，允許執(zhí)法部門使用這種軟件仍然是不負責任、危險和不道德的。現(xiàn)在，產(chǎn)生這種偏見的根源存在于美國更廣泛的社會和司法系統(tǒng)中。面部識別技術(shù)的使用只會復制和放大美國現(xiàn)有的這種偏見。

　　美國目前的政治環(huán)境使得向政府出售面部識別產(chǎn)品的想法更加令人反感。美國警方加大了對黑人活動人士的監(jiān)視力度，特朗普政府也在繼續(xù)全力打擊移民。我們不希望以任何方式為美國政府的超級監(jiān)視系統(tǒng)做出貢獻。亞馬遜表示已要求Rekognition的客戶遵守法律，但這只是一種為這項技術(shù)的負面使用逃避責任的方式。

　　谷歌員工公開反對公司與美國國防部的Maven合同(編者注：該合同涉及使用人工智能來分析無人機鏡頭)，微軟員工公開反對公司與美國國防部的云計算合同JEDJEDI，我們將跟隨他們的步伐。不管我們對美國軍方的觀點如何，任何人都不應該從“增加軍隊的殺傷力”中獲利。

　　亞馬遜談論了很多關(guān)于領(lǐng)導力的價值觀問題。如果我們想要擁有領(lǐng)導力，我們需要在人類利益與利潤之間做出選擇。我們可以把危險的監(jiān)視系統(tǒng)賣給執(zhí)法部門，或者我們可以維護正義。但我們不能兩者兼得。