新智元報道
來源：theintercept.com
編輯：大明
【新智元導讀】近日，有亞馬遜高管表示，公司會“堅定不移”地為美國政府和軍方服務，政府執法部門、士兵和公務人員都應該獲得AI技術的幫助。亞馬遜并未就參與國防事務問題上劃定任何“紅線”。不久前公司的人臉識别軟體将議員誤認為罪犯，是因為ACLU的實驗設定的精确度門檻值存在問題，屬于對軟體的使用不當。
在向軍方和執法部門提供尖端AI技術是否會有違道德這件事上，一些矽谷巨頭企業一直态度暧昧，但亞馬遜對此似乎态度鮮明，沒有保留。
亞馬遜的員工一直在抗議公司将面部識别技術賣給執法部門。不過上月底在科羅拉多州舉辦Aspen安全論壇上，亞馬遜AWS全球公共部門副總裁Teresa Carlson對這一問題表明了立場。在被問及亞馬遜的員工（亞馬遜員工抗議與公司的“管理層”利益之間存在文化上的“鴻溝”時，Carlson對此作出坦率回應，她表示：“我們緻力于服務我們的客戶，我們會堅定不移地為美國政府和世界各地與我們有合作關系的政府服務。”
Carlson的這番言論在媒體上鮮有報道，最近幾個月以來，關于亞馬遜在為軍方和執法部門提供AI技術中起到的重要作用，已經引發了長時間的公衆讨論，并引發了巨大争議。
亞馬遜将“堅定不移”地為美國政府和軍方服務，未設任何紅線
亞馬遜衆多員工最近向公司的CEO傑夫·貝索斯發出了一封公開信，抗議亞馬遜将面部識别軟體Rekognition出售給執法部門。信中引用了美國國土安全部“對難民和移民越來越不人道的對待。”美國公民自由聯盟（ACLU）對亞馬遜出售技術表示擔憂，指Rekognition可以讓警察不間斷地監視和騷擾少數族裔和持不同政見人士。微軟和Salesforce同樣面臨來自員工的内部壓力。
對于近期的批評之聲，Carlson表示，“員工需要發聲管道。我不能代表任何其他公司發言，但我們希望與我們的政府合作，”她補充說。“我們感到有這個義務。政府也應該擁有相應的能力，在戰場上作戰的士兵、我們的公務人員，都應該具備相應的能力。”Carlson承認“壞人總是難免的”，但接着就開始誇贊對Rekognition軟體的積極應用。
當有記者問到，亞馬遜是否“在國防事務上劃定了任何紅線，制定了任何标準、指導方針，确定要做哪些事、不做哪些事”時，Carlson表示，并沒有。
“我們沒有劃定任何界限，”Carlson回應道。 “我們會堅定不移地支援執法部門、國防部門和情報部門。”她表示，亞馬遜經常不了解“自己的軟體工具的服務對象的一切”，但同時堅持認為美國政府應該擁有最具“創新性和前沿性的工具”，以使其不受其“敵人”的影響。Carlson提出“符合道德的使用權”作為一種機制，亞馬遜可以通過該機制收回被非法使用的技術，不過公司不清楚這會對執法行動造成什麼影響，比如美國移民局和海關的執法部門所采取的執法行動。
以網絡服務和電子商務業務聞名的亞馬遜公司，目前正迅速進入國防和國土安全領域，為五角大樓和全國各地的警察機構提供一系列機器學習工具。亞馬遜目前正在為美國情報機構管理一個大型雲計算解決方案，并正在競标一項價值100億美元的合同，為國防部提供類似的雲解決方案。
“議員變罪犯”事件是因為ACLU對臉部識别軟體使用不當
上周，ACLU的一項研究發現，亞馬遜的面部識别軟體錯将28名國會議員識别為罪犯，這些議員大多數是有色人種，随後，亞馬遜遭遇了又一波批評。
一位不願透露姓名的亞馬遜發言人表示，ACLU的研究結果是“校準不當”所緻。該發言人表示，在ACLU的實驗設定的精确度門檻值下，亞馬遜的面部識别技術未能在“合理的确定度”内使用。
據Intercept獲得的洩露電子郵件中顯示，亞馬遜在去年國防部提出的飽受争議的Project Maven中做了“一些工作”。該合同是五角大樓首次積極嘗試将矽谷開發的機器學習技術融入軍事項目中。該計劃利用人工智能技術，對人員、建築物和事件進行自動編目，以幫助分析人員識别無人機在戰場上捕獲的圖像。
根據Defense One的說法，這一計劃将用于支援“捕食者”和“收割者”無人機攻擊“中東地區”的目标。批評人士稱，在無人機戰争中使用先進的人工智能技術隻會導緻“對攻擊方式的改變”，讓無人機攻擊的目标人群不再基于已知的活動，而是基于遠端監控錄像的得出的機率。據報道，特朗普總統部署無人機的速度達到了奧巴馬時期的四到五倍，而奧巴馬将無人機的攻擊次數提升至小布什時期的10倍。
最終，谷歌赢得了Project Maven合同，但試圖隐瞞公司參與該項目。谷歌的幾名員工辭職抗議，數千人聯名發表公開信，要求谷歌終止與軍方的聯系。許多人對此表示震驚，谷歌與軍方合作似乎違反了自身“不作惡”的信條，并且聲稱“與五角大樓的任何合作成果都不會用于緻命目的”，這實際上是在誤導自家員工。
谷歌于此後表示，Project Maven合同于明年到期後不再續簽，并且在努力制定一套使用人工智能技術的道德守則，不過并未表示在未來會拒絕與國防事務有關的合同。
參考連結：
https://theintercept.com/2018/07/30/amazon-facial-recognition-police-military/