首頁 / 科技 / 正文

    政府AI合同遭抗議,微軟終低頭:號召全面限制人臉識別軟件

    機器之心報道

    機器之心編輯部

    基於對墨西哥邊境地區非法入境者及其子女的關切,近來越來越多的人開始抗議科技公司與美國政府部門簽訂 AI 人臉識別服務合同的行為。微軟是其中最引人注目的巨頭之一。本周五,微軟公司終於表示,考慮到技術濫用和偏見,它將更謹慎地出售其技術。

    在一篇關於人臉識別的潛在用途和濫用的博客文章中,微軟總裁 Bradford L. Smith 將該技術與受到全面監管的藥品和汽車等產品進行了比較,並敦促美國國會展開研究並監督人臉識別技術的使用。

    此前,眾多學者與開發者們簽署了一份公開信,其中要求科技公司停止向政府和執法機構提供人臉識別技術,停止當前的數據分析和 AI 服務合同,並考慮制定道德準則,禁止威脅隱私、公民和人權的技術的武器化與軍事化,建立透明和有問責機制的制度,以確保上述準則的實行。

    • 公開信鏈接:https://www.icrac.net/open-letter-to-amazon-against-police-and-government-use-of-rekognition/
    • 微軟總裁 Brad Smith 的博客:https://blogs.microsoft.com/on-the-issues/2018/07/13/facial-recognition-technology-the-need-for-public-regulation-and-corporate-responsibility/

    近期微軟因一份涉及人臉識別軟件的政府合同而受到廣泛抨擊,微軟公司表示,它將更加謹慎地考慮這方面的合同,並敦促立法者規範此類人工智能技術的使用,以防止濫用。

    作為人臉識別軟件主要製造商之一,微軟表示它將採取措施降低這些系統產生偏差的可能性;制定新的公共原則來管理技術;並會更謹慎地出售其在該領域的軟件和專業知識。微軟指出,雖然技術行業需要對其產品負責,但是政府也要採取行動。

    微軟總裁兼首席法務官 Brad Smith 周五在其博客中寫道:「政府管理技術使用的唯一有效方法是它主動採取行動。而且如果人們擔心一項技術在全社會被廣泛使用,那麼規範該項技術廣泛應用的唯一措施應由政府出面。實際上,我們認為這就是現在所需要的——一項首先由民主、共和兩黨代表和專家委員會通報的政府倡議,旨在規範人臉識別技術的正確使用。」

    微軟、谷歌、亞馬遜等公司因向美國政府和當地警方出售 AI 軟件,尤其是人臉識別軟件而受到民間自由團體及這些公司內部雇員的抨擊。對於科技公司來說,這種要求對自己產品進行更嚴厲監管的行為並不常見,但是 Smith 與微軟人工智能及微軟研究事業部負責人沈向洋今年早些時候就寫了一篇文章,稱 AI 的發展需要新的法律來規範。

    Smith 寫道,「雖然我們明白現在很多人要求科技公司來做這些,我們也明確意識到自己需要履責,但我們認為,這不足以代替公眾及其代表的決策。」

    人臉識別系統通常具備嚴重的缺陷,尤其是難以識別和區分膚色較深的人。微軟研究者 Timnit Gebru 和 MIT 媒體實驗室 Joy Buolamwini 二月發表的一篇論文表明人臉識別系統對膚色較深的女性的分類誤差高達 35%。微軟的研究機構致力於修正研究者在其人臉識別軟件中發現的問題。

    隨着技術的迅速發展,微軟提倡適應雲計算和人工智能等新興領域的新法律。微軟就隱私問題與美國政府展開抗爭,稱美國政府在雲計算方面使用了老舊的通信法,微軟支持折中的法案,用於直接解決雲時代的數據隱私問題和搜索問題。

    微軟應對民眾抗議的方式與亞馬遜略有不同。在六月回應抗議聲的一篇博客中,亞馬遜的 AI 負責人 Matt Wood 寫道,「新技術能力一直都存在風險,以後也會如此。每個選擇使用技術的組織必須採取負責任的行動,否則就得面臨法律懲罰和公眾譴責的風險。AWS 會認真對待自己的責任。但我們認為,不能因為某些技術未來可能被人濫用就禁止這些技術的發展,這樣是不對的。」

    政府AI合同遭抗議,微軟終低頭:號召全面限制人臉識別軟件

    Brad Smith,微軟總裁兼首席法務官。

    Smith 寫道,政府規範應該考慮的問題是警察使用人臉識別軟件是否需要人類監督和控制,零售商是否必須張貼顯眼的標識(如果他們在公共區域使用了此類軟件)。其它需要考慮的範圍包括是否要求企業在收集個人圖像之前先徵求用戶同意,以及認為自己被人臉識別系統錯誤識別的人享有哪些法律權利。

    紐約大學法學教授 Barry Friedman 稱,執法機關使用人臉識別技術卻欠缺規範,這引起了人們對種族差異和隱私問題的擔憂。他同時也負責 The Policing Project,該計劃致力於為執法設定規範和準則。

    最高法院規定警察在沒有許可證或正當理由的情況下不得長期獲取手機數據,類似的限制也應該應用到警察對人臉識別技術的使用上,Barry Friedman 稱。

    「該技術正在飛快地追趕我們,」Friedman 說道,「如果我們不走到前頭,一切將覆水難收。」

    微軟在上個月曾因民眾抗議 AI 技術被用於在墨西哥邊境分離非法入境者及其子女後,短暫地在網站上刪除了其與美國移民和海關執法局簽訂合同的文章。但隨後,相關博客又被恢復。

    雖然微軟隨後宣稱公司與移民局簽訂的合同主要涉及在雲端處理舊電子郵件和員工協作系統,但其博文明確提到了使用人臉識別工具的可能性。隨後,數百名微軟員工簽署了一份請願書,要求公司停止向政府出售相關服務。針對非法移民的 AI 項目甚至影響到了微軟剛剛收購的 GitHub,6 月中旬起,數百名開源社區貢獻者在網上簽署了一份公開信,同樣要求微軟解除與政府部門的 AI 合同,並號召抵制 GitHub(參閱:棄坑 GitHub:微軟「反非法移民」政府 AI 項目引發開源社區抵制)。

    政府AI合同遭抗議,微軟終低頭:號召全面限制人臉識別軟件

    人臉識別是目前 AI 領域裡應用最廣泛的技術之一,但在推廣的過程中也引起了越來越多的爭議。今年 4 月,個人隱私保護組織向美國聯邦貿易委員會提起訴訟,稱 Facebook 在未獲得用戶適當許可的情況下開啟了新的人臉識別服務。Facebook 否認了這些團體的指控。

    而今年 5 月,亞馬遜因為將 Rekognition AI 服務出售給當地警方而引起爭議,美國公民自由聯盟正要求該公司停止允許政府使用這項技術。

    值得一提的是,在歐盟,有關人工智能侵犯隱私的一些問題已經得到了解決。一項嚴格的新數據保護法已禁止公司在未獲得用戶特定同意的情況下收集人臉識別所需的生物特徵數據。

    相關推薦
    文章載入中...