Apple Card 因涉嫌歧視女性而接受調查

Apple Card 推出時2019年8月，其目的是無縫過渡到“更健康的財務生活」。然而，該卡在某些用於信用限額和審批等決策的自動化系統的處理方式方面可能存在一些不可預見且非常令人不安的問題。最近，Apple Card 因涉嫌歧視女性而受到調查。

此問題由軟體開發人員 David Heinemeier Hansson 於 2019 年 11 月 7 日首次曝光在他的個人推特上。漢森抱怨說，Apple Card 認為他應該獲得比妻子更大的信用額度，他與妻子共同承擔財務責任，例如聯合報稅。

「Apple Card 是一個該死的性別歧視項目，」漢森寫道。 「我和我的妻子提交了聯合報稅表，居住在共有財產州，並且已經結婚很長時間了。然而，Apple 的黑盒子演算法認為我應得的信用額度是她的 20 倍。上訴無效。

這是他的第一次挫敗感，但不是最後一次，最終導致紐約州金融服務部發表評論稱，將開始卡片的調查違反紐約法律。

客戶服務體驗也令人憤怒。他們反應很快，但沒有人被授權討論信用評估過程。沒有機會提供證據。只是一句“對不起，你妻子的信用值被認為是你的1/20，6個月後再檢查一次！”

— DHH (@dhh)2019 年 11 月 7 日

其他蘋果客戶也加入了漢森的行列，其中最重要的是蘋果聯合創始人史蒂夫·沃茲尼亞克，他分享了漢森的經歷，即似乎獲得了比他的配偶大得多的信用額度，並且在他們努力糾正這一問題時無法獲得非自動響應。在一個彭博社採訪沃茲尼亞克認為，對有缺陷的演算法的持續依賴使得系統不僅可能出現這些不可預見的問題，而且難以解決。

「這種不公平現象讓我感到困擾，違背了事實原則。對於這些公司如何設置和運營這些東西，我們沒有透明度，」沃茲尼亞克說。 「我們的政府在監管問題上不夠強大......很多人會說，『我們熱愛我們的技術，但我們不再控制。’我認為情況就是如此。

儘管備受關注的投訴並已展開調查，Apple Card 發行商高盛否認其任何流程中存在性別歧視。發言人安德魯威廉斯聲稱，所有信貸審批或變更的決定都是獨立做出的，即使在已婚人士之間也可能有很大差異，但「在所有情況下，我們沒有也不會根據性別等因素做出決定。

我們想解決一些最近的問題#AppleCard信用決策過程。pic.twitter.com/TNZJTUZv36

— GS 銀行支援 (@gsbanksupport)2019 年 11 月 11 日

無論如何，隨著演算法繼續大規模地被委託給決策制定，無論有意識或無意識地安裝在各種系統中，似乎都存在一些不容忽視的問題。 Shacknews 將繼續關注這個故事的發展。