Selepas banyak aduan daripada pelanggan berprofil tinggi, Kad Apple sedang disiasat untuk kemungkinan diskriminasi terhadap wanita dalam algoritmanya.
Apabila Kad Apple dilancarkan masukOgos 2019, ia bertujuan untuk membawa peralihan yang lancar kepada "kehidupan kewangan yang lebih sihat.” Walau bagaimanapun, kad mungkin mempunyai beberapa masalah yang tidak dijangka dan sangat membimbangkan dalam cara sesetengah sistem automatik untuk keputusan seperti had kredit dan kelulusan dikendalikan. Baru-baru ini, Kad Apple telah disiasat kerana dianggap diskriminasi terhadap wanita.
Isu ini mula-mula didedahkan pada 7 November 2019 oleh pembangun perisian David Heinemeier Hanssondi Twitter peribadinya. Hansson mengadu bahawa Apple Card memutuskan bahawa dia berhak mendapat had kredit yang lebih besar daripada isterinya, dengan siapa dia berkongsi tanggungjawab kewangan seperti pemfailan bersama mengenai cukai.
"Kad Apple adalah program seksis yang sangat menarik," tulis Hansson. “Saya dan isteri memfailkan penyata cukai bersama, tinggal dalam keadaan harta masyarakat, dan telah lama berkahwin. Namun algoritma kotak hitam Apple berpendapat saya layak 20x had kredit yang dia lakukan. Tiada rayuan berfungsi.”
Ia adalah kekecewaan pertamanya, tetapi bukan yang terakhir, dan akhirnya ia menyebabkan Jabatan Perkhidmatan Kewangan Negeri New York mengulas bahawa ia akan bermulapenyiasatan kad itukerana melanggar undang-undang New York.
Pengalaman perkhidmatan pelanggan juga menjengkelkan. Mereka cepat bertindak balas, tetapi tiada siapa yang diberi kuasa untuk membincangkan proses penilaian kredit. Tiada peluang untuk mengemukakan bukti. Hanya "maaf, isteri anda dianggap sebagai 1/20th nilai kredit anda, semak semula dalam masa 6 bulan!"
— DHH (@dhh)7 November 2019
Hansson telah disertai oleh pelanggan Apple yang lain, tidak kurang daripadanyaPengasas bersama Apple Steve Wozniak, yang berkongsi pengalaman Hansson yang nampaknya menerima had kredit yang jauh lebih besar daripada pasangannya dan tidak dapat mendapatkan respons bukan automatik dalam usaha mereka untuk membetulkannya. Dalam sebuahwawancara dengan Bloomberg, Wozniak berpendapat bahawa pergantungan berterusan pada algoritma yang cacat menghasilkan sistem di mana isu-isu yang tidak dijangka ini bukan sahaja mungkin, tetapi juga sukar untuk ditangani.
“Ketidakadilan seperti ini mengganggu saya dan bertentangan dengan prinsip kebenaran. Kami tidak mempunyai ketelusan tentang cara syarikat ini menyediakan dan beroperasi perkara ini,” kata Wozniak. “Kerajaan kita tidak cukup kuat dalam isu peraturan… Sebilangan besar orang akan berkata, 'Kami suka teknologi kami tetapi kami tidak lagi terkawal.' Saya rasa begitulah keadaannya.”
Walaupun terdapat aduan berprofil tinggi dan penyiasatan dibuka, pengeluar Kad Apple Goldman Sachs menafikan sebarang wujudnya diskriminasi jantina dalam mana-mana prosesnya. Jurucakap Andrew Williams mendakwa bahawa keputusan mengenai semua kelulusan atau perubahan kredit dibuat secara bebas dan mungkin sangat berbeza, walaupun antara individu yang sudah berkahwin, tetapi "dalam semua kes, kami tidak dan tidak akan membuat keputusan berdasarkan faktor seperti jantina."
Kami ingin menjawab beberapa soalan baru-baru ini mengenai#AppleCardproses keputusan kredit.pic.twitter.com/TNZJTUZv36
— Sokongan GS Bank (@gsbanksupport)11 November 2019
Walau apa pun, memandangkan algoritma terus diamanahkan untuk membuat keputusan pada skala yang luas, nampaknya terdapat isu-isu pasti yang tidak boleh diabaikan, sama ada secara sedar atau tidak dipasang dalam pelbagai sistem. Shacknews akan terus mengikuti cerita ini semasa ia berkembang.
TJ Denzer ialah pemain dan penulis yang mempunyai minat untuk permainan yang telah mendominasi seumur hidup. Dia menemui senarai Shacknews pada akhir 2019 dan telah bekerja dengan caranya ke Editor Berita Kanan sejak itu. Di antara liputan berita, beliau turut membantu terutamanya dalam projek strim langsung seperti Indie-licious yang memfokuskan permainan indie, Permainan Rangsangan Shacknews dan Shacknews Dump. Anda boleh menghubunginya di[email protected]dan juga temui dia di BlueSky@JohnnyChugs.
