Apple Card ตกอยู่ภายใต้การสอบสวนข้อหาเลือกปฏิบัติต่อผู้หญิง

เมื่อ Apple Card เปิดตัวในสิงหาคม 2562มีจุดมุ่งหมายเพื่อนำการเปลี่ยนแปลงที่ราบรื่นไปสู่ ​​"ชีวิตทางการเงินที่มีสุขภาพดีขึ้น- อย่างไรก็ตาม บัตรอาจมีปัญหาที่คาดไม่ถึงและเป็นปัญหาหนักใจอย่างมากในการจัดการระบบอัตโนมัติบางระบบสำหรับการตัดสินใจ เช่น วงเงินเครดิตและการอนุมัติ ล่าสุด Apple Card ถูกสอบสวนฐานรับรู้ถึงการเลือกปฏิบัติต่อผู้หญิง

ปัญหานี้ได้รับการเปิดเผยครั้งแรกเมื่อวันที่ 7 พฤศจิกายน 2019 โดยนักพัฒนาซอฟต์แวร์ David Heinemeier Hanssonบนทวิตเตอร์ส่วนตัวของเขา- Hansson บ่นว่า Apple Card พิจารณาแล้วว่าเขาสมควรได้รับวงเงินสินเชื่อที่มากกว่าภรรยาของเขา ซึ่งเขาแบ่งปันความรับผิดชอบทางการเงิน เช่น การร่วมยื่นภาษี

“Apple Card เป็นโปรแกรมเหยียดเพศที่น่ารังเกียจ” แฮนส์สันเขียน “ผมกับภรรยายื่นแบบแสดงรายการภาษีร่วมกัน อาศัยอยู่ในรัฐที่เป็นทรัพย์สินของชุมชน และแต่งงานกันมานานแล้ว แต่อัลกอริทึมกล่องดำของ Apple คิดว่าฉันสมควรได้รับ 20 เท่าของวงเงินเครดิตที่เธอได้รับ ไม่มีการอุทธรณ์ผล”

นี่เป็นความหงุดหงิดครั้งแรกของเขา แต่ไม่ใช่เกือบครั้งสุดท้าย และท้ายที่สุดก็ทำให้กระทรวงบริการทางการเงินแห่งรัฐนิวยอร์กแสดงความคิดเห็นว่าจะเริ่มต้นขึ้นการสอบสวนบัตรสำหรับการละเมิดกฎหมายนิวยอร์ก

ประสบการณ์การบริการลูกค้าก็ทำให้โมโหเช่นกัน พวกเขาตอบกลับอย่างรวดเร็ว แต่ไม่มีใครได้รับอนุญาตให้หารือเกี่ยวกับกระบวนการประเมินเครดิต ไม่มีโอกาสนำเสนอหลักฐาน แค่ “ขออภัย ภรรยาของคุณถือเป็นเครดิต 1/20 ที่คุ้มค่า โปรดตรวจสอบอีกครั้งใน 6 เดือน!”

— DHH (@dhh)7 พฤศจิกายน 2019

Hansson มีลูกค้า Apple คนอื่นๆ เข้าร่วมด้วย อย่างน้อยที่สุดก็คือสตีฟ วอซเนียก ผู้ร่วมก่อตั้ง Appleผู้ซึ่งแบ่งปันประสบการณ์ของ Hansson ที่ดูเหมือนจะได้รับวงเงินสินเชื่อที่ใหญ่กว่าคู่สมรสของเขาอย่างมาก และไม่สามารถได้รับการตอบกลับที่ไม่อัตโนมัติในความพยายามแก้ไข ในสัมภาษณ์กับบลูมเบิร์กวอซเนียกให้ความเห็นว่าการพึ่งพาอัลกอริธึมที่มีข้อบกพร่องอย่างต่อเนื่องทำให้เกิดระบบที่ปัญหาที่ไม่คาดคิดเหล่านี้ไม่เพียงเป็นไปได้ แต่ยังแก้ไขได้ยากอีกด้วย

“ความไม่ยุติธรรมประเภทนี้รบกวนจิตใจฉันและขัดต่อหลักการแห่งความจริง เราไม่มีความโปร่งใสว่าบริษัทเหล่านี้ตั้งค่าและดำเนินการสิ่งเหล่านี้อย่างไร” Wozniak กล่าว “รัฐบาลของเราไม่เข้มแข็งพอในเรื่องกฎระเบียบ ผู้คนจำนวนมากจะพูดว่า 'เรารักเทคโนโลยีของเรา แต่เราไม่สามารถควบคุมได้อีกต่อไป' ฉันคิดว่าเป็นเช่นนั้น”

แม้ว่าจะมีข้อร้องเรียนที่มีชื่อเสียงโด่งดังและมีการเริ่มการสอบสวนแล้วก็ตาม Goldman Sachs ผู้ออก Apple Card ผู้ออกบัตรปฏิเสธการมีอยู่ของการเลือกปฏิบัติทางเพศในกระบวนการใดๆ ก็ตาม โฆษก แอนดรูว์ วิลเลียมส์ อ้างว่าการตัดสินใจเกี่ยวกับการอนุมัติหรือการเปลี่ยนแปลงเครดิตทั้งหมดนั้นทำโดยอิสระและอาจมีความแตกต่างกันอย่างมาก แม้แต่ระหว่างบุคคลที่แต่งงานแล้ว แต่ "ในทุกกรณี เราไม่ได้และจะไม่ตัดสินใจโดยพิจารณาจากปัจจัยต่างๆ เช่น เพศ"

เราต้องการตอบคำถามล่าสุดเกี่ยวกับ#แอปเปิ้ลการ์ดกระบวนการตัดสินใจสินเชื่อpic.twitter.com/TNZJTUZv36

— ฝ่ายสนับสนุนธนาคาร GS (@gsbanksupport)11 พฤศจิกายน 2019

แม้ว่าอัลกอริธึมจะยังคงได้รับความไว้วางใจในการตัดสินใจในวงกว้าง ดูเหมือนว่ามีปัญหาที่แน่นอนที่ไม่สามารถเพิกเฉยได้ ไม่ว่าจะติดตั้งโดยรู้ตัวหรือโดยไม่รู้ตัวในระบบต่างๆ Shacknews จะติดตามเรื่องราวนี้ต่อไปในขณะที่มีการพัฒนา