• TECH HABERLER bilgisayar tutkunları ve uzman kullanıcılar.
    Bir soru sorun ve destek verin.
    , sadece bir dakika sürer.

Viral tweet Goldman Sachs'a ayrımcılık soruşturması getiriyor

Bhubbjim

TECH HABERLER Personel
Personel

Makine öğrenim algoritmaları tarafından alınan kararların, gerçekte, eğer olabilirlerse, doğal olarak ayrımcı olduğuna karar veriyoruz? İnsan beyni daha fazla endüstride karar verme sürecinden çıkarıldığı için, modern çağda daha baskıcı hale gelecek bir soru.

En son algoritmik ayrımcılık iddiaları Basecamp'ın kurucu ortağı David Heinemeier Hansson'dan geliyor. kredi değerlerindeki farklılıklar.

Hansson’un orijinal tweet'i neredeyse 5.000 kez paylaşıldı ve algoritmanın doğası gereği toplumsal cinsiyete dayalı olup olmadığını görmek için araştırma yapacaklarını doğrulayan New York Finansal Hizmetler Departmanı da dahil olmak üzere çok dikkat çekti.

NYDFS sözcüsü “departman New York yasalarının ihlal edilip edilmediğini belirlemek ve cinsiyete bakılmaksızın tüm tüketicilere eşit muamele görmesini sağlamak için soruşturma yürütecek” dedi. “Kadınlara veya korunan diğer herhangi bir kişiye kasten ayrımcı muamele ile sonuçlanan veya olmayan her algoritma, New York yasasını ihlal ediyor” dedi.

Görünüşe göre, bu sorunla karşı karşıya olan sadece Hansson ve karısı değildi. Hansson’un orijinal görevine çok sayıda yanıt, Apple'ın kurucusu Steve Wozniak da dahil olmak üzere, “Aynı şey bize oldu” iddiasında da ayrımcılığa maruz kaldıklarını iddia ediyor.

Apple Card'ı destekleyen Goldman Sachs yaptığı açıklamada, “Kredi kararlarımız cinsiyet, ırk, yaş, cinsel yönelim veya yasaların yasakladığı başka bir temel gibi değil, müşterinin kredibilitesine dayanıyor” dedi.

Ancak ilginç bir şekilde, Hansson’un karısı, tweetlerin viral hale gelmesinden hemen sonra kredi limitini ayarladı ve doğru PR felaketi göz önüne alındığında değişiklik için yer olduğunu düşündürdü.

Kalıcı bağlantı.

mbrowne5061

TS Evangelist
Gelirleri aynı mı? Hayır? O zaman kapa çeneni. Ama mah cinsiyetçiliği.
Eğer evliler ve hesapları paylaşıyorlarsa, evet, gelirleri tüm niyet ve amaçlar için aynıdır - çünkü gelirlerini bir araya getirir ve paylaşırlar.

Eğer bir çift evliyse ve tüm hesapları paylaşıyorsa, kredi puanları hemen hemen aynı olmalıdır ve kredi limitleri de aynı olmalıdır.

Scshadow

TS Evangelist
Yani gerçekleri bir kenara atmak ve varsayımsal yollarla gitmek, makine öğrenimli bir algoritmanın belirli bir grup insana karşı ayrımcı olduğu tespit edilirse, ırkçı mı yoksa cinsiyetçi mi? Beyaz bir erkek olarak, 16 yaşındayken araba sigortası aldığımda ayrımcılığa uğradığımı fark ettim. Erkek olduğumu ve bu nedenle kadına göre çok daha yüksek bir risk olduğumu belirlediler ... bir sebepten dolayı, iyiydi. Tamamen yasal ve aynı yaştaki Kadınlara kıyasla yüksek risk kategorisinde olduğumu kabul etti. Soooo Eminim ki bazı büyük kız pantolonlarını giyme ve bir makine bazı sayıları kırar ve eğer kadınların parayı yanlış kullanma riski yüksekse, o zaman bu bir sorun değildir. Bu sadece rahatsız edici bir gerçek. Ödediğim primlerimin bir kısmını bana geri ver. Bunu kabul edeceğim.

Zor Ven

TS Çaylak
Eğer evliler ve hesapları paylaşıyorlarsa, evet, gelirleri tüm niyet ve amaçlar için aynıdır - çünkü gelirlerini bir araya getirir ve paylaşırlar.

Eğer bir çift evliyse ve tüm hesapları paylaşıyorsa, kredi puanları hemen hemen aynı olmalıdır ve kredi limitleri de aynı olmalıdır.
Eğer esasen bir birim ise, o zaman belki mesele karı değil, karısı ikinci sıradadır ve ikinci kişiye aynı miktarda kredi vermeye istekli değildir. Eşit bir evlilikte, karısı önce başvurursa ne olduğunu test ettiler mi? Kocası ikinci başvurusunda daha az kredi aldı mı?
  • Sevmek
Tepkiler: edepsiz