Makine öğrenimi destekli karar vermedeki artış, kararların ve ayrımcılık sorunlarını hafifletmeye yönelik tekniklerin adilliği konusunda endişelere yol açmıştır. Bir kişi hakkında olumsuz bir karar verilirse (bir krediyi reddetme, konut başvurusunu reddetme vb.), adalet, webe’in bir dahaki sefere olumlu bir karar almak için koşulları nasıl değiştirebileceğimizi sorabilmesini gerektirir. Ayrıca, koşulları değiştirme yeteneği (daha iyi bir eğitim, gelişmiş kimlik bilgileri) yalnızca pahalı kaynaklara erişimi olanlarla sınırlı olmamalıdır. Başka bir deyişle, olumsuz kararlar için başvuru, (demografik olarak tanımlanmış) gruplar arasında eşitlenebilecek arzu edilen bir değer olarak düşünülmelidir. Bu makale, bir yandan olumsuz bir sonucun cezalarının farklı dezavantajlar oluşturmamasını sağlarken, diğer yandan doğru tahminler yapan modellerin nasıl oluşturulacağını açıklamaktadır. orantısız bir şekilde gruplar. Başvuruyu, bir bireyin bir sınıflandırıcının karar sınırından uzaklığı olarak ölçüyoruz. Daha sonra gruplar arasındaki başvuru farkını en aza indirmek için düzenli bir hedef sunuyoruz. Doğrusal ayarları keşfediyoruz ve sınırdan tam uzaklığın hesaplanamadığı modelden bağımsız ayarlar kadar doğrusal olmayan ayarlara da başvuruyoruz. Sonuçlarımız, sınıflandırıcı performansını korurken başvurudaki adaletsizliği başarıyla azaltabileceğimizi gösteriyor.
Başvurunun yararlı olması için uygulanabilir olması gerekir. Bir kişi, düşük kredi puanı nedeniyle küçük işletme kredisi için reddedilirse ve önerilen “başvuru”, net değerini ikiye katlamaya çalışmaksa, bu makul bir sonuç değildir. Farklı bir demografiden bireylere farklı bir tavsiye verilirse durum daha da kötüleşir – örneğin, küçük işletmeler için (ucuz) bir para yönetimi kursu almaları – bu, üzerinde hareket edilmesi daha kolaydır. Başka bir deyişle, bir açıklama sağlamak faydalıdır, ancak uygulanabilir olan ve dezavantajlı gruplara gereksiz yere yük getirmeyen başvuru yolları sağlamak. İlerleme için şeffaf fırsatlar sağlamak için çok önemlidir.
Bu yazıda, tahmin doğruluğunu koruyan ve aynı zamanda gruplar arasında uygulanabilir başvuru fırsatları sağlayan sınıflandırıcılar oluşturuyoruz. Bunu yapmak için, karar sınırından uzaklık olarak genel bir başvuru kavramı tanımlıyoruz ([USL19]’un çalışmasından esinlenerek) ve bunu bir düzenleyici olarak kullanıyoruz. Ek olarak, başvuru için önceki doğrusal yaklaşımları [USL19], hem SVM’ler hem de karar sınırına olan mesafeyi açıkça hesaplayamadığımız kara kutu sınıflandırıcıları tarafından tanımlanan modeller dahil olmak üzere doğrusal olmayan ayarlara genişletiyoruz. Sonuçlarımız, doğruluğu korurken hem SVM hem de model agnostik ayarlarında gruplar arasında başvuruyu başarılı bir şekilde eşitleyebildiğimizi gösteriyor.
Denkleştirilmiş başvurunun etik geçerliliği üzerine.
Bir mal olarak rücu, hakkaniyet/ayrımcılık yapmamaktan farklıdır. Karar sürecinden bağımsız olarak başvuru, failliğin etik nosyonunu yakalar: bireylerin kendi koşullarını düzeltmek için harekete geçebilmeleri gerektiği ve kararların değişmez faktörlere dayanmadığı. Başvuru ucuz olmayabilir – ancak özünde mümkün olmamalıdır. Gruplar arasında başvuruyu eşitleme fikri, “eğer iyiyse herkes için iyi olmalı” fikrinden daha fazlasıdır. Bunun yerine, rücu etmeyi seviyorsak, bir sistemin gizlice ayrımcılık yaparken bir grup için belirteç rücu sağlamasını istemiyoruz. Çalışmamızın gerekçesi budur. Başvurunun evrensel olarak uygulanabilir olması gerektiğini iddia etmiyoruz. Bunun yerine, belirli bir haksızlığa odaklanır ve uygun olduğunda bunu ele almaya çalışır. Ayrıca başvuruların eşitlenmesinin (hatta diğer adalet önlemlerinin) “dezavantajlılar için çıtayı düşürdüğü” fikrini de şiddetle geri çekiyoruz. Bu bakış açısı, potansiyel olarak yapısal dezavantajın kanıtı olmaktan ziyade, çıtanın başlangıçta doğru bir şekilde ayarlandığını varsayar.