Amazon Rekognition, Cinsiyetçi ve Irkçı Sonuçlar Veriyor

Yapılan araştırma, Amazon'un yüz algılama algoritmalarının cinsiyet ve ırk yanlılığı ile mücadele ettiğini ortaya koyuyor.


MIT (Massachusetts Institue of Technology) Medya Laboratuvarı, Amazon'un yüz tanıma uygulaması Rekognition'ın açık renkli insanların cinsiyetini belirlemekte hiçbir zorluk çekmediğini ancak koyu renkli erkeklerin beşte birinin ve koyu renkli kadınların üçte birinin cinsiyetini yanlış saptadığını ortaya koydu. IBM ve Microsoft'un yazılımları ise koyu renkli insanlardaki yüzde 1,5'luk hata payıyla Amazon'un yazılımını adeta tokatladı.

Amazon, MIT'nin 2018 boyunca yaptığı testlerin sonuçlarına itiraz etti. Testleri yapan ekibin Rekognition'ın şu anki son sürümünü kullanmadığını ve yüz algılama yerine yüz analizi özelliğiyle test yaptığını söyledi. Yüz analizinin çok daha basit ve temel, yüz algılamanın ise oldukça kapsamlı özelliklerle geldiğini belirten Amazon, bunların iki ayrı paket olduğunu vurguladı.

Bu tarz yazılımlar ilk defa ateş yağmuruna tutulmuyor. Şubat 2018'de de MIT ve Stanford araştırmacıları üç farklı yüz analiz programının cinsiyetçi ve ırkçı sonuçlar verdiğini ve bunların hatalı olduğunu söylemişti. O zamandan beri IBM yüz analiz araçlarında doğruluğun arttırılması adına yeni geliştirmelerde bulunmuş, Microsoft da yüksek standartların sürdürülebilmesi için birtakım regülasyonları zorunlu tutmuştu.

Öte yandan geçtiğimiz Kasım ayında bazı meclis üyeleri Rekognition'ı hukuk uygulamalarında kullanmak için aldıkları kararın ardından farklı renklerdeki insanları algılamakta zorluk çekmesinden dolayı Amazon'dan birtakım cevaplar beklemişlerdi. Amazon, uygulamasını gümrüklerde de kullanmak isterken bazı hissedarlar sistemin insanların medeni haklarını ihlal edebileceklerinden endişelendikleri için kapatılmasını istemişlerdi.




Hangi AMD İşlemcisi, Hangi Intel İşlemcisine Denk Geliyor?
Hangi AMD İşlemcisi, Hangi Intel İşlemcisine Denk Geliyor?

Yıllardır kıyasıya rekabet içinde olan iki büyük işlemci üreticisinin hangi modelinin hangisine denk olduğunu açıklıyoruz. ...

Epic Games, 6 Batman Oyununu Tamamen Ücretsiz Yaptı
Epic Games, 6 Batman Oyununu Tamamen Ücretsiz Yaptı

Her hafta kullanıcılarına ücretsiz oyun sunan Epic Games, bu hafta karşımıza 6 Batman oyunuyla çıkıyor. Batman'in Arkham serisi ve LEGO serisi, Epic Games ve Warner Bros. ortaklığı...

Türkiye’de Çekilen UFO Videosu 11 Yıl Sonra Gündem Oldu
Türkiye’de Çekilen UFO Videosu 11 Yıl Sonra Gündem Oldu

2008 yılında Marmara Denizi üzerinde görülen ve Yalçın Yaman tarafından videoya kaydedilen UFO’lar, yabancı bir komplo teorisi kanalında gündem oldu. Yayınlanan video pek çok yabancı...