Amazon Rekognition, Cinsiyetçi ve Irkçı Sonuçlar Veriyor

Yapılan araştırma, Amazon'un yüz algılama algoritmalarının cinsiyet ve ırk yanlılığı ile mücadele ettiğini ortaya koyuyor.

MIT (Massachusetts Institue of Technology) Medya Laboratuvarı, Amazon'un yüz tanıma uygulaması Rekognition'ın açık renkli insanların cinsiyetini belirlemekte hiçbir zorluk çekmediğini ancak koyu renkli erkeklerin beşte birinin ve koyu renkli kadınların üçte birinin cinsiyetini yanlış saptadığını ortaya koydu. IBM ve Microsoft'un yazılımları ise koyu renkli insanlardaki yüzde 1,5'luk hata payıyla Amazon'un yazılımını adeta tokatladı.

Amazon, MIT'nin 2018 boyunca yaptığı testlerin sonuçlarına itiraz etti. Testleri yapan ekibin Rekognition'ın şu anki son sürümünü kullanmadığını ve yüz algılama yerine yüz analizi özelliğiyle test yaptığını söyledi. Yüz analizinin çok daha basit ve temel, yüz algılamanın ise oldukça kapsamlı özelliklerle geldiğini belirten Amazon, bunların iki ayrı paket olduğunu vurguladı.

Bu tarz yazılımlar ilk defa ateş yağmuruna tutulmuyor. Şubat 2018'de de MIT ve Stanford araştırmacıları üç farklı yüz analiz programının cinsiyetçi ve ırkçı sonuçlar verdiğini ve bunların hatalı olduğunu söylemişti. O zamandan beri IBM yüz analiz araçlarında doğruluğun arttırılması adına yeni geliştirmelerde bulunmuş, Microsoft da yüksek standartların sürdürülebilmesi için birtakım regülasyonları zorunlu tutmuştu.

Öte yandan geçtiğimiz Kasım ayında bazı meclis üyeleri Rekognition'ı hukuk uygulamalarında kullanmak için aldıkları kararın ardından farklı renklerdeki insanları algılamakta zorluk çekmesinden dolayı Amazon'dan birtakım cevaplar beklemişlerdi. Amazon, uygulamasını gümrüklerde de kullanmak isterken bazı hissedarlar sistemin insanların medeni haklarını ihlal edebileceklerinden endişelendikleri için kapatılmasını istemişlerdi.