Amazon'un İş Görüşmesi İçin Denediği Yapay Zekanın Korkunç Cinsiyet Ayrımcılığı
yapay zekanın adam olması için kırk fırın ekmek yemesi gerekiyor
geçenlerde amazon, insan kaynaklarına gelen binlerce cv'ye bakıp en iyi mühendis adaylarını seçme işini otomasyona geçirmek amacıyla yapay zekaya havale etme denemesi yaptı. yapay zeka ne yaptı dersiniz? cinsiyet ayrımının dibine vurup kadın adayları tamamen eledi. machine learning algoritmasına kimlerin işe alınacağını öğrenmesi için beslenen veriler amazon'a son 10 yılda başvuran ve işe alınan elemanların cv'lerinden oluşuyordu, haliyle bunların çoğunluğu da erkekti.
yapay zeka erkek aday tercihi işini rafine edip cv'lerde 'women's' lafını gördüğü anda bunlara düşük puan vermeye başlamış. (burada parantez açalım: abd'de sırf kadınların gittiği women's college denen üniversiteler vardır, bunların bazıları condolezza rice gibi siyasetçilerin, ünlü kadın avukatların falan mezun olduğu yerler. bu makine women's college lafını gördüğü anda arka sıraya atıyor adayları.)
bu yapay zekanın yaratıcısı olan yazılımcılar cinsiyet ayrımcılığını önlemek için müdahale edip algoritmaları modifiye etmişler ama herifçioğlu yine bir punduna getirip erkek adaylara öncelik vermeye, kadınları kafadan elemeye devam etmiş. mesela women's college geçen cv'leri elememesi türü şartlar kodlandığında bu sefer de cv'lerde “executed”, “captured” gibi kesin eylem gerçekleştirme bildiren ifadeleri daha çok erkek mühendislerin kullandığını tespit etmek gibi yeni kriterler bulup erkek aday tercihini daha da rafine hale getirmiş.
algoritmalara resmen cerrahi müdahale yapıp cinsiyet ayrımı yapan bütün kriterleri yok edecek şekilde kodlamışlar, bu sefer de sapıtıp kalifiye olmayan, alakasız random tipleri işe alınacak aday olarak tercih etmeye başlamış.
adamlar ne yaparlarsa yapsınlar yapay zekayı cinsiyet ayrımcılığından vazgeçiremeyince sonunda pes edip kapatmışlar.
haber linki: http://fortune.com/…-recruitment-bias-women-sexist/
daha detaylı yazı: https://www.ml.cmu.edu/…d-biases-against-women.html