Yıllardır teknoloji şirketler, bilgisayarlı görme algoritmaları için cilt tonlarını sınıflandırmak için Fitzpatrick ölçeği adı verilen bir şeye güvendiler. Aslen 1970’lerde dermatologlar için tasarlanan sistem, yalnızca altı cilt tonundan oluşuyor ve AI’nın renkli insanları tanımlamadaki iyi belgelenmiş başarısızlıklarına olası bir katkıda bulunuyor. Artık Google, ürünlerine Monk Cilt Tonu adı verilen 10 ten rengi bir standart eklemeye başlıyor (MST) Google Arama Görselleri’nden Google Fotoğraflar’a ve ötesine kadar ölçeklendirin. Geliştirme, sağlık hizmetlerinden içerik denetimine kadar her konuda yapay zekayı eğitmek için kullanılan veri kümelerindeki önyargıyı azaltma potansiyeline sahiptir.
Google ilk önce Fitzpatrick ölçeğinin ötesine geçme planlarının sinyalini verdi geçen sene. Dahili olarak, proje 2020 yazında Google’da çalışan dört Siyah kadının yapay zekayı “renkli insanlar için daha iyi” hale getirme çabasına dayanıyor. Twitter dizisi şirkette sorumlu bir AI ürün müdürü olan Xango Eyeé’den. Bugünkü Google I/O konferansında şirket, yeni sistemin birçok ürününde ne kadar geniş bir etki yaratabileceğini ayrıntılı olarak anlattı. Google ayrıca MST’yi açık kaynak yapacak, yani kameraların ve bilgisayarlı görüş sistemlerinin adilliğini değerlendirmek için endüstri standardı olarak Fitzpatrick’in yerini alabilir.
Eyeé, “Algoritmayı adalet açısından test etmemiz gereken yerlerde insanların yüzlerinin görüntülerinin kullanıldığını düşünün,” diyor.
Monk Cilt Tonu ölçeği, adını Harvard Üniversitesi’nden sosyolog Ellis Monk’tan almıştır. onlarca yıl Amerika Birleşik Devletleri’ndeki Siyah insanların yaşamları üzerindeki renkçiliğin etkisini araştırmak. Monk, ölçeği 2019’da oluşturdu ve şirketin ürün geliştirme sürecine dahil etmek için Google mühendisleri ve araştırmacılarıyla birlikte çalıştı.
Monk, I/O’da gösterilen bir videoda hazırlanan açıklamalarda, “Gerçek şu ki, yaşam şansları, fırsatlar, tüm bunlar sizin fenotipik yapınıza çok bağlı” dedi. “Teknolojimizdeki bu önyargıları gerçekten erken bir aşamada ayıklayabilir ve sahip olduğumuz teknolojinin tüm cilt tonlarında eşit derecede iyi çalıştığından emin olabiliriz. Bunun ileriye doğru atılmış büyük bir adım olduğunu düşünüyorum.”
Geçen yıl Monk ve Google araştırma bilim adamları tarafından yapılan bir ilk analiz, katılımcıların MST tarafından Fitzpatrick ölçeğinden daha iyi temsil edildiğini hissettiklerini buldu. içinde SSS Çarşamba günü yayınlanan Google, Rihanna’nın Fenty Beauty gibi şirketlerin 40’tan fazla renk tonu sunduğu makyaj gibi endüstrilerin aksine, 10’dan fazla cilt tonuna sahip olmanın ekstra değer olmadan karmaşıklık ekleyebileceğini söylüyor. Konuya aşina bir kaynağa göre Google, Brezilya, Hindistan, Meksika ve Nijerya gibi yerlerde Monk Cilt Tonu ölçeğini doğrulamak için çalışmalarını sürdürüyor. Yakında akademik bir araştırma makalesinde daha fazla ayrıntı bekleniyor.
Şirket şimdi MST kullanımını genişletecek. Google Görseller, makyajla ilgili arama sonuçlarını ten rengine göre ölçeğe göre sıralama seçeneği sunacak ve daha fazla melanine sahip kişiler için filtreler bu ayın sonlarında Google Fotoğraflar’a gelecek. Google, ürün hatlarında 10 ten tonu ölçeğini benimserse, Google arama sonuçlarında, Pixel akıllı telefonlarda, YouTube sınıflandırma algoritmalarında, Waymo kendi kendine giden arabalarda ve daha fazlasında kullanılan algoritmaları adil bir şekilde değerlendirmek için etkileri olabilir.
Kaynak : https://www.wired.com/story/google-monk-skin-tone-scale-computer-vision-bias