Yapay zeka cinsiyetçi mi davranıyor? Bu sorunun cevabı biraz karışık. Çok da uzak olmayan bir gelecekte yapay zeka insanlardan çok daha akıllı olacak. Ancak, zamanla yaratıcılarından ve internetten kültürel normları özümseyen yapay zeka, çok daha ırkçı ve cinsiyetçi bir hale gelebilir. Peki, yapay zeka nasıl cinsiyetçi olabilir?
İçindekiler
Yapay Zeka Nasıl Cinsiyetçi Olur?
İşin temelinde yapay zeka, insanların adım adım yardımına bağımlı olmadan görevlerin otomatikleştirilmesini sağlıyor. Peki, bu nasıl çalışıyor?
Bir yapay zeka aracı, belirli bir görev ile ilgili yeterli örnekle beslenirse, kullandığı algoritmalar sayesinde bir çıkarıma varır. Daha sonra bu çıkarımı otomatik olarak optimize etmenin bir yolunu bulur. Bu şekilde devam ederek verileri kendi kendine öğretir.
Özetlemek gerekirse yapay zeka, aslında insanlar tarafından manuel olarak gönderilen verileri kullanarak kendini eğitiyor. Bu da şu anda karşılaştığımız gibi öznellikten kaçınılamayacağı anlamına geliyor. Dahası, teknoloji geliştikçe, makaleler ve internet sayfaları gibi kaynaklar bu önyargılar ile yapay zeka temelli birimleri beslemeye devam ediyor. Böylelikle, insanların cinsiyetçi ve ırkçı düşünceleri ile dolu bir yapay zeka karşımıza çıkıyor.
Yapılan ileri araştırmalar ile geliştirilen bu teknoloji sahip olduğu altyapı, kendi geliştiricilerinin sosyal ve kültürel önyargılarından elde ediliyor.
Yapay Zekanın Cinsiyetçi Olduğu Örnekler
Bu konuyla ilgili en yaygın örneklerden biri yüz tanıma teknolojilerinin davranış biçimidir. Örneğin IBM, Microsoft ve Amazon gibi büyük şirketlerin yapay zeka ile geliştirilmiş yüz tanıma programları, beyaz erkekleri tanımakta hiçbir sorun yaşamıyor. Buna karşın aynı programlar siyahi kadın yüzlerini sıklıkla yanlış sınıflandırıyor.
Bir diğer cinsiyetçi yapay zeka örneği ise Google’dan geliyor. Google Translate, İspanyolca yazılmış haber makalelerini İngilizce’ye çevirirken kadınlara atıfta bulunan ifadeleri genellikle erkek çekim ekleri ile çeviriyor.
Bahsedeceğimiz diğer örnek ise aslında hemen hemen herkesin şahit olduğu bir olay ile ilgili. Sohbet robotlarının sosyal ağlarda popüler olmasıyla Microsoft, 2016 yılında Tay isimli bir Twitter sohbet robotu başlatmıştı. Tay en başta Twitter kullanıcılarını taklit etmek ve insanlar ile sohbet etmek için tasarlanmıştı. Ancak Microsoft, programı 24 saat içinde kaldırılmak zorunda kaldı. Sebebi ise bazı Twitter kullanıcılarının Tay’ın güvenlik açıklarını hedef almasıydı. Bu açıklardan faydalanarak bazı kullanıcılar Tay’ı cinsiyetçi ve ırkçı açıklamalar yapması için manipüle etti. Veri havuzunu kullanıcılardan ve internetten alan Tay kısa süre içinde kadınlara hakaret eden ve ırkçı açıklamalar yapan bir sohbet robotuna dönüşmüştü.
Bu nedenle diyebiliriz ki, yapay zekadaki bu tarz önyargıların ana etkeni toplanan verilerdir. Hem akademide hem de endüstride bilgisayar bilimciler her zamankinden daha karmaşık algoritmaları eğitir. Fakat bu sırada insanlar, verilerin nasıl toplandığına, işlendiğine ve organize edildiğine çok daha az dikkat eder.
Veri kümeleri için araştırmacılar genellikle Google Görseller ve Google Haberler gibi internet sitelerinden bilgi toplarlar. Ayrıca belirli arama terimleri kullanarak yapay zekanın kaynaklara erişimini sağlarlar. Bu tür yöntemlerin istemeden de olsa cinsiyetçi, etnik ve kültürel önyargıları kodlayan veriler üretmesi mümkündür
Yapay Zekadaki Dengesizlik
Yapay zekanın sahip olduğu önyargılar, genellikle kurumsal altyapılardaki derin ve gizli dengesizlikleri yansıtır. Örneğin kullanıcılar Vikipedi’yi, zengin ve çeşitli bir veri kaynağı olarak görür. Ancak maalesef ki sitenin biyografik kayıtlarının %18’inden daha azı kadınlarla ilgili. Ayrıca kadınlarla ilgili makaleler, erkekler hakkındaki makalelere göre daha sık bağlantı verir. Bu da arama motorlarının erkeklerle ilgili verileri daha sık gördüğü anlamına gelir.
Bu nedenle, yapay zeka için veri setlerinin oluşturulmasına teknik özen ve sosyal farkındalık getirilmelidir. Spesifik olarak, bu tür veri setlerinin çeşitli olması sağlanmalıdır. Ayrıca, yapay zekanın belirli grupları temsil etmemesini sağlamak için de çeşitli adımlar atılmalıdır.
