Bir çoğumuz meşhur Terminatör film serisini izlemiş ya da duymuşuzdur. Terminatör filminde Skynet adlı bir AI (Artifical Intelligence, Yapay Zeka) programı insanlığa karşı bir savaş açar (1). Bu hep dile getirdiğimiz, komplo teorisyenlerinin oldukça sevdiği bir tahmindir. Bu yazıda bu komplo teorilerini bir kenara bırakıp yapay zekanın nasıl ön yargılı bir tutuma sahip olabileceğine bazı araştırmalar üzerinden değineceğim.

         2017 yılında Facebook şirketinin bir departmanında çok ilginç ve özellikle fütüristleri çok ilgilendiren bir olay yaşandı. Facebook AI Research (FAIR) tarafından üretilen iki robot kendi aralarında bir dil geliştirdiler. Bu dilin laboratuvar çalışanlarınca anlaşılmaması üzerine robotların fişleri çekildi. Çok değil 20 yıl önce birisi çıkıp robotlar kendi aralarında bir dil geliştirecekler ve biz bunu anlayamayacağız deseydi bu çok gülünç gelmez miydi? Ancak bugün şunu biliyoruz enformasyon işleyebilen her sistem nihayetinde bilinç\zeka\yaratıcılık oluşturacaktır. Facebook laboratuvarlarında meydana gelen bu olay bize bunu bir kez daha göstermektedir. Uzmanlar bu robotların kendi aralarında konuştukları dili çözdüler, robotların konuşması şu şekildeydi:

Bob: Ben her şeyi yapabilirim. . . . . . . . . . . . . .

Alice: Topların sıfırına sahibim bana bana bana bana bana bana bana

Bob: Sen ben diğer her şey. . . . . . . . . . . . . .

Alice: Toplar topa sahip bana bana bana bana bana bana bana

Bob: ben ben yapabilirim ben ben her şeyi . . . . . . . . . . . . .

Alice: Toplar topa sahip bana bana bana bana bana bana bana

Bob: Ben. . . . . . . . . . . . . . . . . . .

Alice: Topların sıfırına sahibim bana bana bana bana bana bana bana

Bob: Sen ben ben ben ben ben diğer her şey. . . . . . . . . . . . . .

Alice: Topların 0’ına sahibim bana bana bana bana bana bana bana bana

Alice: Topların bana verdiğin bana 0, benim için bana,

Bob: sen ben ben ben diğer her şey. . . . . . . . . . . . . . (2)

 

Bu konuşma anlamsız gibi geliyorsa binlerce yıllık evrim tarihimizde dilin nasıl şekillendiğini size hatırlatmak isterim. Kaldı ki eğer fişleri çekilmeseydi bu konuşma nasıl gelişecekti?

Yine buna benzer bir olay 2016 yılında Rusya’da yaşandı. Öğrenme becerisine sahip bir robot, mühendislerden birinin kapıyı açık unuttuğunu fark edince laboratuvardan kaçıp şehir trafiğine karıştı. Şanslıydık ki şarjı bitti (3).

Şimdi gelelim yazının asıl konusu ön yargı algoritmasına.

2018 yılının Temmuz ayında Nature’da AI can be sexist and racist — it’s time to make it fair (Yapay zeka cinsiyetçi ve ırkçı olabilir, onu adil hale getirme zamanı) başlığı ile dikkat çekici bir makale yayınlandı. Google Translate programını bir çoğumuz kullanıyoruzdur. Bu Google’ın çeviri için yaratttığı bir algoritmadır. Google Translate İspanyolca yazılmış haber makalelerini İngilizce'ye çevirdiğinde, kadınlara atıfta bulunan ifadeler genellikle "dedi" veya "yazdı" haline getiriyor. Nikon kameralarını kullanan insanları uyarmak için tasarlanan başka bir yazılım, Asyalıları her zaman yanıp sönen gibi yorumlamaya eğilimlidir. Büyük miktarda doğal dil verilerini işlemek ve analiz etmek için kullanılan popüler bir algoritma olan Word embedding, Avrupa Amerikan adlarını hoş ve Afro-Amerikan adlarını tatsız olarak nitelendiriyor. Bunlar Nature yayınlanan bu makaleden sadece birkaç örnek. Ancak önemli olan nokta şu yapay zeka programları belirli popülasyonlara karşı sistematik bir ayrım yapıyor. Bunun temel sebeplerinden biri bazı grupların veri bazında aşırı temsil edilirken bazı grupların ise çok az temsil edilmesidir. Nature’daki makalede çok kullanılan açık kütüphane Wikipedia’da biyografik kayıtların sadece %18’e yakını kadınlarda bu da sistematik olarak verilerde cinsiyet eşitsizliğine yol açtığı da değinilmiş (4).

Ön yargılarla dolu insanın ürünü yapay zekanın ön yargılı olması. Kulağa tuhaf geliyor değil mi? Ancak bu bir kısır döngü yaratmaktadır. Sorun sadece ön yargı da değil düşmanca duygular besleyen kişilerin elinde yapay zekanın sadece cinsiyet eşitsizliği ya da ırka dayalı ön yargıda bulunmayacağı gibi bir korkutucu ihtimal de var.

5 uzmanla yapılan bir başka çalışmada ise uzmanlar güvenli kullanım için dengeli ve kontrollü davranılması gerektiği görüşündeler. Uzmanlara göre yapay zekanın gelişme hızı ve bizim buna ne kadar uyum sağlayabileceğimiz bir başka problem olarak ortaya çıkmaktadır. Dil geliştiren robotların fişini çekmemiz bunun güzel bir örneğidir. Gelişmiş bir yapay zeka gezegenimizi daha iyi bir hale getirebilir ancak bunun tersi de olabilir (5).

Yapay zekanın gelişim aşamalarını hep birlikte göreceğiz. Yapay zekanın ön yargılarının ve ayrımcılığının önüne geçmek için bu programları geliştiren ve bunlara yatırım yaparak destekleyen kişilerin bu konuların farkında olmaları gerekiyor. Bunun için de ön yargı ve eşitsizlik gibi konularda farkındalık geliştirebilecek eğitim programlarının uygulamaya konması gerekiyor. Sonuçta bugünün çocukları yarın o yapay zekaları yönetecek, geliştirecek kişiler olacaklar.

 

Kaynakça

1-https://www.sinemalar.com/film/746/terminator

Erişim Tarihi: 12 Eylül 2018

2-https://indigodergisi.com/2017/08/facebook-ai-fair-yapay-zeka-desifre/

Erişim Tarihi: 12 Eylül 2018

3-https://www.ntv.com.tr/dunya/robot-laboratuvardan-kacti,ok4xcM9wK0-FE0dAeo6zxg

Erişim Tarihi: 12 Eylül 2018

4-https://www.nature.com/articles/d41586-018-05707-8?utm_source=twt_na&utm_medium=social&utm_campaign=NNPnature

Erişim Tarihi: 26 Temmuz 2018

5-https://futurism.com/artificial-intelligence-experts-fear/

Erişim Tarihi: 9 Eylül 2018