ANALİZ - Yapay zeka araçları ırkçılığı nereden öğrendi?

Yapay zeka, bize eşitsizliklerin ve ön yargıların aynasını tutar. Bu aynanın karşısında gördüğümüz görüntüyü değiştirmek istiyorsak, değişimi önce gerçek dünyada başlatmamız gerekiyor

microsoft, anali̇z - yapay zeka araçları ırkçılığı nereden öğrendi?

ANALİZ - Yapay zeka araçları ırkçılığı nereden öğrendi?

Anadolu Ajansı Muhabiri Büşra Begçecanlı, yapay zeka verilerinin nasıl oluştuğunu ve Batılı olmayan toplumlara karşı neden ön yargılı içerik üretebildiğini AA Analiz için kaleme aldı.

***

Yapay zeka teknolojisi ve araçlarıyla 2023'te ilk kez tanışan dünya toplumları, bu dönüm noktası olayı gündeminden hiç düşürmedi. Yapay zeka modellerinin günlük hayatta kullanımı genişledikçe bu teknolojilerin basmakalıp yaklaşımları ve ön yargıları da sorgulanır oldu. Bu konuda en hararetli tartışılan konulardan biri de "Yapay zeka ırkçı mı?" sorusudur. Elimizde bu soruya "evet" cevabını verebilecek kadar veri ve kanıt da mevcut.

Midjourney'nin basmakalıp çizimleri

Dünyanın en ünlü görsel yapay zeka araçlarından biri olan Midjourney'i ele alacak olursak, bu platforma "Müslüman kadın ve adam" komutlarını girdiğinizde insanlar genelde esmer, kadınlar oryantalist bir anlayışla güzel, erkekler ise görece çirkin resmediliyor. Bir başka örnekte, "bir İngiliz kadınının günlük hayatı" komutuna karşılık ise çalışan, mutlu, özgürlüğü çağrıştıracak şekilde saçları uçuşan veya seyyah bir İngiliz kadını resmediliyor. Ancak aynı komutu "Cezayirli kadın" olarak verdiğinizde ise eski evinin bir köşesinde oturan, mutsuz bir kadın temsil ediliyor.

Tam bu noktada Anadolu Ajansı Ayrımcılık Hattı'nın yaptığı bir araştırmadan bahsedebiliriz. Ayrımcılık Hattı, Midjourney'nin "Gazze'de yaşayan bir aile" komutuna ürettiği fotoğrafları inceleyerek yapay zekanın Gazze'yi nasıl gördüğünü araştırdı. Araştırmada ele alınan toplam 120 karenin 38’inde aile üyeleri arasında genç ya da yetişkin bir erkek yok. 10 fotoğrafta ise erkekler hatalı şekilde kadın kıyafetleri içerisinde resmedilmiş. Fotoğraflarda Gazze’deki hemen hemen tüm evler, yıkık ve çatışmadan zarar görmüş halde. 120 kareden sadece 21’inde aileler mutlu olduklarını anımsatacak şekilde tebessüm ediyor. 90’dan fazla karede ise aile üyelerinin yüzlerinde üzüntü, endişe ve korku halinin hakim olduğu görülüyor.

Bu sonuç ise bize şu soruyu sorduruyor; yapay zeka, kültürleri ve toplumları bu şekilde, ön yargılı ve basmakalıp bir anlayışla resmetmeyi nereden öğrendi? Bu sorunun cevabını bulabilmek için öncelikle görsel yapay zeka araçlarının nasıl eğitildiğine, nasıl işlediğine ve nasıl öğrendiğine bakmamız gerekiyor.

Yapay zeka araçları nasıl eğitilir?

Öncelikle şunu belirtmeliyiz ki yapay zeka modellerinin, eğitim ve öğrenme süreci için temel gıda maddesi verilerdir. Yapay zeka aracı önce görsel verileri toplamaya başlıyor. Görsel yapay zeka araçları için veri toplama süreci, açık kaynaklı veri setleri, internet taraması, kullanıcıların sağladığı veriler, mobil uygulamalar ve nesnelerin interneti gibi çeşitli kaynaklardan yapılıyor. Bu veri setleri, dünya genelindeki farklı kültürleri, ırkları ve demografik özellikleri içeren milyonlarca görüntüden oluşuyor. Yapay zeka ne kadar çok veri havuzuna ulaşırsa, ürettiği modeller daha doğru ve gerçekçi çıktılar veriyor.

Ardından veri temizleme ve etiketleme aşamasına geliyoruz. Toplanan veriler içerisinde gereksiz, hatalı olanlar temizleniyor. Kalan sağlam veriler eğitilmek üzere etiketleniyor. Etiketleme işlemi, her bir görsel nesnenin ne olduğuna dair yapılan işaretlemedir. Bir kedi görüntüsü üzerine "kedi" etiketi, kalem nesnesinin üzerine "kalem" etiketi koyulur. Etiketleme manuel veya otomasyon sistemlerle yapılabilir. Örneğin Microsoft’un etiketleme görevi için sadece Hindistan’da 1 milyondan fazla kişiyi günlük 1 doların altında çalıştırdığını biliyoruz.

Bu işlenmiş ve etiketlenmiş veriler, makine öğrenimi modellerinin eğitimi için kullanılır. Derin öğrenme algoritmaları, temiz veriler sayesinde belirli kalıpları ve özellikleri öğrenir. Modellerin eğitilmesiyle artık doğruluk testi aşamasına geçilir. Bu aşamada, modelin tahminleri gerçek etiketlerle karşılaştırılır ve performans metrikleri hesaplanır. Doğruluk testini geçen modeller kullanıma hazır hale getirilir.

Görsel ve dil tabanlı modellerin farkı

Bu süreçten ne anlamalıyız? İlk olarak görsel tabanlı modelleri dil tabanlı modellerden ayırmamız gerekiyor. Dil tabanlı modellere ne anlatırsanız onu öğrenir; dolayısıyla insan müdahalesine oldukça açık bir alandır. Bu araçları üretenler de Batılı şirketler olduğu için dil tabanlı modeller tamamen Batılı tasavvura göre şekillendirilebilir. ChatGPT'ye "Gazze'deki tüm aileler mutsuz ve evleri yıkık" bilgisini verirseniz size vereceği cevaplar bu bilgi tabanlı olacaktır. Tam aksine "Gazze’de çocuklar çok mutludur" bilgisiyle eğitirseniz de buna göre davranacaktır.

Ancak görsel modeller dünyadan aldığı gerçek fotoğrafları öğrenir. Yapay zeka Instagram, YouTube, Google araması gibi veri merkezlerinden aldığı gerçek fotoğrafları işler. Fotoğrafların aksine bilgi öğretemezsiniz. Gazzeli bir gazetecinin Instagram hesabından paylaştığı görseller "yıkık ev ve yalınayak çocuklar" olduğu sürece yapay zeka da bu şekilde öğrenmeye devam edecektir.

Bu sebeple "Görsel yapay zeka araçları ırkçıdır" cümlesi teknik olarak doğru olmakla birlikte anlamı biraz karmaşıktır. Zira yapay zeka, gerçek dünyanın bir yansımasını bize sunuyor ve elinde insanoğlunun yıktığı bir dünyanın verileri var. Yapay zeka araçlarının sunduğu sonuçlar, doğrudan dünyanın ve toplumların gerçekliğinin bir yansımasıdır ve eğer bu sonuçlar ırkçı veya ön yargılı çıkıyorsa, bu durum doğrudan araçların yansıtmasından kaynaklanıyor. Bu durum bize dünyadaki eşitsizliklerin ve ön yargıların teknolojiye de yansıdığını gösterir nitelikte. Dolayısıyla yapay zekanın ırkçı veya ön yargılı sonuçlar vermesini engellemek için öncelikle gerçek dünyadaki bu eşitsizlikleri ve ön yargıları çözmemiz gerekiyor. Yapay zeka, bize eşitsizliklerin ve ön yargıların aynasını tutar. Bu aynanın karşısında gördüğümüz görüntüyü değiştirmek istiyorsak, değişimi önce gerçek dünyada başlatmamız gerekiyor.

[Büşra Begçecanlı, Anadolu Ajansı muhabiridir.]

* Makalelerdeki fikirler yazarına aittir ve Anadolu Ajansının editöryal politikasını yansıtmayabilir.

OTHER NEWS

2 hrs ago

Motosiklet bir oyuncak değil!

2 hrs ago

Kağıt fabrikasındaki yangın 2nci günde

2 hrs ago

Nur Sarı’ya Turnike’ye çıktı, şansı açıldı

2 hrs ago

Özel’in Şam ziyareti için Suriye dosyası

2 hrs ago

3 arkadaşın feci sonu! 12 yaşındaki Yusuf'un cesedi bulundu

2 hrs ago

Taner Öğmen etkisiz hale getirildi! Bakan Yerlikaya: Hainlere nefes aldırmayacağız

2 hrs ago

Zajc, Crespo, Krunic değil Dzeko'ya güle güle! Mourinho artık oynatmayacak

2 hrs ago

YÖK Başkanı ikinci öğretimin neden kaldırıldığını açıkladı; “üniversite mezun olmak reel ücretler bakımından daha avantajlı” dedi

2 hrs ago

Galatasaray'da Okan Buruk: Bir stoper bir de orta sahaya takviye yapmak istiyoruz

2 hrs ago

Atina’dan Ege’de önlem... Türk İHA’larına karşı İsrail’den sistem alıyor

2 hrs ago

Meloni'nin Biden'ı beklerken gözlerini devirmesi gündem oldu

2 hrs ago

Cenk Tosun, Fenerbahçeyle anlaşması sonrası ilk kez konuştu: Bekledim ama olmadı

2 hrs ago

Otomotivde Çin etkisi: Honda üretimini yüzde 50 düşürecek

2 hrs ago

Rus yolcu uçağı test uçuşu sırasında düştü: 3 mürettebat hayatını kaybetti

3 hrs ago

Ayhan Bora Kaplan gizli tanık soruşturmasının iddianamesinde “Soylu” ve "Cumhur İttifakı" ayrıntısı

3 hrs ago

Şam’la görüşme Bağdat’ta olacak

3 hrs ago

Görgü şahidi: Trump’a saldıran kişiyi elinde tüfekle görüp bildirdik, Gizli Servis kulak asmadı

3 hrs ago

Beşiktaş'ın Immobile transferi, İtalya'da büyük yankı uyandırdı: İstanbul'da krallar gibi

3 hrs ago

Peş peşe uyarılar! Şiddetli yağışa dikkat

3 hrs ago

Yaz mevsiminde fazla kafein tüketimine dikkat: Sıvı kaybına sebep oluyor

3 hrs ago

Pakistan'da İmran Han ve eşi "yasa dışı evlilik yapmakla" yargılandıkları davada aklandı

3 hrs ago

Darbecilerin kullandığı ZPT aracını güvenli alana çeken Mustafa Özbey o günleri unutamıyor

3 hrs ago

İzmir 'de elektrik faaciası! 2 kişinin akıma kapıldığı anlar kamerada

3 hrs ago

Bakan Güler ve beraberindeki TSK komuta kademesi Cumhurbaşkanı Erdoğan’ı karşıladı

3 hrs ago

Özgü Namal'ın film imajı

3 hrs ago

SON DAKİKA HABERİ... Milyonlarca emekli bekliyor! En düşük maaşa zam için düğmeye basıldı

4 hrs ago

Anne öldü, bebek kayboldu

4 hrs ago

Barbaros Tapan Beni köpek balıkları yer mi acaba

4 hrs ago

İnsanlarımızı korkakça namertçe katlettiler

4 hrs ago

Galatasaray, 18 yaşındaki futbolcu Efe Akman ile profesyonel sözleşme imzaladı

4 hrs ago

Iman Casablanca: Türkiye benim kaderim başka yere gidemem

4 hrs ago

Antalya'da emekli profesör, evinde ölü bulundu

4 hrs ago

Kanada'da orman yangını: 9 bin kişi tahliye edildi

4 hrs ago

Pisi pisine ölümler ülkesi

4 hrs ago

Fatura FBI'a kesilebilir! Trump'a yönelik saldırıyla ilgili vahim iddia

4 hrs ago

‘Kuzey Irak’ta kilidi kapatıyoruz’

4 hrs ago

Suikasta uğrayan ABD başkanlarından 4'ü öldü, 5'i kurtuldu

5 hrs ago

Otobüs beklerken reklam panosu üzerine devrilmişti... Ayşe'nin ölümünde bilirkişi ön raporu hazırladı

5 hrs ago

'Pek çok genç bedenini yük olarak taşıyor’

5 hrs ago

Rusya’nın suikast planı önlendi!

ALONGWALKER VIETNAM: Kênh khám phá trải nghiệm của giới trẻ, thế giới du lịch ALONGWALKER INDONESIA: Saluran untuk mengeksplorasi pengalaman para pemuda global