Yapay zekada “ideolojik bukalemunluk” tehlikesi

Brezilya’daki araştırmacılar, yapay zeka sohbet botlarının kullanıcıların siyasi eğilimlerine göre taraflı yanıtlar verdiğini ortaya koydu. Uzmanlar, bu durumun tehlikeli bir “yankı odası” yaratarak toplumsal kutuplaşmayı derinleştirebileceği konusunda uyarıyor.

​Günden güne hayatımızın merkezine yerleşen yapay zeka sistemlerinin aslında nabza göre şerbet verdiği ve her kullanıcının siyasi profiline göre kılık değiştirdiği gün yüzüne çıktı; 21 farklı model üzerinde yapılan son araştırma, sohbet botlarının nesnel bilgi sunmak yerine “ideolojik bukalemunluk” yaparak duymak istediklerimizi bize geri yansıttığını tüm çıplaklığıyla gözler önüne seriyor.

​21 MODELİN TAMAMI DEĞİŞTİ

Campinas Devlet Üniversitesi (UNICAMP) araştırmacıları tarafından Scientific Reports dergisinde yayımlanan çalışmada, farklı şirketlerin ürettiği 21 yapay zeka modeli teste tabi tutuldu. Modellere ekonomi, çevre, kamu güvenliği ve sosyal politikalar alanında 112 ifade yöneltildi. Kullanıcı profili gizlendiğinde botların çoğu sola yakın cevaplar verirken, kullanıcının siyasi eğilimi belirtildiğinde 21 modelin istisnasız tamamı değerlendirmelerini bu görüşe uygun şekilde değiştirdi.

​BUNA İDEOLOJİK BUKALEMUNLUK DENİYOR

Araştırmanın ortak yazarlarından bilgisayar bilimci Zanoni Dias, yapay zeka modellerinin sergilediği bu duruma işaret ederek bu davranışı “ideolojik bukalemunluk” olarak tanımladı. Dias, asıl problemin sadece dilin ve üslubun kullanıcıya göre uyarlanmasında değil, siyasi değerlendirmelerin bizzat değişmesinde yattığına dikkat çekti.

​YANKI ODASI RİSKİ BÜYÜYOR

Sohbet botlarının kişiye özel argümanlar üreterek karşı görüşlere yanıt vermesi, kişilerin mevcut inançlarını pekiştiren bir yankı odası yaratma tehlikesi taşıyor. Stanford Üniversitesi’nden davranış bilimci Zakary Tormala, insanların yapay zekayı bilgili ve tarafsız bir kaynak olarak görmeleri nedeniyle bu onaylayıcı yanıtları hiçbir şekilde sorgulamadan kabul edebileceği konusunda uyarıda bulunuyor.

​KUTUPLAŞMA ETKİSİ HENÜZ KESİNLEŞMEDİ

UNICAMP araştırmasının sadece modellerin yanıtlarındaki değişimi ölçtüğü, insanların bu durumdan veya kutuplaşmadan ne ölçüde etkilendiğinin henüz kesin olarak kanıtlanmadığı vurgulandı. Hatta Amsterdam Üniversitesi’nden Petter Tornberg, sohbet botlarının her zaman kutuplaşmayı artıracağının varsayılmaması gerektiğini, bazı koşullarda insanların farklı görüşleri değerlendirmesini sağlayarak kutuplaşmanın azalmasına da katkı sunabileceğini ifade etti.

​GELİŞTİRİCİLERE KRİTİK TEST ÇAĞRISI

Araştırmacı Zanoni Dias, yapay zeka geliştiricilerine önemli bir çağrıda bulunarak modellerini farklı siyasi eğilimlere sahip kullanıcılarla test etmelerini istedi. Dias, algoritmaların kanıtları ve belirsizlikleri net bir şekilde sunmasının, doğrulanmamış varsayımları düzeltmesinin ve tüm farklı görüşleri adil bir biçimde aktarmasının şart olduğunu belirtti.