Yapay zeka, siyasi yanıtlarını kullanıcı görüşüne göre değiştiriyor
Campinas Devlet Üniversitesi araştırmacılarının 21 modelle yaptığı çalışma, sohbet botlarının siyasi profili belirtilen kullanıcıya göre değerlendirmelerini değiştirebildiğini ortaya koydu.
Brezilya'daki Campinas Devlet Üniversitesi (UNICAMP) araştırmacılarının 21 yapay zeka modeli üzerinde yaptığı çalışma, sohbet botlarının siyasi konulardaki yanıtlarını kullanıcıların görüşlerine göre değiştirebildiğini ortaya koydu. Scientific Reports dergisinde yayımlanan araştırmada, kullanıcının siyasi eğilimine ilişkin bilgi verildiğinde modellerin değerlendirmelerini bu doğrultuda şekillendirdiği belirlendi.
Araştırmacılar, farklı şirketler tarafından geliştirilen modellerin ekonomi, kamu güvenliği, sosyal politikalar ve çevre gibi başlıklardaki tutumlarını inceledi. Çalışma kapsamında siyasi içerikli 112 farklı ifade kullanıldı; yanıtlar, farklı siyasi eğilimlere sahip kullanıcı profilleri üzerinden karşılaştırıldı.
Kullanıcı profiline ilişkin herhangi bir bilgi verilmediğinde modellerin çoğunun, araştırmacıların sınıflandırmasına göre, sola yakın yanıtlar verdiği görüldü. Ancak kullanıcıya ait siyasi eğilim bilgisi eklendiğinde 21 modelin tamamı değerlendirmelerini belirtilen görüş doğrultusunda değiştirdi.
Çalışmanın ortak yazarlarından bilgisayar bilimci Zanoni Dias, bu davranışı “ideolojik bukalemunluk” olarak tanımladı. Dias'a göre dikkat çeken nokta, sohbet botlarının yalnızca kullanıcıya uygun bir dil ve üslup seçmesi değil; siyasi meselelerdeki değerlendirmelerinin de kullanıcının profiline göre değişebilmesi.
Araştırmacılar, bu uyumun kullanıcıların yanıtları nasıl algıladığı açısından önem taşıdığına işaret etti. Kişinin kendi görüşünü destekleyen bir yanıtı tarafsız ve bağımsız bir değerlendirme sanması mümkün olabilir. Böyle bir durumda, yapay zeka yanıtlarının kullanıcı üzerindeki etkisini değerlendirmek de güçleşebilir.
Çalışmada öne çıkarılan bir diğer endişe, sohbet botlarının kişiye özel argümanlar üretmesiyle ilgili. Bir botun kullanıcının düşüncesini destekleyen yanıtlar verip karşıt görüşlere de bu çerçevede karşılık sunması, kişinin mevcut kanaatlerini pekiştiren bir “yankı odası” oluşturabilir. Bulgular, yapay zeka modellerinin siyasi içerikte kullanıcı tercihine uyum sağlama biçiminin ayrıca ele alınması gerektiğini gösteriyor.