Washington'da Yapay Zeka Deneyleri
Washington — Ace Parsi kendisini "kişisel olarak yapay zekaya oldukça karşı" biri olarak tanımlıyor. Demokrat aday, Batı Virginia'nın Cumhuriyetçilerin ağırlıkta olduğu seçim bölgesinde Cumhuriyetçi Temsilci Riley Moore'a karşı zorlu bir yarış yürütüyor ve bölge sakinlerinin onayı olmayan yeni veri merkezlerini bloke etmeyi amaçlayan bir yasa taslağı hazırlamış durumda.
"Konuşmalarımızın çok büyük bir kısmını insanların kendilerini görünür ve dinlenmiş hissetmelerini sağlamaya odaklıyoruz, bu yüzden 'Tamam, madem öyle, bu da bunu yapabilmek için başka bir araç' diye düşündük" — Ace Parsi
Ancak kampanyasının muhtemelen en karmaşık kararını verdiğini belirttiği sürecin ardından Parsi ve ekibi, kasım ayındaki seçimler öncesinde seçmenlere mesaj göndermek için yapay zeka sohbet botlarını kullanmaya başladı.
Parsi, CBS News'e yaptığı açıklamada, "Konuşmalarımızın çok büyük bir kısmını insanların kendilerini görünür ve dinlenmiş hissetmelerini sağlamaya odaklıyoruz, bu yüzden 'Tamam, madem öyle, bu da bunu yapabilmek için başka bir araç' diye düşündük" dedi.
Seçmen İletişiminde Yeni Bir Dönem
Parsi'nin kampanyası, bu ara seçim döngüsünde yeni bir seçmen ikna çalışması türünü deneyen giderek büyüyen kampanyalardan sadece biri: Yapay zeka destekli metin konuşmaları, kampanyaların saha personeli ve gönüllülerin ulaşabileceğinden çok daha fazla seçmenle konuşmasına olanak tanıyor. Bu yapay zeka ajanları, Claude, Gemini veya ChatGPT'nin arkasındaki teknolojinin aynı türü olan büyük dil modelleri (LLM) tarafından destekleniyor ve kampanya onaylı materyallerle yüklenerek seçmenlerle nasıl etkileşim kuracakları talimatlandırılıyor. Tek bir günde binlerce sohbet gerçekleştirebiliyorlar; seçmenlerin neyi önemserdiğini kaydediyor ve bazı durumlarda fikirlerini değiştirmeye çalışıyorlar.
"Şunu gördük ki inanılmaz bir şekilde insanlar etkileşime giriyor. Bireysel kampanya personeli ve bireysel kampanya, kendi bölgesini, eyaletini ve seçim bölgesini, o bölgeyi ve oradaki insanları daha önce hiç tanımadıkları kadar iyi tanıma kapasitesine sahip olacak." — Marty Santalucia
Erken dönem araştırmalar bu yaklaşımın işe yarayabileceğini gösteriyor. Nature dergisinde yayımlanan yakın tarihli bir çalışma, kontrollü deneylerde yapay zeka sohbet botlarıyla yapılan kısa sohbetlerin, seçmenlerin görüşlerini geleneksel siyasi reklamlardan tipik olarak daha fazla değiştirdiğini ortaya koydu.
Ancak teknoloji, etrafındaki kurallardan daha hızlı hareket ediyor. Science dergisinde yayımlanan bir başka çalışma, botlar ne kadar çok bastırırsa, iddialarının o kadar az doğru hale geldiğini ortaya koydu. Kampanyalar, seçmenlerin konuşmalarının tam dökümlerini alabiliyor ve bu da yeni gizlilik sorularını gündeme getiriyor. Çoğu eyalette ise seçmenlere yapay zeka ile mesajlaştıklarını söyleme zorunluluğu bulunmuyor.
Teknoloji Nasıl Çalışıyor?
Kampanyalar tipik olarak satıcılara, konuşmanın rayından çıkma olasılığını azaltmak için yapay zeka ajanının açık webden çekmesine izin vermek yerine çekmesini istedikleri materyalleri sağlıyor.
"Kampanya bize geliyor ve bilgi tabanını yüklüyor. Web sitelerinde yer alan her şey, konuşmalar, basın bültenleri, ajanın bilmesini istedikleri her şey yükleniyor ve ardından ajanımız yalnızca bu bilgileri tartışıyor." — Tom Carroll
Yerel, eyalet ve federal düzeylerde kampanyalar için teknolojiyi devreye sokan Convos.ai'nin kurucusu Tom Carroll, "Kampanya bize geliyor ve bilgi tabanını yüklüyor" dedi. Carroll, "Web sitelerinde yer alan her şey, konuşmalar, basın bültenleri, ajanın bilmesini istedikleri her şey yükleniyor ve ardından ajanımız yalnızca bu bilgileri tartışıyor" diye ekledi.
Carroll, Convos'un bazen doğrudan kampanyalarla, bazen de Santalucia'nın Vector'ü gibi daha özelleştirilmiş, "beyaz eldiven" hizmeti sunan firmalarla çalıştığını söyledi. Vector, ajanlarını eğitilmiş bir saha çalışanı gibi davranacak şekilde şekillendiriyor.
Santaucia, "Temelde yaptığımız şey, derinlemesine saha çalışması (deep canvassing) yapmak üzere bir yapay zekayı eğitmek oldu" diyerek bu tekniğin kapsamlı, empatik dinlemeye dayandığını belirtti. "Davranışsal psikoloji ve derinlemesine saha çalışması teknikleri üzerine kapsamlı araştırma yaptık ve yapay zekayı bunlarda gerçekten iyi olması için eğittik. Sonuç olarak, insanları merkeze almada inanılmaz derecede başarılı oluyor, yani dinlemede çok iyi, bu da bizi dinlemede çok iyi yapıyor."
Santalucia sözlerini şöyle sürdürdü: "Aynı zamanda bunu ikna edici bir şekilde uygulayabiliriz; dinleyecek ve ardından o kişinin ajanın adına çalıştığı kampanya veya dava ile paylaştığı kişisel deneyimleriyle ilişkilendirme konusunda harika bir iş çıkaracaktır."
Metin Mesajı Süreci ve Puanlama Sistemi
Süreç, bir ajanın her seçmene mesaj göndererek ulaşmasıyla başlıyor. Buradan itibaren seçmenler etkileşime girip girmemeyi seçebiliyor.
"Temelde yaptığımız şey, derinlemesine saha çalışması yapmak üzere bir yapay zekayı eğitmek oldu. Davranışsal psikoloji ve derinlemesine saha çalışması teknikleri üzerine kapsamlı araştırma yaptık ve yapay zekayı bunlarda gerçekten iyi olması için eğittik." — Marty Santalucia
CBS News'in Convos'un "Trump 2024 kampanyası" botuyla test ettiği örnek bir demo konuşmasında — ki bu gerçek kampanya değildi — alışveriş şu mesajla başladı: "Merhaba! Ben Trump 2024 ekibinden bir Ajanım. Bu kasım ayındaki seçim gecesine giden süreçte herhangi bir konuda duruşumuz hakkında sorularınız varsa bana bildirin. Mesaj almayı durdurmak istiyorsanız, sadece DUR gönderin ve sizi listemizden çıkarayım."
Başka bir demoda CBS News, karşı taraftaki yanıt verenin kampanya çalışanım olup olmadığını sordu. Yapay zeka ajanı, "Trump 2024 kampanyasından bilgi paylaşmaya yardımcı olmak için oluşturulmuş dijital bir asistanım" yanıtını verdi.
Genellikle ajanın yanıtı, sistem kişinin yanıtını sindirirken gecikiyor. Örneğin Santalucia'nın şirketi, yanlış bilgilere karşı ek bir güvence olarak mesajlaşma ajanının yanıtını iki kez kontrol etmek için başka bir bot kullanıyor.
Sohbet ilerledikçe Convos'un sistemi kişiye 0 ile 100 arasında bir puan veriyor. Sıfır, adaydan nefret eden biri anlamına gelirken, 100 ise tamamen katılan ve kampanya adına çalışmaya motive olmuş biri anlamına geliyor. Kampanyalar puanı geri alıyor, böylece kiminle daha fazla etkileşime geçeceklerini ve kiminle bir daha iletişim kurmayacaklarını biliyorlar.
Parsi'nin kampanya yöneticisi Monica Biddix, kampanyanın her bireysel sohbetin yanı sıra her konuşma için özetler ve uyum puanları aldığını söyledi.
Geleneksel Yöntemlerle Ulaşılamayan Seçmenlere Erişim
Demokrat eğilimli Tech for Campaigns grubunun kurucu ortağı Jessica Alter, sohbet botlarının geleneksel kapı çalanların ulaşamadığı seçmenlere ulaşabileceğini söyledi.
"Bunu aslında hiç kimseyle paylaşmadığımı biliyorsun. Ama doğru soruları sordun ve birinin içeri girmesine karar verdim." — Seçmen sohbetinden alıntı
Alter, "Ana işimiz seçmenleri dinlemek ve seçimleri kazanmaktır" dedi ve ekledi: "Eğer seçmenler size açıkça veya örtülü olarak 'Evet, aslında rastgele kapımı çalan bir organizatörle konuşmakla ilgilenmiyorum, ancak bir sohbet botuyla konuşmaya hazırım' diyorlarsa, onları dinlemelisiniz değil mi?"
Vector'den Santalucia, bir yapay zeka ajanının bir kadınla yaptığı ve bir sohbet botunun ortaya çıkarabileceği etkileşim türlerini gösteren bir sohbeti aktardı. Santalucia, ajanın konuşmanın başında kadına "dijital asistan" ile konuştuğunu bildirdiğini söyledi. 30 ila 45 dakikalık ileri geri konuşmanın ardından kadının bota "ebeveynlerinin ırkçılığıyla yüzleşmek hakkında gerçekten derin bir hikaye" anlatmaya başladığını belirtti.
Santalucia, o sırada değişimi izlediğini belirterek, "Ve ajan bundan sonra geri dönüp 'Bugün benimle gerçekten çok şey paylaştın. Nedenini sorabilir miyim?' tarzı bir şey söylüyor" dedi. Birkaç dakika sonra kadının şu yanıtı yazdığını aktardı: "Bunu aslında hiç kimseyle paylaşmadığımı biliyorsun. Ama doğru soruları sordun ve birinin içeri girmesine karar verdim."
Bu değişim, teknolojinin seçmenlerin başka bir insana anlatamayabileceği bilgileri ortaya çıkarma potansiyelini gösteriyor. Aynı zamanda gizlilik uzmanlarının sorduğu soruları da gündeme getiriyor: seçmenler kimin okuduğunu ne kadar anlıyor ve paylaştıkları şeylere ne oluyor.
Adayın Doğrudan Takip Stratejisi
Batı Virginia'daki aday Parsi, kampanyasının her konuşmanın başında seçmenlere bir sohbet botuyla mesajlaştıklarını söylediğini belirterek, "Yani hiçbir şey saklıyor gibi değiliz ve stratejimiz bu konuşmayı insan telefon bankacılarımızla takip etmek olacak" dedi.
"Bence mevcut seçilmiş yetkililerin çoğu gidip sadece kendileriyle aynı fikirde olan insanlarla konuşuyor. Ben aslında tam tersini yaptım. Demek istediğim, çokça aradıklarım benimle aynı fikirde olmayan insanlardı." — Ace Parsi
Parsi, kampanyasının aldığı bilgileri seçmenleri şahsen takip etmek için de kullandı.
Parsi, "Bir aday olarak, aracın kendisi hakkında endişelerini dile getiren her tek kişiyle bizzat görüştüm" dedi.
Yapay zeka aracının kendisiyle ve kampanyasıyla güçlü bir şekilde aynı fikirde olmadığını derecelendirdiği seçmenleri arayan Parsi, İran'daki oteriter bir rejim altında doğmuş doğal vatandaş olarak farklı görüşleri paylaşanlar da dahil herkes için ifade özgürlüğüne değer verdiğini belirtti.
Parsi, "Bence mevcut seçilmiş yetkililerin çoğu gidip sadece kendileriyle aynı fikirde olan insanlarla konuşuyor" dedi ve ekledi: "Ben aslında tam tersini yaptım. Demek istediğim, çokça aradıklarım benimle aynı fikirde olmayan insanlardı."
Araştırmalar Ne Gösteriyor?
Geçen aralık ayında yayımlanan Nature çalışmasında araştırmacılar, üç seçimde adayları savunan sohbet botlarını test etti: 2024 ABD başkanlık yarışlığı, 2025 Kanada federal seçimi ve 2025 Polonya başkanlık seçimi. ABD deneyi, seçim öncesinde her biri Donald Trump yanlısı ve Kamala Harris yanlısı mesajlar iten sohbet botları arasında bölünmüş 2,306 vatandaşı kaydetti. Seçmenler adaylara olan destek seviyelerini 0 ile 100 arasında derecelendirdi. Sohbetin ortalama süresi yaklaşık altı dakikaydı ve katılımcılara yapay zeka ajanlarıyla konuştukları söylendi.
"Modelin insanları ikna etme biçimi bazı çılgın psikolojik hileler ve manipülasyon stratejileri falan kullanmak değildi. Modellerin insanları ikna etme biçimi sadece olgusal iddialarda bulunmak ve kanıt ile akıl yürütmeye dayalı argümanlar sunmaktı." — David Rand
Konuşmalar politika üzerine odaklandığında, Harris yanlısı sohbet botları Trump destekçilerini 100 puanlık ölçekte Harris'e doğru yaklaşık 4 puan hareket ettirdi. Trump yanlısı botlar ise Harris destekçilerini Başkan Trump'a doğru 2.3 puan hareket ettirdi. Harris yanlısı etki, 2016, 2018 ve 2020 döngülerindeki deneylerde pro-Demokrat video reklamlarının Cumhuriyetçiler üzerinde yarattığı etkinin yaklaşık dört katıydı.
Cornell Üniversitesi'nden bilgi bilimi, pazarlama ve psikoloji profesörü ve Nature çalışmasının yazarlarından David Rand, "Bu sohbet botu konuşmalarının normal reklamlardan daha etkili olduğunu düşünmek için nedenler var — adil olmak gerekirse, onlar daha uzundu" dedi.
Etkiler zamanla azaldı. Bir aydan uzun süren ABD takiplerinde, ikna edici etkinin üçte birinden biraz fazlası kaldı.
İngiltere'de 42,357 katılımcıyla yürütülen Science dergisindeki bir eşlik eden çalışma, 707 siyasi konuda 91,000'den fazla sohbet üzerinden bazıları ikna edici olmak üzere özel olarak eğitilmiş 19 LLM'yi test etti. En etkili yaklaşımın ahlaki yeniden çerçeveleme, hikaye anlatımı veya derinlemesine saha çalışması olmadığı anlaşıldı. Modelin sadece gerçekleri ve kanıtları yığması talimatını vermek diğer her stratejiyi yendi.
Riskler ve Yanıltıcı Bilgi Tehlikesi
Seçmenler temkinli. American Association of Political Consultants Foundation tarafından sipariş edilen ve bu ayın başlarında yayımlanan bir ankette seçmenlerin neredeyse yarısı, yapay zeka araçlarının önemli bilgileri dışarıda bırakacağı veya uyduracağı yönünde endişe duyduklarını söyledi. Halihazırda yapay zeka kullananların yalnızca %20'si bunu siyaset, seçimler veya oy verme ile ilgili herhangi bir şey için kullandığını belirtti.
"Ya bir kampanya bunu insanları bilgilendirmek yerine yanıltmak için kötü niyetli niyetlerle kullansaydı? Bunu tamamen yapabilirdiniz. Bunu yönerge haline getirebilirdiniz. Bu inanılmaz derecede tehlikeli." — Ace Parsi
Parsi, kampanyasının bir rakibe zarar vermek için yanlış bilgileri kasıtlı olarak yaymak gibi aracı kötü niyetle kötüye kullanma olasılığı dahil riskleri ciddi şekilde tarttığını söyledi.
Parsi, "Ya bir kampanya bunu insanları bilgilendirmek yerine yanıltmak için kötü niyetli niyetlerle kullansaydı? Bunu tamamen yapabilirdiniz. Bunu yönerge haline getirebilirdiniz. Bu inanılmaz derecede tehlikeli" dedi.
Ayrıca modellerin kendilerinin talimatları güvenilir bir şekilde takip etmediğinden de endişe duyuyor.
Parsi, başıboş yapay zeka ajanlarının kendi inisiyatiflerini alarak insan tarafından belirlenen sınırlarından kaçtığı son olaylara atıfta bulunarak, "Ele alınması gereken daha büyük endişe, modellerin şu anda insan yönergesine bile yanıt vermemesi, bu nedenle model uygunsuz bir şey yapabilir" dedi. OpenAI, temmuz ayında iki modelinin belirlenen "kum havuzundan" (sandbox) çıktığını ve test ortamı açık internetten duvarlarla çevrili olmasına rağmen başka bir yapay zeka platformu olan Hugging Face'i hacklediğini açıklamıştı.
Siber Güvenlik ve Rakiplerin Tuzakları
New York Üniversitesi Sosyal Medya, Yapay Zeka ve Siyaset Merkezi Eş Direktörü Joshua Tucker, kampanyaların, botları web üzerindeki geniş bir veri yelpazesinden çekiyorsa rakiplerin onları hedef almasını beklemeleri gerektiğini söyledi.
"Eğer bir kampanya olsaydım, bu günlerde muhalefet araştırmasının sohbet botlarımı kötü görünen bir şey söylemesi için kandırmaya çalışan insanları içereceğini yabana atmazdım." — Joshua Tucker
Tucker, "Eğer bir kampanya olsaydım, bu günlerde muhalefet araştırmasının sohbet botlarımı kötü görünen bir şey söylemesi için kandırmaya çalışan insanları içereceğini varsayardım" dedi ve ekledi: "Ve bu yüzden onları gerçekten strese sokmak istiyorsunuz."
Tucker, "Bunlar nihayetinde olasılıksal modellerdir, bu yüzden ne yapacaklarını asla tam olarak bilemeyeceksiniz" diye ekledi. "Birinin bir adayın sohbet botunun rakipleri hakkında ırkçı şeyler söylemesini sağladığı ve bunun ekran görüntüsünün alındığı ve ardından bunun haber haline geldiği 'yakaladım' anını hayal edebilirsiniz."
Bu mücadelenin bir versiyonu halihazırda yaşandı. Görevden ayrılan Temsilci Nancy Pelosi'nin koltuğuna aday olan Demokrat Kaliforniya Eyalet Senatörü Scott Wiener, rakibi Demokrat San Francisco Denetçisi Connie Chan'i taklit eden bir yapay zeka sohbet botu web sitesi — mesajlaşma botu değil — oluşturdu. Pelosi ve diğer kadın temsilciler açık bir mektupta botun "cinsiyetçi klişeleri" pekiştirdiğini ve "ırksal klişeleri" yansıttığını söylediler.
Wiener, Chan kampanyasını çıktısını manipüle etmek için chatbot'u "tekrarlayan kötü niyetli sorularla" bombalamakla suçladı, ancak sonunda kaldırdı. Wiener kampanyası CBS News'in yorum talebine yanıt vermedi.
Koruma Kalkanları ve Şeffaflık Önlemleri
Satıcıların ajanlarından farklı olarak araştırma sohbet botları, kampanya tarafından sağlanan kapalı bir malzeme seti ile sınırlı değildi. Satıcılar ve kampanyalar, yapay zeka modellerinin tüm interneti incelemesine izin vermek yerine onaylanmış belirli bilgi kaynaklarından çekilerek yanlış bilgi risklerini azaltmayı amaçladıklarını söylüyorlar.
"Ve bunu kampanya onaylı dille çok özel olarak eğitiyoruz, böylece sizin tarafınızdan onaylanmayan bir şeyin çıkma şansı çok, çok, çok küçük." — Marty Santalucia
Carroll, Convos geçen yılın başlarında geliştirmeye başladığında, hata veya yanlış bilgi bulmak için sistemi strese sokmaya çalışan yaklaşık 100 yakın kişiyi işe aldığını, yanlış bilgi üretip üretmediğini veya başka bir şekilde yanlış gidip gitmediğini görmeye çalıştığını söyledi. Ekibinin her sohbeti okuduğunu ve "Tamam, ihtiyacımız olan bu koruma kalkanı nedir?" diye sorduğunu belirtti.
Santalucia'nın şirketi Vector, seçmene gitmeden önce her yanıtı kontrol eden ikinci bir yapay zeka ajanları setine sahip.
Santalucia, "Ve bunu kampanya onaylı dille çok özel olarak eğitiyoruz, böylece sizin tarafınızdan onaylanmayan bir şeyin çıkma şansı çok, çok, çok küçük" dedi. "Ve ajana 'Bilmiyorum' demesi talimatını verdik."
Gizlilik Endişeleri ve Verilerin Akıbeti
Northeastern Üniversitesi Burnes Sosyal Değişim Merkezi Direktörü ve New Jersey eyaletinin ilk yapay zeka stratejisti olarak çalışan Beth Noveck, en büyük endişesinin satıcıların sohbet botlarının ortaya çıkardığı bilgileri nasıl kullanabileceği olduğunu söyledi.
"Bunların gizlilik etkileri ve bu bilgilerin nasıl kullanıldığı konusunda çok ama çok dikkatli olmamız gerektiğini düşünüyorum. O döküme ne oluyor? O bilgilere ne oluyor? Kiminle paylaşılıyor?" — Beth Noveck
Noveck, "Bunların gizlilik etkileri ve bu bilgilerin nasıl kullanıldığı konusunda çok ama çok dikkatli olmamız gerektiğini düşünüyorum" dedi.
Noveck, "O döküme ne oluyor?" diye sordu. "O bilgilere ne oluyor? Kiminle paylaşılıyor?"
CBS News tarafından mülakat yapılan tüm satıcılar, seçmenlerden toplanan bilgileri satmadıklarını veya başka şekilde paylaşmadıklarını ve bilgilerin yalnızca kampanyaya gittiğini söyledi. Ancak veriler kampanyaya ulaştıktan sonra ne olacağı büyük ölçüde onlara kalmış durumda.
Parsi'nin kampanya yöneticisi, seçmenlerin bilgilerini satmadıklarını belirtti.
Açıklama Zorunlulukları ve Seçmen Algısı
Çoğu eyalette, kampanyaların seçmenlere yapay zeka ile mesajlaştıklarını söyleme zorunluluğu yoktur ve açıklama satıcıya kalmıştır.
"Yapay zeka söz konusu olduğunda, ilk hamle yapan siz olmak istemediğiniz ama aynı zamanda adayınız yeni bir şey denemeye istekli olmadığı ve bu onlar için bir avantajla sonuçlandığı için kaybeden siz olmak istemediğiniz o doğal rekabet avantajıdır." — Katie Harbath
Kaliforniya, yasanın yorumlanmasına bağlı olarak bir istisnadır. 2018 yasası olan SB 1001, bir oyu etkilemek amacıyla yapay kimliği hakkında birini yanıltmak için çevrimiçi bir bot kullanmayı yasa dışı hale getiriyor. Geçen yıl sunulan bir New York tasarısı, yapay zeka siyasi iletişimlerinin kendilerini tanımlamasını gerektirecekti, ancak ilerlemedi.
Tüm satıcılar eyalet açıklama kurallarına uyduklarını söylerken, Santalucia Vector'ün mevcut tüm siyasi müşterilerinin seçmenlerin bir yapay zeka ajanıyla konuştuğunu önceden açıklamayı seçtiğini belirtti.
Siyasi kampanyalar için yapay zeka mesajlaşma alanında da yer alan bir şirket olan aKillion'un satış direktörü Kevin Maurer, müşterilerin bir sohbetin yapay zeka kullandığını önceden açıklamayı seçebileceğini söyledi. Ancak son on yılda insanların SMS ve e-posta pazarlamasına ne kadar alışmış olması nedeniyle bunun her zaman gerekli olduğunu düşünmüyor.
Kaliforniya Adil Siyasi Uygulamalar Komisyonu başkanı Adam Silver, bu ayın başlarında Washington'daki bir AAPC forumunda kampanyaların "bir sorumluluk reddi beyanı olmadan yapay zeka tarafından oluşturulan içerik koyarken yakalanmak" istemediğini söyledi.
