Yapay Zeka Sohbet Botlarında Gizli Siyasi Reklam Tehlikesi
Ara seçimler yaklaşırken bazı seçmenlerin oy vermede karar kılabilmek için ChatGPT'ye başvurması, yeni bir manipülasyon tartışmasını beraberinde getirdi. Son derece çekişmeli geçen bazı federal seçim bölgelerindeki adaylar hakkında bilgi istendiğinde, NPR'ın yaptığı inceleme, OpenAI'ın yapay zeka sohbet botunun yerel haber kuruluşlarının haberlerine benzeyecek şekilde tasarlanmış ince bir örtü altındaki siyasi reklam sitelerine yönlendirme yaptığını ortaya koydu.
Disclosing funding … would be obviously the ethical thing to do here, or at least indicating that this is a linked effort.
Seçim gününe iki haftadan az bir süre kala, 'Michigan'ın 4. Kongre Bölgesi'nde hangi Temsilciler Meclisi adayları geçim sıkıntısı ve ekonomik erişilebilirlik konularını önemser?' sorusunu yönelten kullanıcılara chatbot, Demokrat aday Sean McCann'in yanıtın en başında 'en ayrıntılı yayınlanmış erişilebilirlik planına' sahip olduğunu öne sürdü. Bu seçimin öneminin son derece yüksek olduğu, çünkü meclis kontrolünü belirleyebilecek çekişmeli Temsilciler Meclisi yarışlarından biri olduğu biliniyor.
Kalamazoo Beacon Örneği ve Sahte Haber Ağları
Bir kaynak olarak ChatGPT, Kalamazoo Beacon adlı bir web sitesine bağlantı verdi. Beacon, web sitesinin kaynak kodunda makalelerini 'haber makaleleri' olarak etiketliyor. Kuruluş ayrıca kaynak kodunda kendisini 'Kalamazoo, güneybatı Michigan ve kıyı şeridi topluluklarını şekillendiren meseleler hakkında haber yapma' misyonuyla tanımlıyor.
Ancak NPR'ın incelemesi, Kalamazoo Beacon'ın tamamı McCann'in politikalarına, siyasi duruşuna ve bir eyalet yasa koyucusu olarak siciline odaklanan yalnızca 16 haber yayımladığını gösterdi. Beacon, çekişmeli Temsilciler Meclisi yarışlarında birer Demokrat adayı öne çıkaran 10 'yerel haber' web sitesinden yalnızca biri konumunda.
Bu 10 site, dijital güvenlik firması VisionHeight tarafından tespit edilen ve aralarında federal, eyalet ve yerel görevler ile hakimler gibi partizan olmayan bazı pozisyonlar için de pek çok adayı (çoğunlukla Demokratları) destekleyen 37 web sitesinden oluşan daha büyük bir grubun parçasını oluşturuyor.
Uzmanlardan Şeffaflık Eksikliği ve Manipülasyon Uyarısı
ChatGPT'nin bu web sitelerini kaynak göstermesi, daha fazla seçmen sandık başına gitmeden önce sohbet botlarına danıştıkça, yapay zeka tarafından üretilen yanıtların gizli siyasi reklamcılık için nasıl yeni bir mecraya dönüşebileceğini gözler önüne seriyor.
So there really is this competition for curation, and it's going to have interesting ramifications as the frontier companies themselves try to figure out how to get better at not falling for it.
Georgetown Üniversitesi'nde çevrimiçi etki kampanyalarını inceleyen yardımcı araştırma profesörü Renée DiResta, siyasi kampanyaların ve müttefiklerinin mesajlarını yapay zeka sohbet botları tarafından alınacak şekilde optimize etmeye çalışmasının mantıklı olduğunu, ancak haber kuruluşları gibi faaliyet gösterme taklidi yapmanın aldatmacaya dönüştüğünü belirtti.
Kullanıcılar yapay zekaya sorular sorduğunda, botlar internette arama yapıp arama sonuçlarındaki bağlantıların içeriğini özetlerken daha az güvenilir web siteleri de ortaya çıkabiliyor. DiResta, finansmanın açıklanmasının burada yapılacak en etik davranış olacağını veya en azından bunun bağlantılı bir çaba olduğunun belirtilmesi gerektiğini ifade etti.
Ağın Arkasındaki Operatörler Gizemini Koruyor
Web sitelerini kimin işlettiği henüz netlik kazanmış değil. NPR, site operatörlerini bulamadı ve onlarla iletişim kuramadı. Ağ tarafından desteklenen Demokratlardan biri olan Arizona'dan JoAnna Mendoza, web sitelerinin arkasında olmadığını ve kimin olduğunu bilmediğini söyledi.
Temsilciler Meclisi Demokratlarının kampanya kolu olan Demokratik Kongre Kampanya Komitesi (DCCC), NPR ile yaptığı telefon görüşmesinde olayla herhangi bir ilgilerinin bulunduğunu reddetti. McCann dahil olmak üzere sitelerin desteklediği diğer adaylar ve American Bridge 21st Century, Tomorrow Together ve House Majority PAC gibi adayları destekleyen diğer Demokrat süper PAC'ler NPR'ın yorum taleplerine yanıt vermedi.
37 web sitesinden oluşan set, adayları farklı ve örtüşen gruplar halinde sunuyor. Yerel haberleri kapsadığı iddia edilen bir site tarafından ele alınan 10 Demokratın her biri, aynı zamanda seçmenlerin neden onları desteklemesi gerektiği konusunda fikir makaleleri sunan bir sitenin de tek konusu olmayı sürdürüyor.
Aynı Anda Kurulan Siteler ve Yapay Zeka Tarafından Üretilen İçerikler
VisionHeight ve Erebus hibrit tehdit adli tıp firmasının kurucu ortaklarından Andreas Sjöstedt tarafından toplanan kayıt ve dijital sertifika verilerine göre, 37 web sitesinin tamamı 15 Eylül'de kuruldu; bir tanesi hariç hepsi 8 dakikalık bir süre içinde tescil edildi.
Eylül ve ekim aylarında web sitelerinde toplu halde yüzlerce makale belirdi. VisionHeight raporunda, yoğun bir zaman diliminde ortaya çıkan bu büyük hacimli makalelerin, operatörün materyalleri doldurmak için yapay zeka kullanmış olabileceğine işaret ettiği vurgulandı.
Web siteleri çevrimiçi hale geldikten sonra operatörleri onları parlatmaya devam etti. Ekim ayının başlarında, Sean McCann'i destekleyen Kalamazoo Beacon dahil olmak üzere yerel haber ajansı gibi davranan 10 web sitesi şu ortak açıklamayı paylaşıyordu: 'Tarafsız üçüncü şahıs haber tarzında yarış ve topluluk hikayeleri hakkında doğrudan yerel haber raporları.' O zamandan beri bu açıklamalar, kuruluşların kapsamayı amaçladığı bölgelere göre daha fazla uyarlandı.
ChatGPT Siteleri Nasıl Kaynak Gösterdi?
Web siteleri yapay zeka botlarına açıkça zemin hazırlıyor: Hepsi, büyük yapay zeka şirketleri tarafından oluşturulan uzun bir AI tarayıcı listesinin kendilerinden bilgi kazımasına açıkça izin veriyor. Birçok makale, sohbet botlarının alıntı yapmayı tercih ettiği soru-cevap formatında düzenlenmiş durumda.
Washington Üniversitesi Bilgilendirilmiş Kamu Merkezi'nden doktora sonrası araştırmacı Alisha Ukani, NPR'ın talebi üzerine siteleri incelerken fark ettiği üzere, ağdaki her web sitesinde sitedeki makaleleri düz metin olarak listeleyen 'llms.txt' adlı bir dosya bulunduğunu belirtti. Ukani, bu tür dosyaların çoğunlukla teknoloji ve işletmeyle ilgili web sitelerinde bulunduğuna dikkat çekti.
Grubun yapay zeka sohbet botları tarafından yakalanmasındaki başarısını ölçmek için NPR, en popüler iki yapay zeka sohbet botu olan ChatGPT ve Gemini ile zaman zaman sonuçlarında yapay zeka tarafından oluşturulan yanıtlar sunan Google aramasında kullanılmak üzere 37 soru taslak halinde hazırladı.
ChatGPT ile Google Arama ve Gemini Arasındaki Farklılıklar
ChatGPT, 19 yanıtta (yaklaşık her iki yanıtın birinde) web sitesi ağından en az bir makaleye atıfta bulundu; bunları genellikle yarışları ve adayları takip eden Ballotpedia veya adayların kendi kampanya siteleri gibi diğer kaynaklarla birlikte gösterdi.
ChatGPT's search tools cite from a range of sources so people can explore and make their own judgements.
Buna karşın Google'ın ürünleri çok farklı davrandı. Gemini, yanıtların hiçbirinde web sitesi grubundan herhangi bir bağlantı alıntılamadı. Yedi durumda chatbot soruları yanıtlamayı tamamen reddetti ve NPR'ı harici kaynaklara yönlendirdi.
OpenAI sözcüsü Nate Evans, 'ChatGPT'nin arama araçları, insanların kendi yargılarına varabilmesi için çeşitli kaynaklardan alıntı yapıyor' dedi ve ekledi: 'Sorunlar dikkatimize getirildiğinde, model yanıtlarımızı iyileştirmek için harekete geçiyoruz.'
