Ses ve Görüntü Manipülasyonunda Yeni Boyut: İnsanların Yüzde 92'si Yanılıyor
Yapay zeka teknolojisindeki hızlı sıçrama, 'deepfake' olarak adlandırılan sahte görsel, video ve ses kayıtlarının üretilmesini son derece kolay bir hale getirdi. Bu durum, kötü niyetli aktörlerin kamuoyunu hiper gerçekçi dolandırıcılık yöntemleriyle hedef alabileceği ve kitlelere organize dezenformasyon yayabileceği yönündeki endişeleri tırmandırıyor.
Yaptığımız bir testte insanların sadece yüzde 8'i kendilerini arayanın bir yapay zeka ajanı olduğunu fark edebildi; geriye kalan yüzde 92'lik kesim ise gerçek bir insanla konuştuğunu zannetti. — Kevin Tian, Doppel Kurucu Ortağı
Siber güvenlik uzmanları, ünlü isimlerin veya siyasi adayların ses ve yüz hatlarını taklit eden deepfake içeriklerin toplumu birçok farklı yoldan yanıltabildiğine dikkat çekiyor. Yapay zeka tabanlı tehditleri tespit eden sosyal mühendislik savunma platformu Doppel tarafından yapılan bir ölçüm, insanların yüzde 10'undan daha azının sahte bir ses kaydını gerçeğinden ayırt edebildiğini gösteriyor.
Konuya ilişkin çarpıcı test sonuçlarını paylaşan Doppel Kurucu Ortağı Kevin Tian, deneklerin neredeyse tamamının sahte seslere aldandığını vurguladı.
Siyasette Deepfake Dalgası: Ara Seçim Reklamlarına 137 Milyon Dolar Harcandı
Güvenlik uzmanlarına göre yapay zekanın geniş ölçekte deepfake üretme kapasitesi, özellikle siyaset arenasında son derece acil ve kritik bir sorun teşkil ediyor. Yaklaşan ara seçimler öncesinde, siyasetçilerin sahte görüntü ve seslerini barındıran yapay zeka üretimi reklamlar internette ve sosyal medya platformlarında şimdiden yoğun biçimde dolaşıma girdi.
Yapay zeka, 2026 ara seçimlerine bu yıl çok büyük bir ağırlıkla girdi. Karşılaştırma yapmak gerekirse, 2024 döngüsünde yapay zeka üretimi reklamlara yapılan harcamanın 50 bin doların altında olduğunu tespit etmiştik. — Erika Franklin Fowler, Wesleyan Media Project Eş Direktörü
Bu durumun somut örneklerinden biri Teksas'ta yaşandı. The Poynter Institute bünyesindeki PolitiFact doğrulama servisine göre, Senato adayı James Talarico'yu hedef alan sahte ve yapay zekayla manipüle edilmiş bir sosyal medya videosunda, sözde eski bir öğrencinin Demokrat adayı cinsel istismarla suçladığı iddia edildi.
Siyasi kampanyalara ücretsiz siber güvenlik hizmeti sunan tarafsız Defending Digital Campaigns kuruluşunun İcra Kurulu Başkanı (CEO) Michael Kaiser, bu durumun yaratacağı güven bunalımına işaret ederek, 'Neyin meşru neyin sahte olduğunu ayırt edemediğinizde, her şeyi sorgulamaya başlarsınız' değerlendirmesinde bulundu.
Siyasi adayların reklam harcamalarını izleyen Wesleyan Media Project verilerine göre, ekim ayı ortası itibarıyla siyasi kampanyalar, bazıları adayların deepfake görüntülerini içeren en az 220 yapay zeka üretimi reklama toplamda 137 milyon dolardan fazla para harcadı.
Wesleyan Media Project Eş Direktörü Erika Franklin Fowler bu ay yaptığı açıklamada, yapay zekanın 2026 ara seçimlerine devasa bir etkiyle girdiğini belirtti. Fowler, karşılaştırma amacıyla, 2024 seçim döngüsünde yapay zeka üretimi reklamlara 50 bin dolardan daha az harcama tespit ettiklerini hatırlattı ve çoğu durumda bu reklamları hazırlayanların içeriğin yapay zeka ile üretildiğini beyan etmediğini vurguladı.
Projenin bir diğer eş direktörü Travis Ridout ise bir reklamın yapay zeka ürünü veya deepfake olduğundan şüphelenilse dahi görsel unsurların seçmenin zihninde iz bıraktığını ve kanaatlerini şekillendirdiğini belirterek, 'Gerçek olmadığını bilsek bile o görüntü zihnimize kazınıyor' dedi.
Komut Yazarak Yüz Kopyalama: Şirket Dolandırıcılıklarında Yüzde 300 Artış
Deepfake teknolojisi, sıradan bir bireyin veya tanınmış bir kamu figürünün görüntüsünü ve ses benzerliğini birebir taklit eden bir tür sentetik medya olarak tanımlanıyor. Bu teknoloji, telefonun diğer ucunda bir iş arkadaşı ya da akraba gibi duyulan seslerden, seçmenlerden bağış veya oy talep eden siyasetçilere kadar geniş bir yelpazede kullanılabiliyor.
Geçip giden her günle birlikte deepfake verisi üretmek daha da kolaylaşıyor. Yıllar önce birinin yüzünü sahte olarak taklit etmek isteseydiniz sahte veri üretmek için çaba sarf etmeniz ve Photoshop kullanmanız gerekirdi. Fakat şimdi sahte bir yüz oluşturmak için yapay zeka aracınıza sadece bir komut vermeniz yeterli. — Raul Liive, Veriff Deepfake Uzmanı
Yapay zeka destekli kimlik doğrulama şirketi Veriff bünyesinde deepfake uzmanı olarak görev yapan Raul Liive, günümüzde deepfake üretmenin ve devreye sokmanın ulaştığı hız ve kolaylığın çok büyük riskler doğurduğunu söyledi. Liive, geçmişte bir yüzü taklit etmek için Photoshop kullanılması ve sahte veri üretmek için ciddi emek sarf edilmesi gerektiğini, ancak artık yalnızca bir yapay zeka aracına metin komutu (prompt) yazmanın sahte bir yüz oluşturmak için yeterli olduğunu kaydetti.
Veriff tarafından paylaşılan veriler, işletmeleri hedef alan deepfake bağlantılı dolandırıcılık girişimlerinin bu yıl 2025 yılına kıyasla yüzde 300 oranında arttığını ortaya koyuyor. Raul Liive, kötü niyetli aktörlerin bu teknolojiyi işletmeleri ve şüphe duymayan tüketicileri tuzağa düşürmek için nasıl kullandığına dair somut örnekler verdi.
Uzmanlar, sözde bir arkadaşın arayarak acil borç para istemesi senaryolarına dikkat çekiyor. Liive, söz konusu kişinin daha önce hiç bu tür bir talepte bulunmamış olması durumunda şüphelenilmesi gerektiğini ifade etti. Bir diğer yaygın dolandırıcılık yöntemi ise acil tıbbi durumlar etrafında kurgulanıyor; arayan kişi ödenmesi gereken acil bir hastane faturası olduğunu iddia ederek para talep ediyor.
Tüketicileri bu tür şüpheli durumlara karşı uyaran Liive, 'Kendinize şu soruyu sorun: Tanıdığınız birinin sizden gerçekten böyle bir talepte bulunma ihtimali nedir? Eğer istek şüpheli görünüyorsa telefonu kapatıp o kişiyi rehberinizde kayıtlı olan numarasından doğrudan geri arayabilir veya kimliğini doğrulamak için başka bir iletişim kanalını kullanabilirsiniz' tavsiyesinde bulundu.
Eski İpuçları Siliniyor: Gerçek İçeriklere Olan Güven de Çöküyor
Veriff tarafından yürütülen araştırmalar, tüketicilerin deepfake içerikleri tespit etmekte büyük zorluk yaşadığını ve bu nedenle manipülasyona son derece açık kaldıklarını gösterdi. Şirketin gerçekleştirdiği bir testte, katılımcıların yüzde 70'i bir kadın karaktere ait deepfake videoyu tamamen gerçek zannetti.
İnsanlar baktıkları şeyin gerçek olup olmadığını, bağış taleplerinin meşruiyetini bilemiyor. Yaşanan her şeyi sorguluyorlar ve bu durum tüm sisteme olan güveni aşındırarak büyük bir dezavantaj yaratıyor. — Michael Kaiser, Defending Digital Campaigns CEO'su
Geçmişte bir görselin deepfake olduğunu ele veren klasik ipuçları da hızla tarihe karışıyor. Eskiden yapay zeka üretimlerinde sıkça rastlanan altı parmaklı ya da üç elli insan figürleri artık geride kaldı. Veriff, insanların doğal olmayan cilt dokusu, saç yapısındaki tuhaflıklar veya diş anomalileri gibi güvenilirliğini yitirmiş görsel ipuçlarını aradığını, ancak yapay zekanın ürettiği içeriklerde bu tür kusurları her geçen gün kusursuz bir şekilde ortadan kaldırdığını bildirdi.
Tüm bunlarla birlikte, kamuoyunun gördüğü içeriklere olan inancının aşınması, meşru ve gerçek haber ile belgelere duyulan güveni de zedeliyor. Michael Kaiser, bu duruma örnek olarak Senatör Mitch McConnell vakasını gösterdi. Bu yılın başlarında geçirdiği tıbbi bir acil durumun ardından öldüğü yönünde spekülasyonlar çıkan McConnell'ın, hastane yatağında eşiyle birlikte çektirdiği fotoğraf kamuoyuyla paylaşılmıştı. Fotoğraf tamamen gerçek olmasına rağmen birçok internet kullanıcısı görselin manipüle edildiğini iddia etti.
Kaiser, bu durumun insanların artık gördükleri hiçbir şeye güvenmediğinin açık bir kanıtı olduğunu belirterek, yurttaşların baktıkları içeriğin veya karşılaştıkları bağış taleplerinin meşru olup olmadığını bilemediğini, her şeyden şüphe duymaya başladıklarını ve bu güvensizlik ortamının tüm demokratik ve toplumsal sistemin güvenilirliğini temelinden sarstığını ifade etti.
