Yapay Zeka Ekonomisinde Görünmeyen İzlerin Mülkiyeti
Yapay zeka (AI) ekonomisini yöneten kurallar adeta varsayılan olarak yazılıyor. Geçtiğimiz Haziran ayında, yapay zeka felaket tellallarının işleri sayarken hatalı bir şekilde 'izleri' (traces) göz ardı ettiğini savunmuştum. İzler, insanların dokundukları her sistemde arkalarında bıraktıkları unsurlardır: düzeltmeler, karar anları, bir anlaşmayı mühürleyen akıl yürütme süreçleri ve bir kılavuzda bulunmayan geçici çözümler. Bunlar bir şirketin en değerli varlıkları arasındadır. Peki, bunların sahibi kim?
Çalışanların emeği üzerine yapay zeka inşa eden şirketler, bir sistemin öğrendiklerinin kime ait olduğu konusunda iddiada bulunuyorlar. Kuralları şimdiden şekillendirmezsek, geri kalan herkes kira ödeyecektir.
Henüz kimse buna karar vermiş değil ve bu fırsat penceresi uzun süre açık kalmayacak. 1920'lerde radyoculuğun büyümesini ele alalım. Amerikalı yayıncılar, radyo frekanslarını yasanın takip edebileceğinden daha hızlı bir şekilde sahiplendiler. Kongre 1927 tarihli Radyo Yasası'nı (Radio Act of 1927) çıkardığında, kontrol zaten perçinlenmişti. 1934 tarihli İletişim Yasası (Communications Act of 1934) da bu durumu onayladı.
Radyo, hava dalgalarının kime ait olduğu konusunda bürokratik bir savaştı. Bugünün kaynağı ise insan zekasıdır: insanların nasıl akıl yürüttüğü, karar verdiği ve ürettiği. Eğer bunu beslenecek bir kaynak yerine sadece sömürülecek bir şey olarak ele alırsak, gelecekteki her atılımın dayandığı kaynağı kurutmuş oluruz.
Çalışanların emeği üzerine yapay zeka inşa eden şirketler, bir sistemin öğrendiklerinin kime ait olduğu konusunda iddiada bulunuyorlar. Kuralları şimdiden şekillendirmezsek, en güçlü modelleri kontrol eden şirketler şartları belirleyecek ve geri kalan herkes sadece kira ödeyecektir.
Zeka Ekonomisi İçin Üç Katmanlı Sosyal Sözleşme
İşte bir başlangıç noktası, platform, organizasyon ve birey olmak üzere üç katmandan oluşan zeka ekonomisi için bir sosyal sözleşme:
Yapay zekaya erişim, bir hizmet koşulu olarak zekadan vazgeçmeyi gerektirmemelidir.
Platform düzeyinde: Seçim hakkı. Hiçbir tekil model, kaçınılmaz bir zeka altyapısı haline gelmemelidir. Temel model yetenekleri yakınsadıkça, kalıcı avantaj modelin üzerinde kalmaya devam eder ve bir organizasyonun çalıştırdığı modelin üzerine inşa ettiği öğrenme döngüsünde yaşar.
Sağlayıcılar geçişi maliyetli hale getirerek genellikle organizasyonları benimsedikleri ilk modele bağlarlar. Yapay zekaya erişim, bir hizmet koşulu olarak zekadan vazgeçmeyi gerektirmemelidir.
Organizasyon düzeyinde: Egemenlik. Organizasyonların yapay zeka üzerine inşa ettiği öğrenme döngüleri, iş akışları ve alan uzmanlığı organizasyonlara aittir.
İnsan uzmanlığı halihazırda yapay zeka için eğitim verilerine dönüştürülmektedir: RedCompass Labs, Ödeme Uzmanı Ajanını Bilişsel Görev Analizi (Cognitive Task Analysis - CTA) ile eğiterek binlerce saatlik uzman çalışmasını, yapay zekanın uzmanların nasıl akıl yürüttüğünü ve karar verdiğini öğreten veri setlerine dönüştürmektedir.
Kurumsal Egemenlik ve Davranışsal İzlerin Korunması
İş yerinde halka açık yapay zeka araçlarını kullanan çalışanlar, bir modelin öğrenebileceği en değerli şeylerden biri olan organizasyonun nasıl işlediğini dış bir ajana öğretiyorlar. Kurumsal sözleşmeler genellikle dahili veriler üzerinde eğitimi yasaklar, ancak davranışsal izler ve süreç bilgisi hakkındaki korumalar çok daha belirsizdir.
Bir kişinin yargısı, işe başladığından daha değerli olmalıdır. Modeller insan yargısından öğrenerek daha akıllı hale gelir. Peki insanlar da daha akıllı oluyor mu?
Her iş akışı aynı korumayı hak etmez. Rutin operasyonlar varsayılan olarak şeffaf kalabilir. İstisnalar ise başka bir hikayedir: Senaryoyu göz ardı edip anlaşmayı yine de kapatan satış temsilcisi, hiçbir kılavuzda yer almayan mühendislik çözümü. Bu, döngünün üretken kısmıdır ve egemenlik iddiaları, sonucu değiştiren karar mekanizmasına aittir.
Bireysel düzeyde: Değer kazanımı (appreciation). Bu kelimeyi bir yatırımcının kullandığı anlamda kullanıyorum. Bir kişinin yargısı, işten ayrıldığında işe başladığından daha değerli olmalıdır. Modeller insan yargısından öğrenerek daha akıllı hale gelir. Peki insanlar da daha akıllı oluyor mu? İlişki sona erdiğinde her iki taraf neyi elinde tutuyor? Burası en az netlik kazanan katmandır.
Yapay zeka, kullanıcıdan doğruluk, kalite veya iyileştirme önermesini istemeden doğrudan yanıtlar sunan bir 'koltuk değneği yazılımına' dönüşebilir. Bir çalışmada, ChatGPT'yi çalışma yardımı olarak kullanan üniversite öğrencileri, geleneksel çalışma yöntemlerine bağlı kalan öğrencilere kıyasla 45 gün sonraki sürpriz bir kalıcılık testinde önemli ölçüde daha düşük puanlar almıştır.
Bilişsel Pasaport: İnsanın Yargısını Korumak
Araç doğru yanıtları vermiştir ancak öğrenmeyi kalıcı kılan hatırlama sürecini ortadan kaldırmıştır. Ancak koltuk değneği bir tasarım seçimidir. Ayrı bir çalışmada Harvard araştırmacıları, öğrenciler çözüme ulaşana kadar yanıtları saklayan bir yapay zeka öğretmeni test etmiştir. Bu öğrenciler derslerden hemen sonraki testlerde daha yüksek öğrenme kazançları elde etmiştir.
Bir 'bilişsel pasaport' bu çizgiyi yeniden çizebilir: Anlaşmaları, belgeleri ve gizli süreçleri hariç tutarak, bir kişinin problemlere nasıl yaklaştığına dair taşınabilir, anonimleştirilmiş bir kayıt.
Teknolojinin insanları işlerinde daha iyi hale getirmesi gerektiğine inanıyorum. Bu, 2017 Koçluk Ağları tezimizin sonraki katmanıdır. İlk nesil, en iyi performans gösterenlerin hamlelerini toplar ve diğer herkese yayar. Bir sonraki nesil ise insanların yeni hamleler icat etmesine yardımcı olmalıdır ve bu da sürtünme gerektirir.
İnsanlar ayrıca rollerinden getirdiklerinden daha fazlasıyla ayrılmalıdır. Bir doktor hastaneden ayrılır ve klinik yargısını yanında götürür. Hastane ise hasta kayıtlarını ve protokollerini saklar. Yapay zeka, bir kişinin çıktısını ve yaklaşımını aynı anda yakalayarak bu çizgiyi bulanıklaştırır.
Bir 'bilişsel pasaport' bu çizgiyi yeniden çizebilir: Anlaşmaları, belgeleri ve gizli süreçleri hariç tutarak, bir kişinin problemlere nasıl yaklaştığına dair taşınabilir, anonimleştirilmiş bir kayıt. Şirket öğrendiklerini saklar. Kişi ise kendi yargısını elinde tutar.
Satış Temsilcisi Örneği ve Kurumsal Ayrışma
Rolünden ayrılan kurumsal bir satış temsilcisini ele alalım. Dört yıl boyunca şirketinin yapay zekası binlerce görüşmesini ve kapattığı her anlaşmayı izledi. Şirketin fiyatlandırmasını, müzakereleri nasıl yürüttüğünü, hangi hesapların devrede olduğunu ve kıdemli liderleri ne zaman devreye soktuğunu öğrendi.
Amaç insan düşüncesini daha güçlü, dayanıklı ve taşınabilir kılmak olmalıdır. İnsanlar çalışmaya devam edecektir.
Ayrıldığında görüşmeler, kayıtlar, müşteri listeleri, müşteriler, anlaşma detayları ve fiyatlandırma işletmede kalır. Ondan öğrendikleri dahil koçluk modeli de aynı şekilde kalır.
Pasaportu ise onun kalıplarını ve işinin şeklini kaydeder; örneğin senaryodan ne zaman saptığını veya sistemi ne zaman geçersiz kılıp haklı çıktığı anları gösterir. Alıcının son çeyreğiyle ilgili bir soruyla başlama alışkanlığı onundur. Şirketinin yüzde 18'lik indirim tabanı ise değildir.
Şimdi yapay zekayı insan emeğini azaltmak için kullanma yönünde bir cazibe var. Bu yanlış hedeftir. Amaç insan düşüncesini daha güçlü, dayanıklı ve taşınabilir kılmak olmalıdır. İnsanlar çalışmaya devam edecektir. Soru, ürettikleri zekanın kendi lehlerine mi bileşik getiri sağlayacağı yoksa kontrol etmedikleri bir platforma mı akacağıdır.
Geleceğin Yapay Zeka Ekonomisinde İnsan Unsuru
Cevabın hâlâ bir seçenek olduğu erken bir dönemdeyiz. McKinsey'in bir araştırması, organizasyonların yüzde 89'unun yapay zekayı en az bir iş fonksiyonunda kullandığını, ancak yalnızca yüzde 44'ünün onu ölçeklendirmeye başladığını ortaya koydu. Bu durum, gerçek bir seçim ilkesinin en büyük etkiye sahip olduğu tam da o kritik penceredir.
Yapay zeka çağında insanlar tek mutasyon motorudur. Yapay zeka sabit kurallara sahip herhangi bir oyunda ustalaşabilir. Piyasalar ise kuralları sürekli değiştirmektedir ve yeni oyunu ilk görenler insanlardır.
Nerede durduğum konusunda net olmak gerekirse: Emergence Capital bir risk sermayesi firmasıdır ve desteklediğimiz şirketler daha değerli hale geldiğinde para kazanırız. Ancak kurumsal yazılım sektöründe geçirdiğim yirmi yılı aşkın süre bana, teknolojinin en çok, düşüncesi sistemi besleyen kişilerin sisteme güvendiğinde değer yarattığını öğretti.
Bu çerçevenin kurucular, araştırmacılar, hukukçular ve emek sesleri tarafından stres testine tabi tutulması gerekiyor ve bazı konularda yanılmayı bekliyorum.
Yapay zeka çağında insanlar tek mutasyon motorudur. Yapay zeka sabit kurallara sahip herhangi bir oyunda ustalaşabilir. Piyasalar ise kuralları sürekli değiştirmektedir ve yeni oyunu ilk görenler insanlardır. Bugünün yapay zeka sistemlerini eğiten yargı sahipleri, ham madde olarak değil, ortak yazar olarak ele alınmalıdır.
