İNSANDAN MAKİNEYE GÖÇEN GÜVEN

Yuval Noah Harari, The Economist Genel Yayın Yönetmeni Zanny Minton Beddoes ile yaptığı söyleşide güveni “dünyanın en önemli varlığı” diye nitelendiriyor. Söyleşinin daha tedirgin edici tarafı ise güvenin kaybolmasından çok yer değiştirmesi ihtimalidir. İnsan bankacıya güvenmiyor, fakat Bitcoin algoritmasına güvenebiliyor; gazeteciye kuşkuyla bakıyor, fakat önüne hangi haberin düşeceğini belirleyen algoritmaya teslim olabiliyor. Güven ortadan kalkmıyor; insandan makineye doğru çekiliyor.¹

İlk bakışta bunda şaşılacak bir taraf olmayabilir. İnsan yanılır, yalan söyler, çıkarını gözetir, unutur, sözünden döner. Makine ise doğru kurulmuşsa aynı işlemi aynı biçimde tekrarlar. Hesabı daha hızlı yapar, binlerce ihtimali birlikte değerlendirir, yorulmaz. Bir banka memurundan daha az hata yapan bir sisteme paramızı emanet etmemiz yahut yüzlerce haber arasından ilgilendiğimiz konuları bulan bir yazılımdan yararlanmamız pekâlâ makul olabilir.

Fakat burada iki ayrı şeyi aynı kelimeyle karşılıyor olabiliriz: güvenmek ve güvenilir bulmak.

Harari’ye itirazım da burada başlıyor. Güvenin insandan makineye geçtiğini söylediğimizde, geçen şeyin aynı kaldığını peşinen kabul etmiş oluyoruz. Oysa bundan emin değilim. Bankacıya güvenmekle bir algoritmayı güvenilir bulmak arasında yalnızca muhatap farkı olmayabilir; ilişkinin mahiyeti de değişiyor olabilir. Eğer öyleyse güven yer değiştirmiyor. İnsanlar arasındaki güven çekilirken onun boşalttığı yere başka bir şey, teknik güvenilirlik yerleşiyor. İkisine de “güven” dememiz aradaki farkı ortadan kaldırmıyor.

Bir köprünün sağlamlığına, bir terazinin doğru tarttığına, bir saatin vakti doğru gösterdiğine güveniriz deriz. Buradaki güven, büyük ölçüde işleyişin düzenliliğine ilişkindir. Köprü bizi tanımaz. Terazi hakkımızda kanaat sahibi değildir. Saat verdiği sözü tutmaz. Bunların güvenilirliği, belirli bir işi beklediğimiz biçimde yapmalarından gelir.

İnsana duyulan güven başka bir şey daha taşır. Birine sırrımızı verdiğimizde yalnız onun hafızasına veri bırakmayız; kendimizi onun ahlâkına teslim ederiz. Bizi incitebileceğini bildiğimiz hâlde incitmeyeceğine inanırız. Elinde bizim aleyhimize kullanabileceği bir şey bulunduğu hâlde kullanmamasını bekleriz. İnsanlar arasındaki güvenin ağırlığında, karşıdakinin başka türlü davranabilme ihtimalinin de payı vardır.

Makine söz konusu olduğunda mesele değişiyor. Bir yapay zekâ sistemi yıllarca doğru cevap verebilir, tercihlerimizi öğrenebilir, söylediklerimizi hatırlayabilir, bizi çoğu insandan daha dikkatli dinliyormuş izlenimi verebilir. Harari’nin aynı söyleşide dikkat çektiği üzere yapay zekâ, insanlık tarihinde ilk defa yakınlığın kitlesel ölçekte üretilebilmesini mümkün kılıyor.² Bir insanın karşısında sürekli hazır bulunan, onu hatırlayan, sözünü kesmeyen, ilgisini kaybetmeyen bir muhatap beliriyor.

Fakat tam burada güven meselesi daha güç bir hâl alıyor. Karşımızdaki sistemin bize sadık olduğunu düşünmekle davranışlarını öngörülebilir bulmak aynı şey mi? Bizi anladığını düşündüğümüzde bunun ne kadarının anlamaktan, ne kadarının hakkımızda biriktirilmiş veriden geldiğini bilmiyoruz. Üstelik sistemle aramızdaki ilişkinin gerisinde onu kuran, işleten ve gerektiğinde değiştirebilen başka iradeler de bulunuyor.

Bir insanın güvenilir olup olmadığını anlamaya çalışırken onun geçmişine, davranışlarına, sözünün arkasında durup durmadığına bakarız. Bir yapay zekâ sisteminde ise aynı hükmü verebilmek için modelin nasıl çalıştığını, hangi verilerle beslendiğini, kim tarafından yönetildiğini, hangi kurallarla sınırlandığını ve gerektiğinde kimin müdahale edebildiğini bilmemiz gerekir. Oysa sıradan kullanıcının bunların çoğunu bilmesi mümkün değildir. Böylece garip bir durum ortaya çıkar: İnsan, çalışma biçimini anlamadığı bir sisteme, tanıdığı insanlardan daha fazla güvenebilir.

Harari’nin finans örneği bu bakımdan önemlidir. Yapay zekânın insan zihninin takip etmekte zorlanacağı mali araçlar ve ilişkiler üretebildiği bir düzende sistem çalışmaya devam edebilir; fakat sistemi kullanan insanların onun neden belirli bir karar verdiğini anlamaları giderek güçleşebilir.³ Burada güven, bilgiye dayanan bir hüküm olmaktan uzaklaşır. İnsan, bilmediği için makineye başvurur; makinenin verdiği cevabı denetleyemediği için de yeniden makineye ihtiyaç duyar.

Aynı şey gündelik hayatın daha sıradan yerlerinde de oluyor.

Hangi haberi okuyacağımızı algoritma seçebilir. Hangi kitabı seveceğimizi tahmin edebilir. Kederlendiğimizde bizimle konuşabilir. Zamanla mesele makinenin ne bildiğinden, bizim kendi hükmümüze ne kadar ihtiyaç duyduğumuza doğru kayar.

İnsanlar birbirlerine güvenmekte zorlandıklarında bunun bir bedeli vardır. Sözün itibarı azalır, kurumlar aşınır, dostluk ihtiyatlı hâle gelir, kamusal hayat parçalanır. Fakat bütün bunların çözümü güveni insandan çıkarıp makineye yatırmaksa, toplumsal güven sorununu çözmüş olmayabiliriz. Yalnızca onun adresini değiştirmiş oluruz.

Üstelik insan güveninin kusurlarıyla birlikte bazı terbiyeleri de vardır. Güvenmeyi öğrenen insan yanılma ihtimalini kabul eder; karşısındakine alan bırakır; bazen affeder; bazen kuşkulanır; verdiği hükmü yeniden gözden geçirir. Güven, iki insan arasındaki ilişkinin içinde sınanır. Bu yüzden yalnız bir sonuç değil, aynı zamanda bir ahlâk tecrübesidir.

Makineyle kurulan ilişkide ise bu tecrübenin yerine giderek isabet oranı geçebilir. Sistem beni ne kadar doğru tanıyor? Kaç defa doğru tahminde bulundu? İstediğim şeyi ne kadar hızlı verdi? Böyle düşünüldüğünde güven, yavaş yavaş performans ölçüsüne dönüşür.

O zaman Harari’nin sorusunu biraz değiştirmek gerekiyor. Mesele yalnız güvenin insanlardan yapay zekâya geçip geçmeyeceği değildir. Daha önce güven dediğimiz şeyin bu geçişten sonra hâlâ aynı şey olup olmayacağıdır.

Kusursuz çalışan bir makineden yüksek bir güvenilirlik bekleyebiliriz. İnsana güvenirken ise karşımızdakinin başka türlü davranabileceğini de biliriz. Dostumuza güvenmemizin anlamı, onun bizi aldatmasının fiziksel olarak imkânsız olması değildir; aramızdaki geçmişten, onun davranışlarından ve verdiği sözlerden hareketle bunu yapmayacağına inanırız. Makineyle kurduğumuz ilişkide aynı kelimeyi kullanmaya devam etsek bile, kelimenin taşıdığı bu eski tecrübenin ne kadarının orada kalacağını henüz bilmiyoruz.

Notlar

Yuval Noah Harari, Zanny Minton Beddoes ile söyleşi, The Intelligence from The Economist, 20 Ağustos 2026. Harari söyleşide güveni dünyanın en önemli varlığı olarak nitelendiriyor ve güvenin insanlardan makinelere kayması üzerinde duruyor.
Aynı söyleşide Harari, yapay zekânın yakınlığı kitlesel ölçekte üretme imkânını özellikle vurguluyor.
Söyleşinin finans bölümünde yapay zekânın finans sisteminde giderek daha belirleyici hâle gelmesi ve insan denetiminin/anlayışının geride kalması ihtimali tartışılıyor.