Yapay zeka botlarının ve bunların ürettiği 'scam' içeriklerin sayısının artmasıyla internetin giderek “gerçeklikten kopması” endişeleri artıyor.

Online ortamda kimin insan, kimin yapay olduğunun ayırt edilmesinin zorlaşması sorununa değinme amacıyla nisan ayında San Francisco’da bir etkinlik düzenlendi. Etkinlikte Walter Cronkite, Dan Rather, Larry King ve Ronald Reagan gibi isimlerin deepfake görüntüleri izletilerek yapay zekayı ayırt etmenin ne kadar zorlaştığı gösterilmeye çalışıldı.

Söz konusu etkinliğin arkasındaki isimlerden biri ise OpenAI CEO'su Sam Altman'dı. Kısa bir konuşma yapan Altman, bu kez yeni bir ChatGPT sürümü tanıtmadı. Tanıttığı sistem, Altman’ın kurucu ortaklarından olduğu Tools for Humanity adlı girişimin "World" teknolojisiydi.

Konuşmasında internette yakında “insanların ürettiğinden daha fazla yapay içerik olacağını” söyleyen Altman, bu içeriklerle gerçekleri ayırt edebildiğimiz sürece gelecekten korkmayacağını sözlerine ekledi.

Altman'a göre, World sistemi tam da bunu amaçlıyor. Ancak sistem, gerçek insanı yapay zekadan ayırt ederken kullanıcının "gözünü" taramak ve bunun sonunda "insanlık kanıtı" üretmek istiyor.

Göz taramasıyla 'insanlık sertifikası'

World’ün sistemi, gözün renkli kısmı olan iris üzerinden çalışıyor. Parmak izi gibi benzersiz olan iris desenleri taranarak kişinin insan olduğunu kanıtlayan bir dijital bir kimlik -World ID adı verilmiş- oluşturuluyor.

Kullanıcılar ister mobil uygulama üzerinden ister “Orb” adı verilen küresel tarama cihazıyla irislerini okutuyor. Bunun sonucunda oluşturulan kimlik telefonda saklanıyor ve farklı platformlarda doğrulama için kullanılabiliyor.

Kullanıcı cihazın içine bakıyor, sistem iris verisini alıyor ve bunu doğrudan isim ya da adresle ilişkilendirmeden dijital bir kimliğe dönüştürdüğünü iddia ediyor.

Süreç şöyle işliyor:

- Kullanıcı “Orb” cihazına bakıyor
- İris görüntüsü alınıyor
- Bu görüntü matematiksel bir koda (iris hash / iris code) dönüştürülüyor

Şirket kullanıcının irisinin ham görüntüsü saklamadığını, bunun yerine kriptografik bir özet (hash) tutulduğunu ve bu verinin kullanıcının kimliği olan World ID'si ile ilişkilendirildiğini savunuyor.

Şirkete göre, bu kimlik bilgisi de telefonda yerel olarak ve bazı durumlarda şirketin altyapısında doğrulama için saklanabiliyor.

Birçok ülkede yasaklarla karşılaşmasına rağmen sistem ABD merkezli popüler platformlara entegre edilmeye başladı bile. Bu platformlar arasında Tinder ve Zoom da var.

Zoom toplantıları riskte mi?

Online toplantı uygulaması Zoom, sistemi benimsiyor çünkü deepfake saldırıları artık sadece sosyal medyada değil, iş dünyasında da ciddi risk yaratıyor.

Örneğin 2024’te Hong Kong’da bir finans çalışanı, tamamen deepfake görüntülerden oluşan bir toplantıya katıldıktan sonra 25 milyon dolar transfer ederek dolandırılmıştı.

ZME Science'a göre, World’ün Zoom için geliştirdiği sistem, üç katmanlı doğrulama yapıyor: Orb ile alınan yüz verisi, cihazdan alınan anlık selfie ve canlı video görüntüsü eşleştiriliyor. Eğer hepsi tutarsa kullanıcı “doğrulanmış” sayılıyor.
Tinder'da rozet dönemi

Flört uygulaması Tinder'ın sistemi benimsemesinin nedeni de son yıllarda hızla artan yapay zeka destekli dolandırıcılık ve sahte kimlikler. Tinder’daki bot hesaplar, kullanıcıları kandırarak para veya kişisel veri elde etmeye çalışıyor.

ABD’de yalnızca geçen yıl "romantik" dolandırıcılık vakalarının 1 milyar dolardan fazla kayba yol açtığı belirtiliyor. Yapay zeka ise bu dolandırıcılıkları daha inandırıcı hale getiriyor; sahte fotoğraflar, sesler ve hatta gerçek zamanlı sohbetler üretilebiliyor.

Tinder'da doğrulanmış kullanıcılar, profilinde “gerçek insan” olduğunu gösteren bir rozet alıyor. Hatta platform, bu kullanıcıları teşvik etmek için ekstra görünürlük sağlayan ücretli özellikleri de ücretsiz sunmayı planlıyor.

Büyük soru: Ne kadar mahremiyet feda edilecek?

World’ün sunduğu çözüm teknik olarak cazip görünse de ciddi bir mahremiyet tartışmasını beraberinde getiriyor. Kullanıcıların biyometrik verilerini özel bir şirkete vermesi, büyük bir güven gerektiriyor.

Üstelik şirketin geçmişi de bu güveni zorlaştırıyor. Proje ilk etapta kendi kripto parasıyla (WLD) kullanıcı çekmeye çalışmış ve özellikle gelişmekte olan ülkelerde etik dışı veri toplama yöntemleri kullandığı iddialarıyla gündeme gelmişti. Avrupa’da GDPR ihlalleri nedeniyle veri silme kararları alınırken, Kenya gibi ülkelerde faaliyetleri askıya alınmıştı.

2023’te şirket, dünyanın farklı şehirlerine “Orb” adı verilen küresel tarama cihazları yerleştirmişti. Kullanıcılardan irislerini taratmaları istenmiş, hatta bazı durumlarda kayıt olmaları için 50 dolarlık kripto para teşviki sunuldu. Ancak bu “veri karşılığı para” yaklaşımı ciddi tepki çekmişti.

Sistem aslında 2021'de geliştirilmişti. 2022'de yayımlanan bir MIT Technology Review araştırması, World'ün Afrika ve Asya'daki test kullanıcılarını sisteme dahil ederken etik dışı uygulamalara başvurduğunu ortaya çıkarmıştı. Araştırma ayrıca, World'ün göz bebeği taramalarının ötesinde, kalp atışı, nefes alma ve diğer hayati belirtiler de dahil olmak üzere kişisel verileri topladığını ve bunu kullanıcıdan açıkça onay almadan yaptığını göstermişti.

Bunun ardından Kenya, Hindistan, İspanya, Portekiz ve Brezilya gibi ülkeler uygulamayı yasaklamıştı.

18 milyon kişi doğrulandı

Bu arada World, iris taramasının anonim olduğunu ve kullanıcıdan isim ya da adres gibi kişisel bilgiler talep edilmediğini savunuyor. Şirkete göre şimdiye kadar 18 milyon kişi bu sistemle doğrulandı ve toplamda 450 milyon kez kullanıldı.

Rest of the World'e göre, 2025 itibarıyla ABD’de 6 şehirde yaklaşık 7 bin Orb cihazı kuruldu ve birçoğu hâlâ aktif.
Birçok ülkede yasaklanmasına rağmen Orb cihazlarının çzellikle ABD’de daha hızlı ilerlemesinin birkaç nedeni var. ABD'de biyometrik veri düzenlemeleri Avrupa’ya kıyasla daha parçalı ve esnek; kripto para ve veri politikaları eyaletten eyalete değişiyor ve şirketler deepfake ve dolandırıcılık baskısı altında çözüm arıyor

Hatta World yalnızca kimlik doğrulama sunmakla kalmıyor, aynı zamanda şirketlere bu sistemi kullanarak gelirlerini artırabileceklerine dair “yol haritaları” da yayımlıyor. Bu da projenin sadece güvenlik değil, ticari bir altyapı olarak da konumlandığını gösteriyor.

Şirketler bu sistemle sahte hesap ve dolandırıcılık maliyetini düşürürken, kullanıcıların gerçek olduğu kanıtlandıkça daha çok veya daha pahalı reklamlar alabilir hale geliyor.

Son dönemde dünya genelinde hükümetlerin kimlik doğrulama baskısıyla karşılaşan sosyal medya devlerinin neden hiç itiraz etmeden "insanlık kanıtı" sistemlerini benimsediğini bir de bu açıdan düşünmek faydalı olabilir.