Bir videonun orijinal ya da yapay zeka ürünü olduğunu nasıl anlayacağız?

Samantha Kubota – Microsoft yazarı

Sosyal medya akışlarımızda sıkça görmeye alıştığımız videolar var; garip şekilde yetişkinlere özgü şeyler söyleyen sevimli bebekler, son derece karakter dışı açıklamalar yapan kamuya mal olmuş kişiler, gerçek olamayacak kadar abartılı doğa fotoğrafları… Fakat yapay zekâ çağında görmek her zaman inanmak anlamına gelmiyor.

Deepfake videolar; haberlere, seçimlere, markalara ve günlük etkileşimlere olan güveni tehdit ederek bizi neyin gerçek olduğunu sorgulamaya yöneltiyor. Neyin gerçek, neyin manipüle edilmiş olduğunu belirlemek, bugün yayımlanan Media Integrity and Authentication: Status, Directions, and Futures adlı Microsoft raporunun konusu. Çalışma, günümüzde kullanılan doğrulama yöntemlerini değerlendirerek onların sınırlamalarını daha iyi anlamayı, güçlendirilmeleri için olası yolları araştırmayı ve insanların çevrim içi tükettikleri içerikler hakkında bilinçli kararlar vermesine yardımcı olmayı amaçlıyor.

Yazarlar, dijital aldatmacayı engellemenin tek bir çözümü olmadığı sonucuna varıyor. İçerik kökeni (provenance), filigranlama (watermarking) ve dijital parmak izi gibi yöntemler; içeriği kimin oluşturduğu, hangi araçların kullanıldığı ve değiştirilip değiştirilmediği gibi faydalı bilgiler sunabiliyor.

Microsoft’ta Baş Bilim Sorumlusu Ofisi’nde Bilim ve Teknoloji Politikası Direktörü olan Jessica Young, “İnsanlar, medyanın kökeni ve geçmişi gibi bilgilere sahip olmadıklarında ya da bilgi düşük kaliteli veya yanıltıcı olduğunda medya tarafından aldatılabilir. Rapora göre amaç, kamuoyunun güvenebileceği daha yüksek güvenceye sahip içerik kökeni bilgilerini sunmak için bir yol haritası sağlamak” diyor.

Deepfake’ler daha yıkıcı hale geldikçe ve ABD dâhil çeşitli ülkelerde içerik kökenine ilişkin mevzuatlar bu yıl içinde insanların içerikleri doğrulamasına yardımcı olacak yeni yollar sundukça, insanların daha yüksek kaliteli içerik göstergelerini tanımasına yardımcı olmak giderek daha önemli hale geliyor. Medya kökeni teknolojisi yıllardır gelişiyor. Microsoft bu teknolojinin öncülerinden biri olarak 2019’da bu alanda çalışmalar başlattı ve 2021’de medya özgünlüğünü standartlaştırmak için Coalition for Content Provenance and Authenticity (C2PA) oluşumunun kurucu ortaklarından biri oldu.

Çalışmayı başlatan neydi?

Çalışmanın eş başkanlarından Young, bunun ne anlama geldiğini daha ayrıntılı şekilde açıklıyor: “Motivasyon iki yönlüydü. Birincisi, şu anda içinde bulunduğumuz dönemin farkına varmamız. Üretken yapay zekâ yeteneklerinin giderek daha güçlü hale geldiğini biliyoruz. Kamera tarafından çekilmiş içerikler gibi gerçek içerikleri, gelişmiş deepfake’lerden ayırt etmek giderek zorlaşıyor. Bunun sonucunda da, bir içeriğin yapay zekâ tarafından üretilip üretilmediğini ya da manipüle edilip edilmediğini açıklayan ve doğrulayan teknolojilere yönelik ilgi ve gereksinimlerde şu anda büyük bir artış var. Uzun süredir bu noktaya doğru ilerlediğimizin farkındaydık ve bugün bu teknolojilerin nasıl kullanıldığı ve nasıl anlaşıldığına bağlı olarak, nihayetinde zarardan çok fayda sağlamasını güvence altına almak istiyoruz.”

Young bu makalenin ayrıca içerik üreticileri, teknoloji geliştiricileri, politika yapıcılar ve diğer paydaşlar da dâhil olmak üzere daha geniş medya bütünlüğü ve doğrulama ekosistemini bilgilendirmeyi amaçladığını; şu anda nelerin mümkün olup olmadığını ve gelecekte bunun nasıl geliştirilebileceğini anlamaya yardımcı olmayı hedeflediğini de sözlerine ekliyor.

Çalışma neyi başardı ve neler öğrendiniz?

Rapor, medyanın özgünlüğüne duyulan güveni artırmak için bir yol haritası ortaya koyuyor. Yazarlar, medya bütünlüğü yöntemlerinin çeşitli zayıflıklarını azaltmak için “yüksek güvenli doğrulama” (high-confidence authentication) olarak adlandırdıkları bir yön öneriyor.

Young’a göre, C2PA içerik kökeni bilgisinin fark edilmeyen bir filigranla ilişkilendirilmesi, bir medyanın kökeni hakkında görece yüksek güven sağlayabilir. Ancak raporda pek çok çekince de bulunuyor. Örneğin kameralar gibi geleneksel çevrim dışı cihazlardan gelen köken bilgisi, genellikle kritik güvenlik özelliklerinden yoksun olduğu için daha kolay değiştirilebildiğinden daha az güvenilir olabiliyor.

Young bu konu için “Her saldırıyı önlemek ya da bazı platformların köken sinyallerini kaldırmasını engellemek mümkün değil. Bu nedenle asıl zorluk, güçlü güvenlik barındıran en güvenilir göstergeleri nasıl ortaya çıkaracağımızı ve gerektiğinde kurtarma imkânı sağlayan ya da manuel dijital adli analiz çalışmalarını destekleyen ek yöntemlerle bunları nasıl güçlendireceğimizi belirlemek.” diyor.

Bu çalışma diğerlerinden neden farklı?

Young, çalışmalarının doğrulama için kullanılan üç yönteme ilişkin yeterince incelenmemiş iki düşünce hattını araştırdığını söylüyor. Bunlardan ilki, sosyoteknik saldırılar olarak tanımlanıyor. Bu saldırılarda doğrulama süreci sırasında içerik kökeni bilgisi veya medyanın kendisi manipüle edilerek gerçek içerik sentetik gibi gösterilebiliyor ya da sahte içerik gerçekmiş gibi sunulabiliyor.

Young şöyle bir örnek veriyor: “Diyelim ki küresel bir spor etkinliğine ait gerçek bir görüntü görüyorsunuz ve kalabalığın yüzde 80’i ev sahibi takımı destekliyor. Deplasman takımı ise çevrimiçi bir tartışmaya girip ‘Hayır, o kalabalığın tamamı sahte’ diyor. Oysa birisi fotoğrafın köşesindeki bir kişiye küçük ve önemsiz bir düzenleme yapabilir ve mevcut yöntemler bunu yapay zekâ tarafından üretilmiş olarak değerlendirebilir, kalabalığın büyüklüğü gerçekte doğru olsa bile. Yani aslında özgünlüğü desteklemesi gereken bu yöntemler, gerçek yerine sahte bir anlatıyı güçlendirmiş olur. Dolayısıyla farklı doğrulayıcıların nasıl çalıştığını bilerek, çok küçük değişiklikler yoluyla bile kamuoyunun göreceği sonuçları manipüle edip insanları içerik hakkında yanıltabilirsiniz. İkinci önemli konu ise C2PA’nın içerik kimlik bilgilerini daha dayanıklı hale getirme çalışmalarına dayanıyor ve aynı zamanda güvenilirlik konusunu ele alıyor. Bana göre araştırmanın özellikle yenilikçi olduğu nokta burası. İçerik kökeni bilgilerinin farklı ortamlarda — yüksek güvenlikli sistemlerden daha az güvenli çevrimdışı cihazlara kadar — nasıl eklenebileceğini ve korunabileceğini ve bunun güvenilirlik açısından ne anlama geldiğini inceledik.”

Dijital medyayı doğrulamak neden bu kadar zor?

Medyayı doğrulamanın karmaşık bir iş olduğunu çünkü herkese uyan tek bir çözümün bulunmadığını belirten Young, “İçerebilecekleri sinyaller bakımından farklı sınırlamaları ve kendilerine özgü avantajları olan farklı formatlar var. Görüntüler, sesler, videolar — metinleri saymıyorum bile, onların bambaşka zorlukları var — ve bu çözümlerin bu alanlarda ne kadar güçlü uygulanabileceği konusu her birinde farklılık gösteriyor. Öte yandan uygun şeffaflık düzeyi konusunda da farklı gereksinimler ve görüşler var. Bazı durumlarda kullanıcılar kişisel bilgilerinin medyanın dijital köken bilgisine dahil edilmesini istemeyebilir; diğer durumlarda ise içerik üreticileri veya sanatçılar atıf yapılmasını ve bilgilerinin isteğe bağlı olarak dahil edilmesini isteyebilir. Dolayısıyla köken bilgisine nelerin gireceği konusunda farklı gereksinimler ve değerlendirmeler mevcut ve güvenlik alanında olduğu gibi hiçbir çözüm kusursuz değil. Bu yüzden tüm yöntemler birbirini tamamlar, ancak her birinin kendine özgü sınırlamaları vardır.” diyor.

Bundan sonra sırada ne var?

Young’a göre yapay zekâ tarafından oluşturulan veya düzenlenen içeriklerin yaygınlaşmasıyla birlikte, gerçek içeriklerde güvenli köken bilgisinin kullanımı giderek daha önemli hale geliyor. Yayıncılar, kamuya mal olmuş kişiler, hükümetler ve işletmeler paylaştıkları içeriklerin özgünlüğünü doğrulamak için güçlü nedenlere sahip. Örneğin bir haber kuruluşu bir etkinlikte fotoğraf çektiğinde, bu görüntülere güvenli köken bilgisi eklemek izleyicilere içeriğin güvenilir olduğunu göstermeye yardımcı olacaktır.

Young konuyla ilgili şöyle diyor: “Hükümet kurumları da resmî belgelerinin veya medyalarının kamu yararını ilgilendiren konularda güvenilir bilgi olduğunu halkın bilmesinde çıkar sahibidir. Meşru amaçlarla yapılan yapay zekâ düzenlemeleri medyada ‘giderek daha yaygın’ hale geldikçe, güvenli köken bilgisi ortalama bir okuyucunun veya izleyicinin bu içeriği hemen sahte ya da yanıltıcı olarak reddetmesini önlemek için önemli bir bağlam sağlayabilir. Endüstri ve düzenleyiciler için, bu alanda kullanıcı araştırmalarının devam etmesinin ne kadar önemli olduğunu özellikle vurguluyoruz. Amaç, bu bilgilerin kamuya daha tutarlı ve faydalı şekilde gösterilmesini, böylece pratikte gerçekten anlamlı ve kullanışlı olmalarını sağlamak. Elimizde bize yardımcı olabilecek sınırlı sayıda teknoloji var ve bunların yanlış anlaşılma veya yanlış kullanım nedeniyle ters etki yaratmasını istemiyoruz.”

Daha fazla bilgi için Microsoft Research Blog’a göz atabilirsiniz.