Deepfake, bir videoda yer alan kişiye ait görüntünün, yapay sinir ağları kullanılarak bir başka kişinin görüntüsü ile yer değiştirildiği bir medya türü. Yapay zeka yoluyla belirli bir görüntüyü ayırt edilemeyecek şekilde bir başka görüntünün üzerine yerleştirmek olarak da tanımlamak mümkün. Deepfake, adını daha çok internetin karanlık tarafı olarak bilinen deepweb ile duyurmuş, hatta kamuoyunca tanınan birçok kişinin manipüle edilmiş görüntülerinin hazırlandığı videolarla oldukça ses getirmişti.
Deepfake bu kez iki multimedya sanatçısının elinde bir sosyal deneyin aracı olarak kullanıldı. Francesca Panetta ve Halsey Burgund 2019 yılında provakatif bir fikri projeleştirmek düşüncesiyle yola çıktılar ve ayrı ayrı büyük ilerlemeler kaydeden deepfake video ve deepfake ses teknolojilerini bir proje kapsamında birleştirmeye karar verdiler. Amaçları teknolojinin nasıl suistimal edilebileceğini insanlara göstermekti.
Deneyi hayata geçirmek için 1969’da Apollo’nun Ay’a fırlatılması gibi tarihsel önemi büyük olan bir olayı seçtiler ve buna ilişkin alternatif bir tarih yaratmak üzere yola çıktılar. Tahmin edileceği üzere fırlatmadan önce dönemin ABD Başkanı Richard Nixon’ın danışmanları başkanın yapacağı konuşmanın metnini iki farklı senaryoya göre kaleme almıştı. Biri hepimizin bildiği zafer metni, diğeri Ay’da yaşanacak olası bir felaket senaryosuna ilişkin yapılacak konuşmanın metni. Apollon’un aya fırlatılması ve aya ilk adım hiçbir felaket ile sonuçlanmadan tarihi bir olay olarak hafızalarda yer etti ve kriz yönetimi metninin okunmasına gerek kalmadı. Ta ki Panetta ve Burgund’un deepfake yardımıyla gerçekleştirdiği sosyal deney projesi hayata geçirilene kadar.
MIT’nin Sanallık Merkezi Kreatif Direktörü Panetta ve yine MIT’nin Open Documentary Lab departmanında çalışan Burgund deney için iki AI (Yapay Zeka) şirketi ile ortak oldular. Canny AI projenin deepfake video ayağı ile ilgilenirken Respeecher şirketi deepfake ses teknolojisi kısmı ile ilgilenecekti. Geriye Nixon’ın ağız hareketlerini birebir taklit edecek bir oyuncu bulmak kalmıştı.
Oyuncu Bulunuyor ve Oyun Başlıyor
Panetta ve Burgund’un yaptığı ilk şey, her iki şirkete de deepfake’in gerçekçi olması için ne tür bir oyuncuya ihtiyaç duyduklarını sormak oldu. Canny AI, video diyaloglarının değiştirilmesinde uzman bir şirket ve orijinal çekimde yer alan kişinin ağzını manipüle etmek için bir oyuncunun ağız hareketlerini kullanıyor. Oyuncu, ortaya çıkan deepfake videosunda yüzü asla görünmeyecek bir kuklacı olarak hizmet ediyor ve bu yüzden görünümü, cinsiyeti, yaşı ve etnik kökeninin bir önemi bulunmuyor.
Sese gelince, bu noktada oyuncunun özellikleri biraz daha önem kazanıyor. Bu projede bir sesi diğerine dönüştürme işlevini yerine getiren Respeecher şirketi, oyuncunun taklidi yapılacak kişinin aksanına benzer bir aksana sahip olmasının işleri kolaylaştırdığını belirtiyor. Yapılan görüşmelerden sonra Oyuncu Lewis D. Wheeler ile anlaşılıyor. Wheeler sesi ve yüzünü Nixon’ınki ile eşleştirmek için günlerce stüdyoda deepfake algoritması üzerinde çalışıyor ve Nixon’ın ses parçalarını dinleyip defalarca tekrar ediyor. Yüzlerce ses parçası olduğundan bahseden Wheeler, “her biri sadece saniyeler süren birçoğu tam bir kelime bile olmayan ses parçalarıydı” diye anlatıyor.
Bu ses parçaları Nixon’ın çeşitli konuşmalarından alınmış ona ait sesler. Üzerinde çalışılan konuşma metni bir felaketten bahsedeceği için ses parçalarının büyük kısmı Nixon’ın istifa konuşmasından alınmış. Wheeler’ın işi her bir ses parçasını gerçek tonlama ve ritme uydurarak kendi sesi ile yeniden kaydetmek. Bu küçük parçalar daha sonra aktörün sesini Nixon’unki ile eşleştirmek üzere Respeecher’ın algoritmasına eklendi. Oldukça yorucu ve zahmetli bir iş olduğundan bahseden Wheeler “Aynı zamanda gerçekten ilginçti” diyor.
Ve ortaya sahte olduğu asla anlaşılmayan Nixon’a ait alternatif bir tarihi konuşma çıkıyor:
“Huzurla Ay’ı keşfetmek için giden adamlar, huzur içinde yatmak üzere Ay’da kalacaklar. Bu cesur adamlar, Neil Armstrong ve Edwin Aldrin, kurtarılmaları için umut olmadığını biliyorlar. Ancak fedakarlıklarında insanlık için umut olduğunu da biliyorlar.”
İlk yorum yapan olun