TeknolojiYapay Zeka

İçerik oluşturmanın geleceği: Deepfake

Yapay zeka tarafından oluşturulmuş deepfake videoların haber, eğlence ve eğitim gibi sektörlerde kullanımı hızla artıyor.

Birkaç ay önce, Güney Kore’deki milyonlarca TV izleyicisi en son haberleri takip etmek için MBN kanalını izliyordu. Saat başında, haber spikeri Kim Joo-Ha günün manşetlerini sunmaya başladı. Sunduğu haberler ise 2020 yılının son günlerindeki gelişmeler, koronavirüs ve benzeri konuları içeriyordu.

Ancak bu bültenin diğerlerinden önemli  bir farkı vardı: Kim Joo-Ha aslında ekranda olmadığı için gerçek değildi. Sunucu aslında sesini, jestlerini ve yüz ifadelerini mükemmel bir şekilde yansıtmayı amaçlayan, bilgisayar tarafından oluşturulmuş bir kopya olan “deepfake” bir versiyonuyla değiştirilmişti.

BBC’nin haberine göre, izleyicilere bunun olacağı konusunda önceden bilgi verilmişti. Yine de Güney Kore medyası, bu yayından sonra karışık bir yanıt verdi. Bazı insanlar bunun ne kadar gerçekçi olduğuna şaşırırken diğerleri gerçek Kim Joo-Ha’nın işini kaybedebileceğinden endişelendiklerini söyledi.

MBN, bazı son dakika haberleri için deepfake’i kullanmaya devam edeceğini söylerken yapay zeka teknolojisinin arkasındaki firma – Güney Koreli Moneybrain – Çin ve ABD’deki diğer medya şirketleriyle iletişime geçtiklerini duyurdu.

Çoğu insan deepfake’i düşündüğünde, ünlülerin sahte videolarını hayal ediyorlar. Geçen hafta Tom Cruise’un böyle sahte – ama çok gerçekçi – bir videosu TikTok’ta göründükten sonra dünya çapında manşetlere taşındı.

Deepfake kelimesini çevreleyen olumsuz çağrışımlara rağmen (insanlar genellikle “sahte” kelimesiyle ilişkilendirilmek istemezler), bu teknoloji ticari olarak giderek daha fazla alanda kullanılmaya başlandı.

İşini güzel yapan kontrollü bir yapay zeka tarafından oluşturulmuş bu videoların teknolojinin giderek daha karmaşık hale gelmesiyle birlikte haber, eğlence ve eğitim gibi sektörlerde kullanımı hızla artıyor.

Bu teknolojiyi ticari olarak ilk benimseyen şirketlerden biri, küresel reklamcılık şirketi WPP ve iş danışmanlığı şirketi Accenture gibi şirketlere yapay zeka destekli kurumsal eğitim videoları geliştiren Londra merkezli Synthesia oldu. Synthesia CEO’su ve kurucu ortağı Victor Riparbelli, “İçerik oluşturmanın geleceği budur.” diyor.

Synthesia’nın sistemini kullanarak yapay zeka tarafından oluşturulmuş bir video üretmek için birkaç avatar arasından seçim yapıp, söylemelerini istediğiniz kelimeyi yazmanız yeterli oluyor. Riparbelli, bu teknoloji yardımı ile küresel firmaların kurum içi eğitim kurslarında kullanılmak üzere farklı dillerde çok kolay bir şekilde videolar hazırlanabileceği anlamına geldiğini söylüyor: “Kuzey Amerika’da 3.000 depo çalışanınız olduğunu varsayalım. Bazıları İngilizce konuşuyor, ancak bazıları İspanyolcaya daha aşina olabilir. Karmaşık bilgileri onlara iletmeniz gerekiyorsa, dört sayfalık bir PDF harika bir yol değildir. İngilizce ve İspanyolca olarak iki veya üç dakikalık bir video yapmak çok daha iyi olur. Bu videoların her birini tek tek kaydetmeniz gerekiyorsa, bu muazzam bir iştir. Şimdi bunu [küçük] prodüksiyon maliyetleri için yapabiliriz ve birisinin senaryoyu yazması ne kadar sürer. Bizim teknolojimiz bugün kullanılıyor.”

Deepfake’leri izleyen ABD siber güvenlik şirketi ZeroFox’un Baş Teknoloji Sorumlusu Mike Price, ticari kullanımlarının “yıldan yıla önemli ölçüde arttığını, ancak kesin rakamların tespit edilmesinin zor olduğunu” söylüyor. Bununla birlikte, ABD’li bir yapay zeka teknoloji sağlayıcısı olan Veritone’un CEO’su Chad Steelberg, kötü niyetli deepfake’ler hakkındaki artan endişenin, teknolojinin meşru, ticari kullanımına yapılan yatırımı geciktirdiğini belirtiyor. Steelberg, “Deepfake terimi, sektördeki sermaye yatırımı açısından kesinlikle olumsuz bir tepki alıyor. Medya ve tüketiciler, haklı olarak, ilgili riskleri açıkça görebiliyor. Bu, şirketlerin ve yatırımcıların teknolojiye girmesini kesinlikle engelliyor.” diyor.

Kullanıcıların farklı bir karakter veya kişinin sesini yaratmasına olanak tanıyan bir yapay zeka firması olan Modulate’in CEO’su Mike Papas, daha büyük ticari medya sektöründeki firmaların “etiğe gerçekten önem verdiğini” söylüyor ve ekliyor: “İnsanların içine soktuğu düşünce derinliğini görmek şaşırtıcı. Bu, yatırımcıların da bunu önemsemesini sağladı. Etik politikaları ve bunun hakkında nasıl düşündüğünüzü soruyorlar.”

Newcastle Hukuk Fakültesi’nde hukuk, inovasyon ve toplum profesörü olan Lilian Edwards, deepfake’ler konusunda uzman. Teknolojinin ticari kullanımıyla ilgili tam olarak ele alınmayan bir sorunun, videoların haklarının kime ait olduğunu söylüyor: “Örneğin, aktör Steve McQueen veya rapçi Tupac gibi ölü bir kişinin yüzü bu işler için kullanılırsa, ailelerinin haklara sahip olup olmaması ve bundan gelir elde etmesi konusunda devam eden bir tartışma var.”

Virginia Üniversitesi fahri uygulamalı etik profesörü Deborah Johnson, kısa süre önce Deepfakes Hakkında Ne Yapmalı? başlıklı bir makale yazdı. Deborah Johnson şunları söylüyor: “Deepfake’ler, kurumlara ve görsel deneyime olan güveni baltalayan daha büyük yanlış bilgilendirme sorununun bir parçası – artık çevrimiçi gördüklerimize ve duyduklarımıza güvenemiyoruz. Etiketleme muhtemelen deepfake’lere karşı en basit ve en önemli yöntem – eğer izleyiciler izledikleri şeyin uydurma olduğunun farkındaysa, aldatılma olasılıkları daha düşüktür.”

Oxford Üniversitesi’nde yapay zeka alanında kıdemli bir araştırma görevlisi olan Prof Sandra Wachter, deepfake teknolojisinin “ileriye doğru yarıştığını” söylüyor. “Geçen hafta Tom Cruise videosunu izlediyseniz, teknolojinin ne kadar iyi hale geldiğini görebilirsiniz” diyen Wachter, bunun ABD Eski Başkanı Obama’nın dört yıl önce yayınlanan videosundan çok daha gerçekçi olduğunu belirtiyor ve devam ediyor: “Teknolojiden çok fazla korkmamalıyız ve buna incelikli bir yaklaşım olmalı. Evet, nefret söylemi ve intikam pornosu gibi kötü ve tehlikeli şeyleri sınırlandıracak yasalar olmalı. Bireyler ve toplum bu sayede korunabilir. Ancak hiciv veya ifade özgürlüğü için deepfake viedolarını tamamen yasaklamamalıyız. Ve teknolojinin artan ticari kullanımı, filmleri farklı dillere dönüştürmek veya ilgi çekici eğitim videoları oluşturmak gibi alanlarda çok umut verici sonuçlar almamızı sağlıyor.”

İlgili Makaleler

Başa dön tuşu