Bazı ünlüler neden yapay zeka tabanlı deepfake teknolojisini benimsiyorlar?
Singapurlu aktris, model ve eski radyo DJ’i Jamie Yeo, deepfake olma konusunda hiçbir sorun yaşamıyor. Aslında, bunun için başvuru yaptı.
“Bu biraz Salma Hayek ile olan Black Mirror bölümüne benziyor,” diye şaka yapıyor.
Bayan Yeo. Yeni Charlie Brooker’ın Netflix şovu serisinin yayınlandığı günün ertesinde BBC’ye konuştu. İlk bölümde, kendisinin kurgusal bir versiyonunu canlandıran aktris Salma Hayek, imajını bir yapım şirketine devreder.
Anlaşma, şirketin Hollywood A-listerinin AI tarafından oluşturulan deepfake versiyonunu yeni TV dramasında “star” olarak kullanmasına izin veriyor. Showdaki söyledikleri ve yaptıkları bilgisayar tarafından kontrol ediliyor.
Bayan Hayek için sonuçlar — hikayeyi bozmamak adına — iyi değil.
AI’nın etkisi hakkındaki endişeler, ABD sinema ve televizyon işini durduran dört on yıldan fazla bir sürenin ardından ilk Hollywood aktörler grevini tetikledi.
Ekran Aktörler Guild (SAG-AFTRA) üyeleri için AI’nın kötüye kullanılmasına karşı daha iyi korumalar için ABD’de bir anlaşmaya varamadıktan sonra geldi.
Aktörler sendikası, “yapay zeka yaratıcı meslekler için varoluşsal bir tehdit oluşturuyor” uyarısında bulundu ve bu konuda direnişe hazırlandı.
Ancak, Bayan Yeo endişeli değil. AI tarafından oluşturulan reklamları benimseyen ünlülerin artan sayısının bir parçası.
Yeni teknoloji heyecan ve ürkeklik karışımı bir tepkiyle karşılanıyor.
Bayan Yeo, içeriklerini satmak için onun dijital olarak manipüle edilmiş benzerini kullanmalarına izin veren finans teknolojisi firması Hugosave ile yeni bir anlaşma imzaladı.
Süreç oldukça basit. Yüzünü ve hareketlerini yakalamak için birkaç saat boyunca yeşil bir ekranın önünde zaman geçirir, sonra sesini yakalamak için birkaç saat daha kayıt stüdyosunda zaman geçirir.
Bir AI programı daha sonra görüntüleri sesle senkronize ederek hemen hemen her şeyi söyleyebilen bir dijital alter-ego oluşturur. Sonuçlar korkutucu derecede gerçekçi.
“Endişeyi anlıyorum, ancak bu teknoloji burada kalmak için,” diyor. “Yani korktuğunuz için onu kabul etmeseniz bile, onu kabul edecek başka insanlar olacak.”
Bazıları zaten kabul etti. PepsiCo ile olan anlaşması kapsamında, süperstar futbolcu Lionel Messi, Lay’s cipslerini reklam etmek için kendisinin deepfake versiyonunu kullanmasına izin verdi.
Çevrimiçi kullanıcılar sadece “Lionel Messi”den kişiselleştirilmiş video mesajları oluşturabilir, aynı zamanda onun İngilizce, İspanyolca, Portekizce ve Türkçe demesini sağlayabilirler.
Fellow futbol süperstarı David Beckham ve Hollywood efsanesi Bruce Willis de deepfake teknolojisini denemişler — ancak Bayan Yeo’nun aksine, tam imaj haklarını devretmekten şimdilik kaçınmışlar.
“Deepfakes’in birkaç yıl içinde reklam sektöründe normal uygulamanın bir parçası olacağını düşünüyorum,” diyor King’s College London’da pazarlama uzmanı Dr. Kirk Plangger.
“Her türlü yaratıcı seçeneğin kapısını açıyor. Tüketicilere mikro hedefleme yapabiliyorlar ve genellikle son derece ikna ediciler.”
Sürecin verimliliği, ticari açıdan da cazip kılıyor. “Ücretli olduğunuz para için çok fazla çalışmıyorsunuz,” diyor Bayan Yeo.
“Ayrıca bütçede olan müşteri için de iyi çünkü normal bir çekimden çok daha fazla içerik alıyorlar. Yani herkes için işe yarıyor.”
Müşteri — bu durumda Singapur merkezli Hugosave — kabul ediyor.
“Bu teknolojinin kullanılabilir olması, kelimenin tam anlamıyla birkaç gün içinde yüzlerce video üretebileceğimiz anlamına geliyor. Bunu, içeriği geleneksel yoldan çekiyormuşuz gibi aylar, hatta yıllar alacak durumla karşılaştırın,” diyor Hugosave’in kurucu ortağı ve baş ürün sorumlusu Braham Djidjelli.
“Bir yandan AI’nın faydalarını kullanabiliyoruz, bir yandan da güvendiğimiz yerel bir yüzün — bu durumda Jamie’nin — insana özgü dokunuşunu koruyabiliyoruz.”
Ancak, Dr. Plangger gibi analistler, teknolojinin bir “karanlık tarafı” olduğunu belirtiyor.
“Bunu kutuya geri koyabileceğimiz bir şey değil,” diyor. “Reklam sektörü, yapay zekanın risklerinin yanı sıra olanaklarına da uyanmalı. Bu, toplum olarak geri adım atmak ve bu teknolojinin uygun veya etik kullanımının ne olması gerektiği üzerine düşünmek anlamına geliyor.”
Dr. Plangger’in atıfta bulunduğu şeylerden biri, tüketicilerin gerçek ile sahte arasında ayırt edemeyen bir “güven krizi” durumudur. Bu, online’da çıkarları olan tarafından zaten sömürülüyor ve sentetik olarak manipüle edilmiş pornografiden yanıltıcı bilgilere, politik mesajlara kadar her şeyi içerebilir.
Ancak, yeteneklerin gönüllü olarak derin sahte teknolojisine kaydolmaları durumunda daha pratik riskler de bulunmaktadır. Şu anda, imajınızın uygun şekilde korunmasını sağlayacak açık AI ile ilgili yasalar bulunmamaktadır.
Örneğin, bir marka imajınıza zarar verebilecek bir ürünü onaylamak için dijital avatarınızı kullanırsa ya da alter-egonuz kötü bir şaka yaparsa ne olur?
“AI ve derin sahte teknoloji söz konusu olduğunda bilinmeyen bir bölgedeyiz,” diyor Singapur’daki Rajah ve Tann’da bir fikri mülkiyet avukatı olan Tng Sheng Rong.
“Çok, çok fazla sorun ortaya çıkabilir. Fikri mülkiyeti kim sahipliği? Hukuki başvuruda bulunacağınız kişi kim? Gerçek şu ki, mevcut yasalar bu sorunlara karşı koruma sağlayacak kadar sağlam bir düzenleyici çerçeve sunmuyor.”
Bu, örneğin Hollywood’un A-listesindeki dijital versiyonlara haklarını satın almaya başlamadan önce reklamverenler için son engel olabilir.
Bu erken aşamada, Bayan Yeo risklerin farkında olduğunu söylüyor, ancak kararı esas olarak güvene dayalıydı — hem Hugosave’e hem de Singapur’daki iş yapma biçimine.
Ancak sonuçta, diyor ki, bu eğrinin önünde kalmakla ilgilidir.
“Eğer hala oyunda kalmak istiyorsanız, nasıl olacağını öğrenmeniz gerekir. Çünkü eğer öğrenmezseniz, muhtemelen emekli olmalısınız.”
Bu haber BBC yazarı Nick Marsh’ın haberinden çevrilmiştir.
