
Yazan: Sleepy, Menmen
Xiaoyu, sesini kısa video platformunda sıradan bir akşam keşfetti.
Bu sesle altı yıl boyunca geçimini sağlamıştı. Ses tonu, telaffuzu, nefes alırken boğazının hafifçe kasıldığı o an – her şey kendi sesiyle birebir aynıydı.
Videodaki ses şöyle diyordu: "Bu hayat gerçekten anlamsız."
Ekrana bakakaldı. Bu tür karamsar sözlerden, iş alırken bilinçli olarak kaçınırdı. Ne böyle derdi ne de söylemek isterdi. Ama o ses bunu son derece doğal bir şekilde söylüyordu.
Xiaoyu, seslendirmeyi tam zamanlı iş haline getirdiğinde 2020'nin sonuydu. İlk iş bir akrabasından geldi; akrabasının şirketinde bir bilim kısa videosu projesi için seslendirme gerekiyordu ve onun bu işe hep ilgisi olduğunu bildiği için işi ona verdi. Zamanla sektöre girdi, çoğunlukla kısa videolar ve sosyal medya hesapları için seslendirme yapıyor, ayda yaklaşık on bin kazanıyordu.
Bu işin son demlerine denk gelmişti. Çin'de kısa video seslendirmesi devasa bir üretim hattına dönüşmüştü; 2022'de küresel seslendirme pazarı elli milyar doların üzerindeydi. Ancak kâr, zincir boyunca aşağı doğru aktıkça giderek azalıyordu. Müşterinin platforma verdiği teklif dakikada yaklaşık otuz yuan iken, seslendirme sanatçısının eline genellikle sadece bir buçuk yuan geçiyordu.
Xiaoyu, zincirin en ucundaydı. Çığır açan bir işi yoktu, izleyicilerin hatırlayacağı birkaç karakteri sayabilirdi, tam anlamıyla bir "seslendirme sanatçısı" değildi. Kendi deyimiyle, sesiyle tuğla taşıyan biriydi. Ses bir yetenek ya da sanatsal ifade değil, geçimini sağladığı bir aletti.
Bu aletti sıkı sıkıya koruyordu. Uzun süre iş aldıktan sonra, iş ortaklarına iletişim bilgilerini gelişigüzel paylaşmamalarını özellikle hatırlatırdı. Sesinin çok fazla ve aşırı kullanılıp ayırt ediciliğini kaybetmesinden korkuyordu. Tanınmayan bir seslendirme sanatçısının elinde fazla bir koz yoktu; nadirlik bunlardan biriydi.
2023 Kasım'ında bir arkadaşı mesaj attı. O zaman öğrendi ki, birileri çoktan sesini klonlayarak bir AI seslendirme oluşturmuş ve pervasızca kullanıyordu.
Sesin nereden sızdığını bulmaya çalıştı ama neredeyse imkansızdı. Yıllar içinde çok fazla iş almıştı; internette yayınlanan herhangi bir video indirilip yazılımla sesi tertemiz bir şekilde çıkarılabilirdi. Hangi bölümün, kim tarafından, ne zaman alındığını bilmiyordu.
İşler giderek kötüleşiyordu.
İş ortakları kısa sürede onun AI sesini pazarlık kozu olarak kullanmayı öğrendi. Gerçek bir insan seslendirmesi bulmak, en düşük fiyata bile onlarca yuana mal oluyordu. Oysa kendi modelini kurmak neredeyse sıfır maliyete indirilebilirdi. Ayda yüzlerce içerik üreten hesaplar için bu ciddi bir tasarruf demekti.
Küçük Balık, karşı taraf için bile düşünmüştü; birinin kullanmasına izin vermemek, bir bakıma onun para kazanmasına da engel olmaktı. Ama onlar para kazanırken, yaptıklarının Küçük Balık'ın geçim kaynağını kuruttuğunu hiç umursamıyorlardı.

Daha da kötüsü sonra geldi. Onun klonlanmış sesi platformlarda giderek yayıldı; denetleme ve algoritmalar bu sesi doğrudan yapay zekâ (AI) olarak sınıflandırmaya başladı. AI olarak etiketlenen içerikler, daha büyük trafik havuzlarına giremiyordu. AI sesi belirli bir seviyede yaygınlaştığında, onun gerçek sesi de AI sanıldı ve aynı şekilde trafik havuzlarına alınmadı.
Gerçek bir insan, kendi kopyaları yüzünden zarar görüyordu. Sesi, bir emek gücü olarak ondan koparılmış ve şimdi de kendi yaşam alanını daraltmak için geri dönmüştü.
Resmi medya kuruluşları, onun AI sesiyle yapılmış videoları paylaştı; hatta bazıları kendileri de birkaç tane yaptı. Büyük kurumlar bunu ne kadar çok kullanırsa, sıradan insanlar da o sesin aslında bir AI olduğuna o kadar inanıyordu. O hakkını aramaya gittiğinde, muhatap ne kadar büyükse, kendisi de o kadar yalancı gibi görünüyordu. Aslında hakkı ihlal edilen oydu, ama sanki bir "AI sesinden" pay kapmaya çalışıyormuş gibi bir izlenim bırakıyordu.
Hukuk da onun düşündüğü kadar her şeye gücü yeten değildi. Nisan 2024'te Pekin İnternet Mahkemesi, ülkedeki ilk AI ses ihlali davasını karara bağladı. Seslendirme sanatçısı Yin'in sesi bir şirket tarafından para karşılığı satılmıştı. Mahkeme, sesin kişiliğin bir parçası olduğuna ve AI tarafından klonlanmış bir ses, kime ait olduğu anlaşılabiliyorsa, kullanılmadan önce ayrı bir izin alınması gerektiğine hükmetti. Yin davayı kazandı.
Ama Yin kazanabildi çünkü kaynağı bulabiliyordu. Sesi birkaç uygulamada yoğunlaşmıştı ve davalı belirli bir şirketti. Küçük Balık'ın sesi ise yüzlerce bireysel medya hesabına dağılmıştı; kaynağı bulunamaz, davalı tespit edilemezdi ve her bir kullanım, onlarca veya yüzlerce lirayı bulan küçük çaplı bir ihlaldi. Hukuk, "bir kişinin bir şirkete dava açması" için bir cevap hazırlamıştı, ama "bir kişinin tüm internet tarafından gasp edilmesi" için bir cevap hazırlamamıştı.
Küçük Balık bu ilişkiye bir isim vermişti: Parazit ve konak. Bir ses, trafik havuzuna giremeyecek kadar kullanıldığında, kullanıcılar bir sonraki sese geçiyordu.
"Bir sonraki konağa geçerler," dedi, "Bir sonraki konağın benden daha uzun dayanıp dayanamayacağını bilmiyorum."
Küçük Balık'ın özel hesabının yorum ve mesaj kutusunda, sürekli olarak sesini nasıl yaptığını soranlar oluyordu.
"Bu ses nasıl kullanılıyor?"
"Sesin gerçekten iyi, nasıl klonlanır?"
Sorularını son derece doğal bir şekilde soruyorlardı, sanki bir uygulamanın nasıl indirileceğini soruyorlarmış gibi.
Bu saygısızlık, Küçük Balık'ı rahatsız ediyor. Ona göre ses, basitçe satın alınabilecek bir şey değil. Onun bakış açısına göre, eğer bir kişinin yüzü ve sesi tamamen satın alınabilirse, o kişinin bir kısmı yeniden köle haline gelir.
Ancak klonlanan sesin gerçekten "onun sesi" olup olmadığı sorulduğunda, cevabı biraz çelişkiliydi. Benzerlik açısından bunun onun sesi olduğunu kabul etti. Tam da bunun kendisiyle ilgili olduğunu düşündüğü için haklarını savunmaya ve sesini duyurmaya gitti. Ancak bunun "o" olmadığını, çünkü onun izni olmadan ve onun düşüncesi olmadan yapıldığını söyledi.
Bir benzetme yaptı. "Sanki karşı taraf bir kırbaçla başka bir beni kırbaçlayarak bazı sözler söylememi sağlıyor."
Ona gerçekten izin verilmiş olsaydı, o AI sesinin kendisine ait olup olmayacağını sorduk. Bir an sessiz kaldı.
"İzinsiz olandan daha çok," dedi, "kendime ait."
Alınmak ve satın alınmak. İkisi de kötü, sadece daha az kötü olanı seçebiliyor.

Ve izin yolu, birileri tarafından sonuna kadar keşfedilmişti. Bu yılın haziran ayında, Peppa Pig'in yapımcısı Hasbro, rol alan çocuk seslendirme sanatçılarına yeni bir sözleşme gönderdi ve şirketin seslerini AI kopyalama ve üretme için kullanmasına izin vermelerini talep etti. Medya bunu ortaya çıkardıktan sonra, İngiltere'deki genç oyuncu ajansları bir açık mektup yayınlayarak karşı çıktı. Tek bir nedenleri vardı: Çocuklar bu tür izinlerin uzun vadeli sonuçlarını anlayacak kapasiteye sahip değildi. Mektuba binden fazla kişi imza attı.
Bir çocuğun anlayamadığı bir izin sözleşmesini imzalatmak bir avantaj sağlamaktır, ancak yetişkinler sözleşmeyi anlasa bile imzalamak neyi değiştirir? Kısa vadede bir miktar para alınır, uzun vadede ise karşı tarafın bu sesle ne söyleyeceğini veya ne yapacağını kontrol edemeyebilirsiniz.
Ve AI sesleri tamamen olgunlaştığında, piyasa yalnızca en iyilere yönelecektir. En iyi seslendirme sanatçılarının sesleri sektörde bir tür ölümsüzlük kazanacak ve genç sesler bir daha içeri giremeyecek. Sektörde bir araştırma yapıldı: Seslerin büyük ölçekte çalınmasından sonra, küçük ve orta ölçekli seslendirme çalışanlarının yüzde 70'inden fazlasının geliri yarıdan fazla düştü ve en iyilerin geliri de genellikle yüzde 30 oranında azaldı. Küçük ve orta ölçekli çalışanların geriye kalan değeri, modele eğitim verisi olarak hizmet etmek.
"Gerçekten o gün gelirse," dedi, "belki de seslendirme sektörü ölür."
Küçük Balık'ı rahatsız eden sorun, tam da başkalarının sorunlarını çözüyor.
Helen bir belgesel yönetmeni ve aynı zamanda reklam filmleri çekiyor. AI seslendirmeyi ilk kez geçen yıl bir belgesel projesi için demo kurgularken kullandı. Müşteriye filmi göstermek için önce beş dakikalık kısa bir versiyon kurgulaması gerekiyordu, ancak uzun metraj filmdeki eşzamanlı sesler kısa bir hikaye oluşturamıyordu. Bu yüzden yeni bir metin yazıp hikayeyi seslendirmeyle birleştirmek zorunda kaldı.
Önce bir seslendirme şirketi buldu. Bütçesi kısıtlıydı, dakikası yaklaşık 120 lira olan örnek sesleri seçti. Geri dönüp dinlediğinde, sesin istikrarı, ritmi ve duygusu yetersizdi; hatta bunun gerçek bir insan sesi olmadığından şüphelendi.
Daha sonra montajcı, "Bir de AI ile denesek mi?" diye önerdi. Zaten sadece iç paylaşım için bir demo, yayınlanmayacak, ticari amaçlı kullanılmayacaktı.
Sonuçta o AI sesi, seslendirme şirketinin düşük fiyatlı gerçek insan sesinden daha iyiydi.
Helen ilk kez net bir şekilde hissetti ki, AI seslendirme artık iş yapabilecek kadar olgunlaşmıştı. Ancak sınırları da belliydi. Demo kullanılabilirdi, resmi ticari kullanım olmazdı, belgesellerde ise hiç olmazdı. Çekim nesnelerinin eşzamanlı seslerindeki duraklamalar, nefes alışlar, tereddütler, bir cümleyi söylemeden önceki kararsızlık, anlatının bir parçasıydı. AI sesi daha temiz ve pürüzsüz hale getirebilirdi, ama belgeselin ihtiyacı olan pürüzsüzlük değildi.
Kusurluluk, insanın kanıtıdır. Helen'in parasını verdiği şey bu kusurluluktu. Algoritmanın Küçük Balık'tan soyduğu da bu kusurluluktu. Aynı şey, bir tarafta yaratım malzemesi, diğer tarafta trafik için negatif bir varlıktı.
AI, en iyi seslerin yerini alarak başlamaz. Önce "o kadar da titiz olunması gerekmeyen" boşluklara girer. Helen'in demosu da böyle bir boşluktu, mantıklı bir şekilde açılmıştı: iç paylaşım, yayınlanmayacak, ticari amaçlı kullanılmayacak. Her boşluk mantıklı bir şekilde açılır. Ama bu boşluklar birleştiğinde bir yol oluşturur.
Bu yolda kendini en zor koruyan, reddetmesi en zor olan insandır.
Helen AI'yı reddeder, bedeli bütçe ve zaman çizelgesi arasında yeniden bir seçim yapmaktır. Küçük Balık reddeder, bedeli hak aramaya devam etmek, zaman ve para harcamaya devam etmek, birbiri ardına gelen hesapların soğukluğu ve engellemesiyle yüzleşmektir. "Peppa Pig" seslendirmesi yapan çocuklar reddeder, bedeli doğrudan bir rolü kaybetmek olabilir.
Ve ses bir kez klonlandığında, sadece seslendirme yapmakla kalmaz.

Nisan 2023'te Fuzhou'da bir kişi, AI yüz değiştirme ve ses taklidi kullanarak bir iş insanının arkadaşını taklit etti. On dakikalık bir görüntülü telefon görüşmesiyle 4,3 milyon yuan dolandırdı. 2024 başında, Hong Kong'da uluslararası bir şirketin çalışanı, çok kişili bir video konferansa davet edildi. Ekranda genel merkezin CFO'su ve birkaç meslektaşı vardı; talimatlara uyarak 200 milyon Hong Kong doları transfer etti. Sonradan anlaşıldı ki, tüm toplantıda kendisi dışında hiçbiri gerçek değildi.
Ya bir gün Küçük Balık'ın klonlanmış sesi böyle bir telefon görüşmesi için kullanılırsa? Ya yaşlı anne babası, "Bu hayat gerçekten anlamsız, bana biraz borç ver" diyen bir "ondan" gelen bir telefon alırsa?
Xiaoyu, her bir içerik paylaştığında, daha önce var olmayan bir işi daha yapmak zorunda kalıyor: konuşanın gerçekten kendisi olduğunu kanıtlamak.
Gerçek bir insan, kendi hesabında, kendi ses kaydını yayınlarken, önce denetçileri ve dinleyicileri bu sefer gerçekten kendisinin konuştuğuna ikna etmek zorunda. Bu süreç beceriksiz, gereksiz ve aslında var olmaması gereken bir şey.

Bu durumu, Wu Cheng'en dört yüz yıldan fazla bir süre önce yazmıştı.
Batı'ya Yolculuk'un 58. bölümünde, Altı Kulaklı Maymun, Sun Wukong'un şekline bürünür. Sadece Sun Wukong'a "benzemekle" kalmaz, her bir tüyüne kadar aynıdır. Kötü ruhları ortaya çıkaran ayna bile ayırt edemez, Guanyin bile fark edemez.
Dizang Wang Bodhisattva'nın bineği olan Diting, yere yatarak dinler ve hangisinin gerçek olduğunu anlar. Ama söylemeye cesaret edemez. Sahte olanın hemen ortalığı karıştırmasından ve kimsenin onu kontrol edememesinden korkar.
Bu, platformlara ne kadar da benziyor. Ayırt edemiyor değiller; asıl mesele, bu ayrımı yapmanın onlara bir fayda sağlamaması. Gerçek bir insanı ayırt etmek, denetim maliyeti ve yanlış karar verme riski getirir. O halde en kolay yol, her şeyin yapay zeka olduğunu varsaymaktır.
En çarpıcı olanı ise Tang Seng. Gerçek Wukong onu yol boyunca korur, ancak huysuzdur, karşılık verir ve sık sık işi bırakıp gider. Sahte olan ise usludur, söz dinler, her çağrıldığında gelir ve asla sorun çıkarmaz. Bu yüzden Tang Seng önce gerçek olanı kovar.
Tıpkı yapay zeka sesleriyle fiyat kıran iş ortakları gibi. Gerçek insan Xiaoyu yorulur, fiyatını yükseltir ve bazı metinleri reddeder. Yapay zeka Xiaoyu ise asla yorulmaz, istenilen tonu verir ve fiyatı çok düşüktür. Talep tarafında duran biri, daha itaatkar olanı tercih etmez mi?
Wu Cheng'en sonunda bir Buda yaratır; üç alemde sadece o gerçeği sahteden ayırabilir, tek bir sözle kararı verir, sahte olan ortaya çıkar ve gerçek olan yerine döner.
Xiaoyu'nun sorunu, onun dünyasında bir Buda'nın olmamasıdır.
Ayrıca, halk arasında Batı'ya Yolculuk okumalarında bir komplo teorisi ortaya atılmıştır: Leiyin Tapınağı'ndaki o sopa darbesiyle aslında gerçek Wukong'un öldürüldüğü söylenir. Bunun gerekçesi, o andan sonra Wukong'un bir daha huysuzluk yapmamasıdır. Bu iddia yıllarca dolaşır, çünkü okuyanlar bilir ki, gerçek ve sahte arasındaki ayrım yalnızca otoritenin tek bir sözüne kaldığında, o sopanın gerçekten yanlış kişiye vurulmadığından kimse emin olamaz.
Xiaoyu her hukuki mücadeleyi kazansa bile, yıllar sonra insanların hatırlayacağı ses, onun kendi ağzından çıkmış olmayabilir.
Referanslar
[1] Çin'in ilk "Yapay Zeka Ses İhlali Davası" birinci duruşmada karara bağlandı, Pekin İnternet Mahkemesi / Çin Mahkeme Ağı
[2] Çin'in ilk yapay zeka kaynaklı ses ihlali davası ve kişilik haklarının korunması, China Justice Observer
[3] Hasbro, 'Peppa Pig' Çocuk Oyuncularından Seslerini Yapay Zekaya Devretmelerini İstiyor, Tepki Çekiyor, Deadline
[4] Hasbro'nun Peppa Pig oyuncularını yapay zeka ses haklarını imzalamaya zorladığı bildiriliyor, TheGamer / MSN
[5] Dolandırıcı, iş adamının arkadaşını taklit etmek için yapay zeka kullanıyor, 4,3 milyon yuan dolandırıyor, TechNode
[6] Finans çalışanı, deepfake 'finans müdürü' ile video görüşmesi sonrası 25 milyon dolar ödüyor, CNN
[7] Hong Kong şirketi, çalışanın deepfake video toplantısıyla kandırılması sonucu 200 milyon HK doları kaybediyor, South China Morning Post
[8] Dublaj ve Seslendirme Pazarı Büyüklüğü, Fortune Business Insights / pazar araştırma özeti
BlockBeats Resmi Topluluğuna Katılın:
Telegram Abonelik Grubu: https://t.me/theblockbeats
Telegram Sohbet Grubu: https://t.me/BlockBeats_App
Twitter Resmi Hesabı: https://twitter.com/BlockBeatsAsia