Deepfake uygulaması Çin’de dolandırıcılık ve mahremiyet korkusu yaratıyor

0
21

Kullanıcıların yüzlerini bu film ve TV karakterlerinin yerine yerleştirmelerini sağlayan yapay zeka uygulaması Çin’de tartışmalara neden oldu.

Zao gizlilik korkularını ve yüz tanıma sistemlerini yenmek için kullanılabilecek önerileri yol açtı.

29 Ağustos’ta Çin’de ortaya çıktı ve çılgınca popüler olduğunu kanıtladı.

Ancak, geliştiricilerin Momo’yu, görüntüleri üzerindeki haklardan mahrum bırakan son kullanıcı sözleşmesi için özür diledi.

Ve uygulama viral hale geldikçe, Zao’nun sahipleri, kullanıcıların pahalı bir şekilde satın alınan sunucu kapasitelerini yutmakta oldukları korkularını yayınladı.

Popülerliği, Çin’in web devi Alibaba’ın bir parçası olan Alipay’in güvence altına alınmasına neden olarak, uygulamanın yarattığı sözde derin videoların Yüz Tanıma Ödemesi Ödülünü aldatmak için kullanılmasının imkansız olduğunu söyledi.

Zao nedir ve neden bu kadar tartışmalı?

Zao, filmlerden ve TV şovlarından klipler kullanan ve kullanıcının telefonundan özçekimler kullanarak bir karakterin yüzünü ikna edici bir şekilde değiştiren yüz takas eden bir uygulamadır.

Ancak bazı kullanıcılar, uygulamanın şart ve koşullarının “geliştiricilere, uygulamada oluşturulan herhangi bir resmi ücretsiz olarak kullanmalarına genel hak tanıdığını” belirtti.

Makalede, “geliştiricilerin, bu izni, kullanıcının izinsiz olarak üçüncü taraflara devretme hakkı vardı”, dedi.

Shanghai merkezli The Paper, Momo daha sonra tartışmalı maddeyi silmiş ve bir uygulamanın kullanıcıların biyometrik bilgilerini saklamayacağını ya da “aşırı kullanıcı bilgisi toplamayacağını” söyleyerek bir özür diledi.

Ancak popüler sosyal medya platformu WeChat, “güvenlik riskleri” gerekçesiyle kullanıcıların platformları aracılığıyla Zao videoları yüklemelerini hızla yasakladı.

Medya oynatma cihazınızda desteklenmiyor

Medya yazısıWATCH: Yüzü değiştirme yazılımı açıklandı

Uygulama ayrıca, Zao’nun Sina Weibo sosyal medya hesabında, ilk gecesinde 7 milyon yuan (805.000 £) bütçesinde yer alan aylık sunucu kapasitesinin üçte birini kullandığını söyleyerek kendi başarısının kurbanı olabilir.

Ertesi gün, kullanıcılar yavaş bir servisten şikayet ederken, “ağır bir kalple”, sunucular tam kapasite kullanıyordu.

Zao bankaları dolandırmak için kullanılabilir mi?

870 milyondan fazla kullanıcısı olan dünyanın en büyük mobil ödeme platformu olan Alipay, kullanıcılarının Zao’da oluşturulan videolarının sistemlerini dolaştırmak için kullanılamayacağına dair güvence verdi.

Birçok Alipay kullanıcısı, bir dükkanda veya restoranın satış noktasında bir kameraya bakarak kullanıcının ödeme doğrulamasını sağlayan Smile to Pay sisteminden yararlanır.

Alipay’in sahibi olan Alibaba, fotoğraf veya derin sahtekar videolar tarafından kandırılmadığından emin olmak için gelişmiş sahtekarlığa karşı koruma algoritmaları kullandığını söylüyor.

Şirket, Weibo hesabında, “Çok sayıda çevrimiçi yüz değiştirme yazılımı var – ancak ne kadar gerçekçi olursa olsun, yüz ödeme sistemini kırmak imkansız”.

Sistem yüzle eşleşmeye çalışmadan önce bile, sunulan görüntünün sabit mi, video mu yoksa yazılım simülasyonu mu olduğunu tespit eder.

Alibaba, “Bu, yüz değiştiren teknolojiden kaynaklanan sahtekarlığı önler” dedi.

Momo ayrıca, Zao’nun sahtekarlık için kullanabileceği korkularını hafifletti ve Alipay’in yalnızca kullandığı ve net fotoğrafları için hala fotoğraflarını uyarladığı noktaya açıklık getirdi.

Geliştiriciler, “Yüz ödeme güvenliği eşiği son derece yüksek ve yalnızca bir fotoğrafla gerçekleştirilen” yüz değiştiren “teknoloji güvenlik sisteminden geçemiyor” dedi.

The Paper gazetesine verdiği demeçte, Momo The The Paper’a yaptığı açıklamada, bu tür derinliklerin ödeme güvenliğini tehdit etmesinin “tamamen imkansız” olduğunu söyledi.

Ve geçen yıl, akademik Pan Helin, China Daily Alipay’in yüz tanıma işleminin “teorik olarak geleneksel şifre kullanımından daha güvenli ve kullanışlı bir yöntem” olduğunu söyledi.

Tepki ne oldu?

App üzerindeki endişeler devlet tarafından işletilen Çin basınına ulaştı.

Global Times, “kötü amaçlı kullanılabilecek” AI-powered uygulamalar “ile ilgili bir başka örnek olduğunu söyledi.

Kağıt, Çin’in AI yüz dikiş teknolojisini düzenleyen düzenlemeleri sıkılaştırdığını düşünüyordu.

Ve avukat Zhang Xinnian, telefon uygulamalarının şartlarını ve koşullarını düzenleyen yasaların sıkılaştırıldığını söyledi.

Zao’nun ilk şartlarında “kullanıcı gizliliğini ihlal ettiği ve kişisel bilgilerin sızdırıldığı ve kötüye kullanıldığı bir kez suç olaylarına yol açabileceği” ifadesi yer aldı.

Bu arada, hukuk profesörü Zhu Wei, devlet haber ajansı Xinhua’ya şunları söyledi: “İnsanlar, kişisel kimlik, mal, tarama kodları ve mobil ödemelerle ilgili bilgileri içeren bir mobil istemci kullanıyor ve uygulama tarafından tam olarak hangi bilgilerin alındığını göremiyorlar. çok tehlikeli.”

Zao, piyasaya sürüldükten hemen sonra Çin’de uygulama tablosunun zirvesinde

Pekin Haberlerinde bir yorum bile uygulamanın “ulusal güvenlik için bir tehdit” haline gelip gelemeyeceğini sordu.

Zao’dan gelen ulusal ve kişisel güvenlik ve gelecekteki derin güvenlik hizmetleri konusundaki gerçek endişeleri, “onları en kısa sürede net yasal hükümlerle düzenlemek gerekiyor” dedi.

Bir Guangzhou Daily editörü şöyle dedi: “Değişen yüzlü videolar eğlencelidir, ancak potansiyel güvenlik riskleri göz ardı edilemez.”

The Paper, Zao’nun popülaritesinin kısa süreceğini söylerken, gelişinin karanlık oyuncuların yüzünü değiştiren teknolojiden faydalanmalarını kolaylaştırdığını söyledi.

BBC Monitoring, dünyanın dört bir yanındaki TV, radyo, web ve yazılı basın haberlerini bildirir ve analiz eder. BBC İzleme’yi Twitter ve Facebook’ta takip edebilirsiniz.

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz