YouTube zaten çocuk videolarıyla ilgili yorumları durdurmaya söz verdi.

0
453

YouTube, Çarşamba günü çocuklara yönelik videolara yönelik politikalarını sıkılaştırmayı planladığını duyurdu.

YouTube, büyük çevrimiçi video servisinin, çocuklar için kliplere nasıl davrandığını yeniden konumlandırmak üzere. 170 milyon dolarlık bir cezadan sonra, Çarşamba günü yaptığı açıklamada, çocukların veri gizliliğini ihlal ettiği için Google’ın YouTube’u, çocuklara yönelik tüm videolarda yorumları, bildirimleri ve kişiselleştirilmiş reklamları devre dışı bırakma sözü verdi. Şirket, makine öğreniminin, çocuk videolarını aynı hizada tutmak için YouTube’un genişleyen kataloğunu polisleştireceğini söyledi.

Bir sorun: YouTube’un makine öğrenmesi zaten genç küçüklerin bulunduğu videolarla ilgili yorumları askıya alması gerekiyordu. Yapmadı.

Küçük çocukları belirgin şekilde yansıtan yorumu etkin kılan videoları YouTube’da bulmak kolaydır. Çocuk odaklı bir konu için tek bir YouTube araması – “oyun oyna” – yorumları etkin olan 100’den fazla video döndürdü; bunların hepsi belirgin bir şekilde bebek dişlerine sahip olacak bebekler, okul öncesi çocuklar ve diğer çocuklardan oluşuyor.

CNET, bu videoların bir listesiyle YouTube ile iletişime geçtikten sonra, yorumların neredeyse yarısında devre dışı bırakıldı.

YouTube sözcüsü Ivy Choi, “Küçüklere ve ailelere mümkün olan en iyi korumayı sağlamamıza izin veren ekiplere ve teknolojilere önemli ölçüde yatırım yapıyoruz” dedi. “Riskli durumlarda reşit olmayan yüzlerce milyon videoya ilişkin yorumları askıya aldık ve ihlal edilen yorumların iki katını kaldırmamıza yardımcı olan bir sınıflandırıcı uyguladık. Günde yüzbinlerce video hakkındaki yorumları devre dışı bırakıp sınıflandırıcılarımızı geliştirmeye devam ediyoruz. .”

YouTube, aylık 2 milyar kullanıcısı olan dünyanın en büyük çevrimiçi video kaynağıdır – o kadar büyük ki, aslında çocuk videoları için de dünyanın en büyük kaynağıdır. Çocuk içeriği en çok izlenen kategorilerden biridir, ancak YouTube çocukları içeren çeşitli skandallar nedeniyle ateş altında. Bu 170 milyon dolarlık ceza, YouTube’un ebeveynlerin onayı olmadan çocuklar üzerinde topladığı verilere yönelikti. Ancak YouTube, çocuklar için güvenli bir bölge olarak nitelendirilen YouTube Çocukları uygulamasında çocuk istismarı ve istismar videoları ve kabus içeriğinin yer aldığı skandallarla karşı karşıya kaldı.

YouTube’un, çocukların içeriğini yönetme konusundaki zorluğu, Google’ın sahip olduğu sitenin, son birkaç yılda, nefret dolu konuşmayı çoğalttığı, komplo teorileri yaydığı ve bazı yaratıcılara karşı ayrımcılık yaptığı iddiası da dahil olmak üzere karşı karşıya kaldığı bir geçit töreninde yalnızca bir sorundur. Google’ın büyük teknoloji şirketlerinden biri, Adalet Bakanlığı’nın büyük teknolojiye yönelik bir antitröst soruşturması başlatmasıyla, kullandığı güçle ilgili artan sorularla karşı karşıya.

Şubat ayında YouTube, bir softcore pedofilya halkası üzerinden yapılan tepki sonrasında küçük çocuklu videolara ilişkin yorumları devre dışı bırakacağını söyledi. Küçük çocukların yer aldığı bazı videolar, yırtıcı bağlantılar içeren yorumlar içeriyordu. Bağlantıların tıklanması, izleyicileri YouTube videolarındaki diğer anlara, cinsel ilişkide bulunabilecek bir durumda küçük olmaları durumunda taşır. Ve o tavşan deliğine girdiğinizde, YouTube’un öneri algoritması sizi aynı şekilde besliyor gibi göründü.

Bu nedenle YouTube 13 yaş ve altındaki küçük çocukların videolarının yanı sıra, yırtıcı davranışlarda bulunma riski altında olabilecek küçük yaştaki çocukların videolarına ilişkin yorumları askıya alacağını söyledi. YouTube, değişikliklerin “önümüzdeki birkaç ay içinde gerçekleşeceğini” söyledi. Şirket, söz konusu tarihte YouTube’un “aktif olarak yorumlarını yönlendiren ve çocukları korumak için ek adımlar atan az sayıda kanal” için bir istisna olacağını belirtti.

Ne bulduk

Altı ay sonra CNET’in tek araması, geçen ay 100’den fazla farklı kanal tarafından yayınlanan 100’den fazla video buldu. Hepsi küçük çocuklara sahipti – bebekler, küçük çocuklar ve açıkça ilkokul öğrencilerinden büyük olmayan çocuklar. Tüm yorumlar etkin oldu.

Sıfır abone olan kanallarda neredeyse hiç izlemeyen kliplerden, yaklaşık 23 milyon kez izlenen videolara kadar. Bir videoda 1.750 yorum yapıldı. Birkaç video, mayo giymiş bir genç kız ya da bebek bezindeki bir bebek gibi sınırlı giysiler içindeki çocukları gösterdi.

Ne yaparlarsa yapsın, asla mükemmel olmayacak.

Christo Wilson, Profesör, Northeastern Üniversitesi

100’den fazla videodan, YouTube CNET’in bir bağlantı listesi sağlamasının ardından 48 tanesi hakkında görüşlerini askıya aldı – 1.750 yorumu olan video da aralarındaydı. Genel olarak, yeni engelli yorumları olan bu videoların kamerada yetişkinleri yoktu; YouTube, yetişkin gözetiminin, yorumları devre dışı bırakırken değerlendirdiği birkaç şeyden biri olduğunu söyledi.

Bu videolarla ilgili çoğu yorum masum görünüyordu: kalp-göz emojileri, adorabilite veya oyuncaklar hakkında geri bildirim hakkında övgü.

Ancak zaman zaman biri kaşları kaldırır: Örneğin lolipop yiyen ve fuar alanında süren üç kızın videosu iki yorumda bulundu. Biri, “Kürt Nazi” adı verilen gamalı haç avatarlı bir hesapla gönderildi. Kürtçe’den çevrilmiş olan yorum, bitcoin’e referans olarak görülüyordu.

(YouTube, CNET’in ulaşmasından sonra bu videoya ilişkin yorumları devre dışı bıraktı, bu da Kürt Nazi’nin yorumlarını kamuoyundan sildi.)

Diğer aramalar, büyük çocukların YouTube videolarını yetersiz giysiler içinde buldu. Bu yılın başlarında sübyancı halka skandalı “bikini çekimi” terimini aradıktan sonra yırtıcı bağlantıları ortaya çıkaran bir tetikçi tarafından tetiklendi. Buna cevaben, YouTube, konunun kötüye kullanım potansiyeli varsa, 14 ila 17 yaş arası çocukları içeren videolarla ilgili yorumları askıya alacağını söyledi.

Geçen ay yayınlanan “teen bikini haul” videoları için yapılan bir arama, 16 yaşında olarak tanımlayan ve farklı mayoları modelleyen bir kız tarafından bir video döndürdü. 75 yorum var. Bir diğeri, yaşını – 17- ve videonun açıklamasında doğum tarihini açıklayan bir etkileyiciydi. Bir düzine iki parçalı takım elbiseyi gösteren videosunda, “sansürsüz tatlı tushy’nizi göstermesini” isteyen bir yorum da dahil olmak üzere 309 yorumu bulunuyor.

Başka bir yazıda, “Poponuzu göstermezseniz denemeye çalışmanın ne anlamı var?” “Çıplak değilsin, ve bunları halka açık olarak giyersin ..? İyi keder … Bant genişliği israfı.”

Küçükleri öğrenen makineler

Makine öğrenim uzmanları, küçük yaştaki polis videolarına yönelik algoritmalara güvenmenin bir zorluk olduğunu, hiçbir teknolojinin her şeyi yakalayamayacağını belirtti.

Northeastern Üniversitesi’nde bilgisayar bilimi profesörü olan Christo Wilson, “Ne yaparlarsa yapsınlar asla mükemmel olmayacak” dedi. “Bir yetişkinin çocuk olarak işaretlenebileceğini veya sadece bir çocuk göremediğini kabul etmeliyiz. Ne kadar makine öğrendiklerine bakılmaksızın, sahnelerin arkasında bir tür insan süreci olması gerekiyor.”

YouTube, politikalarından herhangi birini ihlal eden videoları ele almakla görevli 10.000’den fazla insan moderatörüne sahiptir.

Küçüklere ve ailelere mümkün olan en iyi korumayı sağlamamıza izin veren ekiplere ve teknolojilere önemli ölçüde yatırım yapıyoruz.

Ivy Choi, sözcüsü, YouTube

Her dakika 500 saatlik bir videonun yüklendiği YouTube ölçeği, zorluğu da beraberinde getiriyor. YouTube’un makine öğrenmesinin temel başarı oranı yüksek olsa bile, yakalayamadığı video sayısı hala önemli olacaktır.

California Üniversitesi’nde bilgisayar bilimi profesörü Christian Shelton, “Hala samanlıkta sadece bir iğne olabilir. Ancak daha fazla saman yığını ekleyin ve bir yerlerden birini bulmak daha kolay olacaktır” dedi. “Teknoloji hiçbir zaman mükemmel olmayacak. Başka hiçbir çözüm de mükemmel olmayacak, ancak teknolojiyi kancadan kurtarmamalısınız.”

Google ve YouTube’un ölçeği, bazı açılardan lehine çalışır. Algoritmalar öğrenmek için verilere ihtiyaç duyar ve YouTube bu konuda herkesten daha fazla video ve verilere sahiptir. Esasen videolara hareketsiz kareler koleksiyonu olarak görünen video için makine öğrenmesi, aynı zamanda Google’ın kaynaklarına sahip bir şirket için daha uygun bir düzeyde işlem gücü gerektirir.

YouTube’un geçen hafta açıklanan politika değişikliklerinden biri de makine öğrenmesinin gelişmesine yardımcı olabilir. FTC ile anlaşmasının bir parçası olarak, YouTube’un, yükleyicilerden “çocuklar için üretilmiş” videoları tanımlamaları gerektiğini ve bunun üzerine verileri üzerinde daha fazla etiket bulunduğunu belirtti.

North Carolina State Üniversitesi’nde bilgisayar bilimi profesörü Arnav Jhala’ya göre, algoritmalar öğrenmek için bunun gibi ek açıklamalara ve işlenen içerik ne kadar fazla olursa, ek açıklamalar da o kadar fazla olur. Algoritmalar, etiketler ile karelerdeki görünür özellikler arasındaki kalıpları ve korelasyonları bulur.

“Sahip oldukları etiket sayısı arttıkça, daha yüksek korelasyona sahip olacak ve etiketlenmemiş videoda algoritmalar daha yüksek bir hassasiyete sahip olacak” dedi. “Ama öbür tarafta neredeyse bir rakiple uğraşıyorsun.”

Diğer bir deyişle, bazı yükleyicilerin videolarını yanlış tanımlamak için nedenleri var.

Örneğin Troll’ler, uygunsuz görüntüleri çocukların gözlerinin önünde gizlice sokmayı amaçlayan uygunsuz içeriği çocuk videoları olarak yanlış etiketleyebilir. YouTube daha önce kendine zarar veren ipuçlarına eklenmiş çocuk videoları örnekleri görmüştü. Bilinen çocuk karakterlerinin tuhaf, şiddet içeren veya rahatsız edici davranışlarda bulunmuş olduğu iddia edilen “çocuk dostu” YouTube videolarının bir eğilimi, kendi takma adı: Elsagate’i kazandı. Yanlış etiketlenmiş veriler, bir makine-öğrenme algoritmasını eğiten bilgiyi kirletecektir.

Bunun ötesinde, çocuk izleyicileri hedef alan video, bir algoritma vermek için bir direktif olarak “oldukça garip belirsiz” dir.

Wilson’a göre, YouTube’un şu ana kadarki rekoru nedir? “Harika değil.”

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz