Facebook ihbarcısı Frances Haugen Senato önünde ifade verdi – TechCrunch

0
53

Tartışmalı Facebook belgelerini The Wall Street Journal’a sızdıran muhbir Frances Haugen, Pazar gecesi kimliğini açıkladıktan sonra Salı günü Senato Ticaret, Bilim ve Ulaştırma Komitesi önünde ifade verdi.

Haugen’in ifadesi, geçen hafta Facebook Küresel Güvenlik Başkanı Antigone Davis’in şirketin çocuklar ve gençler üzerindeki olumsuz etkisi hakkında sorgulandığı bir duruşmadan sonra geldi. Davis, Facebook’un senaryosuna bağlı kaldı ve soruları doğrudan yanıtlayamadığı için senatörleri sinirlendirdi. Ancak Facebook’ta sivil yanlış bilgilendirme konusunda eski bir proje yöneticisi olan Haugen, tahmin edilebileceği gibi bilgi konusunda daha açıklayıcıydı.

Haugen, Google, Pinterest ve Yelp gibi şirketlerde proje yöneticisi olarak görev yapmış bir algoritma uzmanıdır. Facebook’tayken demokrasi, yanlış bilgilendirme ve karşı casuslukla ilgili konulara değindi.

Haugen açılış konuşmasında, “Dört farklı sosyal ağ türü üzerinde çalıştıktan sonra, bu sorunların ne kadar karmaşık ve nüanslı olduğunu anlıyorum” dedi. “Ancak, Facebook’ta yapılan seçimler – çocuklarımız, kamu güvenliğimiz, mahremiyetimiz ve demokrasimiz için – felaket ve bu yüzden Facebook’tan değişiklik yapmasını talep etmeliyiz.”

algoritma

Duruşma boyunca Haugen, Facebook’un anlamlı sosyal etkileşimler (MSI’ler) oluşturan gönderileri ödüllendiren mevcut algoritmasının tehlikeli olduğunu düşündüğünü açıkça belirtti. 2018’de kullanıma sunulan bu haber akışı algoritması, arkadaşlarınız ve aileniz gibi Facebook’un size en yakın olduğunu düşündüğü kişilerden gelen etkileşimlere (yorumlar ve beğeniler gibi) öncelik verir.

Ancak Haugen tarafından sızdırılan belgelerin gösterdiği gibi, veri bilimcileri bu sistemin “siyaset ve haber gibi önemli kamu içeriği dilimleri üzerinde sağlıksız yan etkiler” yarattığına dair endişelerini dile getirdiler.

Facebook ayrıca, bir AI’nın bireysel kullanıcılar için en ilginç olacağını düşündüğü içeriği görüntülediği etkileşime dayalı sıralamayı kullanır. Bu, kullanıcılardan daha güçlü tepkiler alan içeriğe öncelik verilerek yanlış bilgi, zehirlilik ve şiddet içeren içeriği artıracağı anlamına gelir. Haugen, kronolojik sıralamanın bu olumsuz etkileri azaltmaya yardımcı olacağını düşündüğünü söyledi.

“Kariyerimin çoğunu etkileşime dayalı sıralama gibi sistemler üzerinde çalışarak geçirdim. Size gelip bunları söylediğimde, temelde 10 yıllık kendi çalışmamı lanetliyorum, ”dedi Haugen duruşmada.

Komite Senatörleri, eski Facebook çalışanı ve ihbarcı Frances Haugen’in (C) 5 Ekim 2021’de Washington DC’de Capitol Hill’de Ticaret, Bilim ve Ulaştırma Senatosu Komitesi’nde ifade verirken dinliyor. (Fotoğraf DREW ANGERER/POOL/AFP tarafından Getty Images aracılığıyla)

Haugen’in Pazar gecesi “60 Dakika”ya söylediği gibi, Facebook’un 2020 seçimlerinden sonra feshettiği bir sivil bütünlük komitesinin parçasıydı. Facebook, 2020 ABD başkanlık seçimleri öncesinde yanlış bilgileri azaltmak için önlemler aldı. Seçimden sonra bu korumaları kapattı. Ancak 6 Ocak’ta ABD Başkentine yapılan saldırılardan sonra Facebook onları tekrar açtı.

“Facebook, tehlikeli olduklarını bildikleri için seçime kadar bu güvenlik varsayılanlarını değiştirdi. Haugen, “Seçimden sonra bu büyümeyi geri istedikleri için orijinal varsayılanlarına döndüler” dedi. “Bence bu çok sorunlu.”

Haugen, Facebook’un yanlış bir seçimi vurguladığını söyledi – ya değişken algoritmalarını kullanıp hızlı büyümelerine devam edebileceklerini ya da kullanıcı güvenliğini ve düşüşünü önceliklendirebileceklerini söyledi. Ancak akademisyenler, araştırmacılar ve devlet kurumlarının gözetimi gibi daha fazla güvenlik önlemi almanın Facebook’un alt satırına gerçekten yardımcı olabileceğini düşünüyor.

“İstediğim şey bir hareket [away] Facebook’un bugün altında çalıştığı şey olan kısa vadeli-izmden. Haugen, “Metrikler tarafından yönetiliyor, insanlar tarafından değil” dedi. “Uygun gözetim ve bu kısıtlamalardan bazıları ile, Facebook’un aslında beş ya da on yıl sonra çok daha karlı bir şirket olması mümkündür, çünkü o kadar toksik değildi ve pek çok insan onu bırakmadı.”

Devlet denetiminin kurulması

Haugen, CEO Mark Zuckerberg’in yerinde olsaydı ne yapardı bir “düşünce deneyi” olarak sorulduğunda, Haugen, Kongre de dahil olmak üzere gözetim organları ile bilgi paylaşımı konusunda politikalar oluşturacağını söyledi; platform hakkında araştırma yapmak için ihtiyaç duydukları bilgilere sahip olduklarından emin olmak için akademisyenlerle birlikte çalışacaktı; 2020 seçimlerinin bütünlüğünü korumak için belirlenen “yumuşak müdahaleleri” derhal uygulayacağını söyledi. Twitter gibi diğer şirketler yanlış bilgileri azaltmak için bu müdahaleleri bulduğundan, kullanıcıların bir bağlantıyı paylaşmadan önce tıklamalarını istedi.

Haugen ayrıca, şirket, Facebook’un muhtemelen hiçbir zaman içeriğin %10 ila %20’sinden fazlasını yakalayamayacağını söylediği AI sistemlerine aşırı bağımlı olduğundan, şu anda yapılandırılmış olduğu için Facebook’un aşı yanlış bilgilerinin yayılmasını engelleyemeyeceğini düşündüğünü de sözlerine ekledi.

Daha sonra Haugen, komiteye, sosyal medya platformlarını kullanıcılarının gönderilerinden sorumlu tutulmaktan muaf tutan Amerika Birleşik Devletleri İletişim Ahlakı Yasası’nın bir parçası olan 230. Haugen, Bölüm 230’un algoritmalarla ilgili kararları muaf tutması gerektiğini, bu da algoritmalarının zarar verdiği tespit edilirse şirketlerin yasal sonuçlarla yüzleşmesini mümkün kılması gerektiğini düşünüyor.

“Kullanıcı tarafından oluşturulan içerik, şirketlerin üzerinde daha az kontrole sahip olduğu bir şeydir. Ancak algoritmaları üzerinde %100 kontrole sahipler,” dedi Haugen. “Facebook, büyümeyi, viralliği ve tepkiselliği kamu güvenliğine göre önceliklendirmek için yaptığı seçimlerde özgürce geçiş yapmamalı.”

Senatör John Hickenlooper (D-CO), algoritmanın güvenliği teşvik etmesi durumunda Facebook’un kârlılığının nasıl etkileneceğini sordu. Haugen, bunun bir etkisi olacağını söyledi, çünkü kullanıcılar daha ilgi çekici içerik gördüklerinde (ilgi çekmekten daha öfkeli olsa bile), platformda daha fazla zaman harcıyorlar ve Facebook için daha fazla reklam doları sağlıyorlar. Ancak, kullanıcı güvenliğini artırmak için ana hatlarıyla belirttiği adımları takip ederse, platformun yine de karlı olacağını düşünüyor.

uluslararası güvenlik

The Wall Street Journal’ın Facebook Files haberlerinden birinde bildirildiği gibi, Facebook çalışanları platformun denizaşırı ülkelerde şiddet suçları için kullanıldığını işaretledi, ancak Haugen’in sızdırdığı belgelere göre şirketin yanıtı yetersizdi.

Çalışanlar, örneğin Etiyopya’daki silahlı grupların etnik azınlıklara yönelik şiddetli saldırıları koordine etmek için platformu kullanmasıyla ilgili endişelerini dile getirdi. Facebook’un moderasyon uygulamaları yapay zekaya çok bağlı olduğundan, bu, AI’sının aylık 2,9 milyar aktif kullanıcısının konuştuğu her dilde ve lehçede çalışması gerektiği anlamına gelir. WSJ’ye göre, Facebook’un AI sistemleri sitede konuşulan dillerin çoğunu kapsamıyor. Haugen, Facebook kullanıcılarının sadece %9’unun İngilizce konuşmasına rağmen platformun yanlış bilgi harcamalarının %87’sinin İngilizce konuşanlara ayrıldığını söyledi.

Haugen, “Tehlike kârlılığa göre eşit olarak dağıtılmasa da, Facebook en çok para kazanan kullanıcılara daha fazla yatırım yapıyor gibi görünüyor” dedi. Facebook’un karşı-casusluk, bilgi operasyonları ve terörle mücadele ekiplerinde sürekli olarak yetersiz personel bulundurmasının, Kongre’nin diğer bölümleriyle iletişim kurduğu ulusal bir güvenlik tehdidi olduğunu düşündüğünü de sözlerine ekledi.

Facebook’un geleceği

Senato komitesi üyeleri, aynı zamanda bir antitröst davasının ortasında olan Facebook’a karşı harekete geçmek için motive olduklarını belirttiler.

Haugen, “Aslında Facebook’un dağılmasına karşıyım” dedi. “Facebook ve Instagram’ı birbirinden ayırırsanız, büyük olasılıkla reklam gelirlerinin çoğu Instagram’a gidecek ve Facebook dünya çapında yaşamları tehlikeye atan bu Frankenstein olmaya devam edecek, ancak şimdi bunu finanse edecek para olmayacak.”

Ancak eleştirmenler, dünkü altı saatlik Facebook kesintisinin – bugünün duruşmasıyla ilgisi yok – bir şirketin bu kadar çok kontrole sahip olmasının dezavantajını gösterdiğini, özellikle de WhatsApp gibi platformlar yurtdışında iletişimin çok ayrılmaz bir parçası olduğunda.

Bu arada milletvekilleri, küçükler için sosyal medya platformlarında güvenliği teşvik etmek için mevzuat hazırlıyor. Geçen hafta, Senatör Ed Markey (D-MA), Senatör Richard Blumenthal (D-CT) ile birlikte çevrimiçi kullanıcılar için yeni korumalar yaratmayı amaçlayan KIDS (Çocuk İnternet Tasarımı ve Güvenliği) Yasası adlı mevzuatı yeniden çıkaracağını duyurdu. 16. Bugün, Senatör John Thune (R-SD), 2019’da diğer üç komite üyesiyle birlikte sunduğu, Filtre Balonu Şeffaflığı Yasası olarak adlandırılan iki taraflı bir yasa tasarısını gündeme getirdi. Bu mevzuat, kullanıcılara gizli bir algoritma tarafından düzenlenmeyen içeriği görüntüleme seçeneği vererek şeffaflığı artıracaktır.

Senatör Blumenthal, Haugen’in Facebook’un ulusal güvenlik için bir tehdit olduğu konusundaki endişelerini bir kez daha duymak için geri gelmesini bile önerdi. Dava sırasında Facebook’un üst düzey yöneticileri Haugen’e karşı konuşmuş olsa da, politika yapıcılar onun ifadesinden etkilenmiş görünüyorlardı.

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz