Siyah genç, yanlış yüz tanıma ile buz pateni pistinden men edildi

0
19

Detroit’teki yerel bir paten pisti tarafından kullanılan bir yüz tanıma algoritması, genç Lamya Robinson’ın binaya girmesine izin vermiyor ve onu daha önce işyerinde kavga etmekle suçluyordu.

Ama Robinson daha önce piste bile gitmemişti.

Fox 2 Detroit’e, yüz tanıma sisteminin onu başka bir patronla yanlış eşleştirdiğini söyledi. Ailesi, pistin onu binadan çıkardığını ve dışarıda tek başına bıraktığını söylüyor.

Annesi Juliea Robinson televizyon kanalına “Bana göre bu temelde ırksal profil çıkarma” dedi. “Siyah, esmer, gözlüklü her genç kızın profile uyduğunu söylüyorsun ve bu doğru değil.”

İşletmelerde ve polis tarafından kullanılan yüz tanıma sistemlerinin zararları, teknolojinin daha yaygın olarak kullanılmasıyla yavaş yavaş gün yüzüne çıkıyor. Bu algoritmalar üzerine yapılan araştırmalar, Siyah insanların, kadınların ve çocukların yüzlerini ayırt etmede çok daha az doğru olduklarını göstermiştir, bu da Lamya Robinson’ın karşılaştığı hatayı açıklamaya yardımcı olabilir.

Yanlış bir tutuklamaya yol açan en yüksek profilli yüz tanıma vakası, Robert Williams durumunda da Detroit’teydi. Williams, bir Shinola saat mağazasından hırsızlık yapmakla suçlandıktan sonra Ocak 2020’de tutuklandı ve 30 saat boyunca gözaltında tutuldu. Meclis Yargı Komitesi önünde ifade verdi ve yasa koyucuları Haziran 2020’de mevzuat olarak tanıtılan teknoloji hakkında bir moratoryum kabul etmeye çağırdı.

Williams ifadesinde, “Kimsenin, teknolojinin daha doğru hale getirilmesi halinde sorunlarının çözüleceğini düşünerek benim ifademden uzaklaşmasını istemiyorum” dedi. “Bu teknoloji benim gibi insanlar pahasına doğru olsa bile, kızlarımın yüzlerinin bir hükümet veri tabanının parçası olmasını istemiyorum.”

Irk ve cinsiyet doğruluğundaki eşitsizliğin yanı sıra teknolojinin istilacı doğası, sivil haklar örgütlerine ve politikacıların yasaklar talep etmesine yol açtı. Amerikan Sivil Özgürlükler Birliği ülke çapında yasaklar için çağrıda bulundu ve Detroit Polis Departmanına Williams adına teknolojinin kötüye kullanılması nedeniyle dava açtı. Maine gibi bazı eyaletler polisin teknolojinin kullanımını sınırlamaya başladı bile. Ancak, şu anda yalnızca Portland, Oregon’da özel işletmelerin yüz tanıma özelliğini nasıl kullanabileceğini sınırlayan yasalar vardır.

Sivil haklar sivil toplum kuruluşu Fight for the Future, perakendecilerin mağazalarında yüz tanımayı kullanmayı bırakmalarını talep eden 35’ten fazla kuruluşun buna katıldığını duyurdu. Grup, Lamya Robinson’ın buz pateni pistinden kovulma deneyiminin raporunun ardından bugün pozisyonunu yineledi.

Fight for the Future’ın kampanya ve operasyonlar direktörü Caitlin Seeley George bir basın açıklamasında, “İşte bu yüzden halka açık yerlerde yüz tanımanın yasaklanması gerektiğini düşünüyoruz” diye yazdı. “Ayrıca olay yerine polis çağrılsaydı neler olabileceğini ve bu yanlış bilgi üzerine nasıl hareket etmiş olabileceklerini hayal etmek de zor değil.”

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz