Renkli öğrenciler öğretmenlere işaretleniyor çünkü Proctorio test yazılımı onları göremiyor

0
18

Motherboard’un bir raporuna göre, öğrencilerin sınavlara girerken hile yapmasını önlemek için tasarlanmış bir sınav izleme yazılımı olan Proctorio, ırksal önyargı sorunları geçmişi olan açık kaynaklı yazılıma güveniyor. Sorun, yazılımın yüz algılamayı nasıl yaptığını anlayan ve zamanın yarısında siyah yüzleri tanımada başarısız olduğunu keşfeden bir öğrenci tarafından keşfedildi.

Proctorio ve buna benzer diğer programlar, sınavları alırken öğrencilere göz kulak olmak için tasarlanmıştır. Bununla birlikte, birçok renkli öğrenci, yazılımın yüzlerini görmesini sağlamakta sorunlar yaşadıklarını – bazen yazılımın onları tanımasını sağlamak için aşırı önlemlere başvurmak zorunda kaldıklarını bildirdi. Bu potansiyel olarak öğrencilerin sorunlarına neden olabilir: Proctorio, yüzlerini algılamazsa onları eğitmenlere bildirecektir.

Yazılım, siyah yüzleri yarıdan fazla tanıyamadı

Akash Satheesan, bu sorunları anekdot olarak duyduktan sonra, yazılımın kullandığı yüz algılama yöntemlerine bakmaya karar verdi. Yüzleri tanımak için kullanılabilen (geçmişte ırksal önyargılarla ilgili sorunları olan) açık kaynaklı bir bilgisayar görme programı olan OpenCV ile aynı şekilde göründüğünü ve performans gösterdiğini keşfetti. Bunu öğrendikten sonra, OpenCV ve makine görme algoritmalarının farklı yüzlerle ne kadar iyi başa çıktığını doğrulamak için tasarlanmış bir veri seti kullanarak testler yaptı. İkinci blog gönderisine göre sonuçlar iyi değildi.

Proctorio’nun dayandığı yazılımı test eden sonuçlar iyi değildi. Grafik: Akash Satheesan, ProctorNinja

Yazılım, siyah yüzleri yarıdan fazla tanıyamamakla kalmadı, aynı zamanda herhangi bir etnik kökene ait yüzleri tanımakta özellikle iyi değildi – en yüksek isabet oranı yüzde 75’in altındaydı. Anakart raporunda, Satheesan’ın sonuçlarını ve analizlerini doğrulayabilen bir güvenlik araştırmacısıyla temasa geçti. Proctorio’nun kendisi de OpenCV’yi lisanslar sayfasında kullandığını onaylar, ancak nasıl olduğu hakkında ayrıntıya girmez.

Bir Proctorio sözcüsü Anakart’a yaptığı açıklamada, Satheesan’ın testlerinin, yazılımın yalnızca yüzleri algılamaya çalıştığını, onlarla ilişkili kimlikleri tanımadığını kanıtladığını söyledi. Bu, gözetmenlik yazılımı ile ilgili gizlilik sorunları hakkında haklı olarak endişelenen öğrenciler için (küçük) bir rahatlık olabilir, ırksal önyargı suçlamalarına hiç değinmez.

Bu, Proctorio’nun farklı yüzleri tanımadığı için ilk kez çağrılmıyor: Renkli öğrencilere neden olduğu sorunlar, bir üniversite tarafından şirketle olan sözleşmesini yenilememesinin bir nedeni olarak gösterildi. Hatta Senatör Richard Blumenthal (D-CT), gözetmenlik yazılımındaki önyargıdan bahsederken şirketi çağırdı.

Kodlamada ırksal önyargı yeni bir şey olmasa da, bunun sadece okul işlerini yapmaya çalışan öğrencileri etkilediğini görmek özellikle üzücüdür, özellikle uzaktan öğrenmenin bazıları için mevcut olan tek seçenek olduğu bir yılda.

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz