Çevrimiçi kötüye kullanımı tespit etme ve durdurma

0
26

Kredi: Unsplash / CC0 Public Domain

Sosyal medya, uygulamalarına ve web sitelerine erişim kaynakları ile dünyanın dört bir yanından birçok kişiye büyük faydalar sağlamıştır. Nitekim, neredeyse dünyanın her ülkesinde her ay popüler platformları kullanan milyarlarca insan var. International Journal of High Performance Systems Architecture dergisinde yazan araştırmacılar, hayatın çoğunda olduğu gibi, sosyal medyanın pozitif yanlarına karşı koyan dezavantajların olduğuna dikkat çekiyor. Sosyal medyanın böyle olumsuz bir yönüne “siber şiddet” denebilir.

Fas, Rabat’taki FSR Mohammed V Üniversitesi’nden Randa Zarnoufi ve meslektaşları, bu yeni düşmanlık biçiminin kurbanlarının sayısının gün geçtikçe arttığını ve çok fazla insanın psikolojik sağlığı üzerinde son derece zararlı bir etkiye sahip olduğunu öne sürüyorlar. Dünyadaki siber şiddet düzeyini düşürmekle ilgili olarak bu alanda çok az araştırılan bir bakış açısı, faillerin kendilerinin psikolojik durumunu ve duygusal boyutunu ele almaktır. Bu insanları çevrimiçi dünyada başkalarına karşı iğrenç eylemlerde bulunmaya iten şeyin yeni anlayışı, mağdurları doğrudan filtrelemeye, sansürlemeye veya korumaya çalışmak yerine, ona verdiğimiz yanıtı iyileştirebilir ve sorunu kaynağında ele almak için yeni yollar açabilir.

Ekip, siber şiddet, zorbalık ve trolleme davranışı bağlamında bu güncellemelerin karakterini çıkarmak için Ensemble Machine Learning ve Plutchik çarkını kullanarak sosyal medya güncellemelerini analiz etti. Analiz, bir bireyin duygusal durumu ile sosyal medya alanında kişisel zararlı niyet eğilimi arasında önemli bir ilişki olduğu yönünde belki bariz ama yine de oldukça anlamlı bir sonuca varıyor. Daha da önemlisi, çalışma, bu duygusal durumun nasıl tespit edilebileceğini ve belki de siber şiddetin failine duygusal durumlarını iyileştirmek ve aksi takdirde çevrimiçi olarak etkileşimde bulundukları insanlar üzerindeki duygularının olumsuz etkisini azaltmak amacıyla yaklaşılabileceğini gösteriyor.

Bu, ciddi ve büyüyen siber şiddet sorununu ele almak için bu yaklaşımdaki ilk adımdır. Ekip, sistemlerini, cinsellik, görünüm, entelektüel kapasite ve siyasi ikna ile ilgili tacizle ilişkili sosyal medya güncellemelerinde belirli sorunları tespit edecek şekilde eğiteceklerini ekliyor.

Çevrimiçi insan haklarını korumak için daha güçlü küresel çabalara ihtiyacımız var Daha fazla bilgi: Randa Zarnoufi et al. Siber şiddeti önlemek için yapay zeka: sosyal medyada zararlı davranış tespiti, International Journal of High Performance Systems Architecture (2021). DOI: 10.1504 / IJHPSA.2020.113679

Alıntı: Çevrimiçi istismarı tespit etme ve durdurma (2021, 24 Mart) 24 Mart 2021 tarihinde https://techxplore.com/news/2021-03-online-abuse.html adresinden alındı

Bu belge telif haklarına tabidir. Özel çalışma veya araştırma amacına yönelik herhangi bir adil işlem dışında, yazılı izin alınmadan hiçbir bölümü çoğaltılamaz. İçerik yalnızca bilgi amaçlı sağlanmıştır.

CEVAP VER

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz