Android

Artık botlar iğnelemeyi de tespit edebiliyor: çevrimiçi tacizle mücadeleye yardımcı olacak

Three Kingdoms - OverSimplified

Three Kingdoms - OverSimplified
Anonim

ABD'deki Massachusetts Institute of Technology'deki (MIT) araştırmacılar, tweet'lerde alaycayı tespit edebilen, görünüşe göre çoğu insandan daha iyi bir algoritma geliştirdiler.

Araştırmacılar başlangıçta ırkçı ve küfürlü içeriği tespit edebilecek bir algoritma geliştirmeyi hedeflemişlerdi ancak süreçte bu algoritmayı, makinenin alaycılığını anlamanın önemli olduğunu düşündükleri ilk önce geliştirdiler.

Araştırmacılar, alaycı anlayışın bir cümlenin duygusal alt metnini daha iyi kavramaya yönelik algoritmanın ilk adımı olduğuna inanıyor.

“Sesimizi veya beden dilimizdeki tonlamayı, söylediklerimizi bağlamsallaştırmak için kullanamadığımızdan, emoji çevrimiçi yapmanın yolu budur” diyor IIT Rahwan, algoritmayı geliştiren MIT Medya laboratuvarı Doç. öğrenciler, Bjarke Felbo, MIT Review'a anlattı.

Haberin Devamı: Microsoft, Windows 10 Aygıtında Çalışıyor: AR ve VR Tech Desteği Olabilir

Rahwan, “Sinir ağı, belirli bir dil ile emoji arasındaki bağlantıyı öğrendi” dedi.

Twitter zaten troller için bir merkez ve şirket tehdidi azaltma çabalarını artırıyor.

İnsanların sosyal medyadaki paylaşımlara karşı tutum ve davranışlarını ölçmek, reklamverenler arasında yaygın bir uygulama olmuştur.

Tamamen geliştirildiğinde, bu algoritma kötü niyetli / ırkçı / taciz edici tweet'leri ve kullanıcıları da pes etmede yardımcı olabilir.

Algoritma, büyük miktarda veri kullanarak kalıpları tanımlamak ve anlamak için benzetilmiş bir sinir ağını eğiten derin öğrenme tekniğini kullanır.

Araştırmacılar internette duyguları göstermenin çok yaygın bir yolunu kullandılar - emojiler - bir etiketleme sistemi olarak ve tweetlerdeki duyguları tanımlamak için algoritmalarını geliştirme yollarından birini kullandılar.

Gerçek dünya senaryosundaki botları insanlara karşı test etmek için araştırmacılar kitle kaynaklı web sitesi Mekanik Türkler aracılığıyla gönüllüleri işe aldı. Algoritma, alaycı yüzde 8 doğrulukla tanımlayan insan gönüllülere kıyasla yüzde 82 doğrulukla alaycı alt tonları tanımladı.

Felbo, “Bütün farklı argoları öğreniyor olabilir” diyor. “İnsanların dili çok ilginç kullanımları var -let bu şekilde açıklıyor.”

Araştırmacılar, 55 milyardan fazla tweet topladılar, 1, 2 milyarı emojiyi içeriyordu. Araştırmacılar bu emoji gömülü tweet'leri kullanarak algoritmanın öğrenmesine ve hangi emojilerin hangi tür metinlerle kullanıldıklarını - mutlu, üzgün, komik ve benzeri - öğrenmelerine yardımcı oldu.

Haberin Devamı: Rs Hakkında Bilmeniz Gereken 10 Önemli Şey 49.999 Worth Asus Zenfone AR

Bilgisayarlar makine öğrenmede gün geçtikçe daha iyi hale geliyor ve insanların sosyal medya veri madenciliği yoluyla nasıl konuştuğunu ve davrandığını daha iyi anlıyorlar.

Bu algoritma, taciz edici, ırkçı ve terörle ilgili içeriği yalnızca Twitter'dan değil, Facebook, YouTube, Snap ve platformlarını ve interneti daha iyi bir yer haline getirmeye çalışan diğer kuruluşlardan engellemek için kullanılabilir.