Yahoovi novinski članci imaju puno neukusnih komentara, slično kao i ostatak interneta, pa je Yahoo tim odlučio upotrijebiti njihov odjeljak za komentare kako bi razvio algoritam koji bi mogao uspješno prepoznati najgore prijestupnike. Njihova novi algoritam za otkrivanje zlouporabe djeluje u 90 posto vremena, što kažu da ga čini učinkovitijim od pokušaja drugih organizacija na poduzimanju sličnih podviga, a opisan je kao veliki korak naprijed na terenu. 90 posto čini zvučim prilično dobro, priznajem.
Žično izvještava da Yahoo također objavljuje prvu javno dostupnu kuriranu bazu podataka mrežnog govora mržnje kao dio svog projekta za borbu protiv zlostavljanja. To znači da će druge web stranice moći koristiti Yahooovu bazu podataka komentara kako bi dizajnirale vlastite algoritme. Yahoov algoritam razvijen je na temelju strojnog učenja i na podacima koje su izvijestili korisnici o njihovim odjeljcima s komentarima.
Najteži dio bilo kojeg algoritma za moderiranje komentara odnosi se na lažne pozitivne rezultate. Mnogi algoritmi za otkrivanje zloupotrebe traže određene riječi ili fraze, poput psovki ili uobičajenih uvreda, i automatski označavaju komentare radi moderiranja. Međutim, to rezultira označavanjem komentara čak i ako se pozivaju na nepristojne sadržaje u kontekstu da na primjer nisu prikladni ili ako je komentar sarkastična imitacija trola. Yahoov algoritam očito može otkriti određene govorne obrasce, a osmišljen je tako da može razlikovati između šaljivog sarkazma i stvarne zlouporabe. (Naravno, ako se vaš urnebesni komentar ne razlikuje od stvarne zlouporabe, prilično sam siguran da će ga algoritam i dalje označavati, ali ne mogu sa sigurnošću reći kako taj dio AI-a funkcionira.)
Yahoo je angažirao obučene moderatore komentara kako bi pomogli usavršiti algoritam, a također su platili neke neobučene moderatore i otkrili su da su obučeni moderatori puno bolje shvatili koji su komentari prikladni (vrsta nimalo pametne, ali hej). Tijekom stvaranja AI-a Yahoo je otkrio da je rad ovih obučenih ljudskih moderatora bio presudan za održavanje učinkovitosti algoritma i usavršavanje njegovih tehnika otkrivanja.
Naravno, algoritmi još uvijek imaju pristranosti , što bi zahtijevalo (nadam se raznolik) tim ljudskih moderatora da nastavi ponavljati metodologije korištene za klasifikaciju komentara. Zvuči kao težak posao, ali barem Yahoo sada razumije važnost treninga i vrednovanja uloga svojih dobro uvježbanih ljudskih moderatora i svog novog kolege iz AI.
otkrilo se da je samus žensko
(preko Sljedeći web , slika putem Michael Cordedda / Flickr )
