Prime donne intervista Arianna Muti sull'algoritmo che individua i twitt misogini elaborato dall'Università di Bologna

Il vostro progetto è stato presentato come un algoritmo che individua i tweet misogini, questa è la notizia, ma volevamo sapere come funziona in particolare?

Diciamo che quello che si trova su internet è un po’ falso nel senso che non è vero che l’algoritmo va a cercare i Tweet e li segnala o li rimuove, non fa niente di tutto ciò. È un algoritmo che se un utente gli fornisce un tweet, lo classifica, dice se è misogino oppure no e se è misogino dice anche se è aggressivo. Però deve essere fornito da un utente, non c'è ancora l’implementazione per la quale l’algoritmo cerca il tweet online.

Quindi una volta che viene segnalato, cosa accade?

Il fatto è che Twitter adesso si basa sulla segnalazione degli utenti per rimuovere i post. Poi c’è un revisore che decide se rimuoverlo o meno. Diciamo che potrebbe esserci una collaborazione uomo-macchina, una macchina che magari aiuta queste figure a rimuovere i tweet e l’algoritmo può supportare poiché una volta segnalato lo può classificare ed eventualmente rimuovere. Però io non credo che verrà implementato perché per ora twitter non usa nessun tipo di di automazione per ora.

Com'è nata l'ispirazione per questo progetto?

In realtà l'idea non parte da me, io ho deciso di partecipare a questo task che si chiama automatic misogyny identification i cui meriti vanno a Elisabetta Fersini, la professoressa che ha organizzato questo task. Lei lavora sull’identificazione automatica della misoginia da 7 anni. Io ho voluto partecipare a questo task perchè è un argomento che mi è stato sempre a cuore. Ogni volta che su Facebook, perchè in realtà twitter non lo uso tantissimo, vedo qualche commento sessista o misogino, soprattutto la misoginia internalizzata, tendo a commentare per far notare che non fa bene quello che è scritto, anche se penso che sia una battaglia persa. Chi fa quel tipo di commento di solito non è aperto al dialogo e quindi non capisce perché sbaglia.

A te è mai capitato di essere vittima di tweet di questo tipo? O di aggressioni misogine su altri social?

Mi è capitato quando avevo i capelli azzurri, magari scrivevo qualche commento e qualcuno rispondendo “Eh detto da una con i capelli colorati” mi screditava solamente per il colore dei miei capelli, ma non so se il fatto che fossi donna contribuisse. Invece ultimamente dopo l’uscita dell’articolo ho ricevuto parecchi attacchi e supposizioni sulla mia vita privata e la mia vita sessuale. Commenti senza senso del tipo “questa ne ha visti tanti” e altre cose così, semplicemente perché sono una donna che si è esposta. Nel mio studio ho visto che la maggior parte dei tweet misogini sono rivolti a donne che si espongono, politiche, attrici e cantanti. Le frasi generalizzati sono molte di meno rispetto agli attacchi individuali.

Esiste qualcosa di analogo al vostro progetto anche per gli altri social? Instagram, Facebook ad esempio?

Che è implementato no, Facebook non usa algoritmi automatici per la segnalazione e rimozione dei post e neanche Instagram : c’è sempre un essere umano che decide quando rimuovere un post. Però ci sono delle ricerche che non vengono implementate.

Quali sono le implicazioni che speri si possano ottenere da questo algoritmo?

La cosa fondamentale è che la misoginia online venga riconosciuto come un problema. In italia nell’ultimo anno i post misogini sono aumentati del 90% e la cosa assurda è che quelli di odio generale sono diminuiti (però sono aumentati quelli sulle donne). Quindi è un problema grave, va affrontato e se ne deve parlare. Sono contenta che questa notizia abbia riscosso successo perchè almeno se ne parla, poi per l'implementazione, sinceramente, non sono ottimista. La percentuale media di precisione non è abbastanza alta, 77% non è abbastanza, quindi sono la prima a dire che va migliorato e quando sarà buono abbastanza si potrà pensare di contattare twitter e vedere se sarà possibile implementarlo.