Rubriche

La pedofilia in Rete e lo scandalo YouTube

Gigio Rancilio venerdì 1 marzo 2019

«Se YouTube fosse un sito normale e non il colosso che è, probabilmente sarebbe già stato chiuso dalla magistratura». Non usa mezzi termini l'esperto del web Giorgio Taverniti, in un video (ironia della sorte) postato nel suo canale YouTube. Il suo ragionamento è legato all'ultimo scandalo che ha investito la piattaforma video miliardaria. Tutto è nato dalla denuncia di uno YouTuber, neanche così famoso, che ha svelato un trucco adottato dai pedofili per segnalarsi su YouTube contenuti «di loro interesse» presenti anche in filmati innocenti caricati sulla piattaforma. Scene che, scaricate e montate in sequenza, diventavano video perfetti per pedofili, capaci anche di raccogliere introiti grazie alle pubblicità che (a insaputa degli inserzionisti) venivano abbinate a questi filmati dall'algoritmo della piattaforma. Come se non bastasse, il sistema di «intelligenza artificiale» di YouTube, creato per offrire agli utenti segnalazioni «con i video più affini ai loro gusti», amplificava la portata di questi filmati, aumentandone il successo. Il video di denuncia ha convinto numerosi utenti a fare segnalazioni alle società le cui pubblicità erano state abbinate da YouTube a quei video. Risultato: nel giro di poche ore, colossi come Disney hanno sospeso i loro investimenti pubblicitari, creando un enorme danno alla piattaforma. Per tutta risposta, YouTube ha oscurato milioni di video e sospeso migliaia di canali.

Quest'ennesimo scandalo ci insegna alcune cose. Innanzitutto che anche un piccolo Davide (uno youtuber poco famoso) può colpire duramente un gigante Golia del digitale come YouTube. E che non è vero che siamo impotenti davanti a certe storture. E ancora. Ci insegna che nessun algoritmo da solo ci salverà da alcunché, ma che – anzi – in alcuni casi può rivelarsi persino dannoso e complice del male. Questa storia, però, anche rimanendo soltanto nei confini di YouTube è molto più grande e problematica. Perché ancor oggi sulla piattaforma di Google anche un bambino può imbattersi in video sexy o soft porno con protagonisti minorenni (soprattutto ragazzine). Qualcuno, per risolvere i problema (leggi: per mantenere l'anarchia), suggerisce di confinare i bambini su YouTube Kids, cioè nella versione per i più piccoli della piattaforma, la quale peraltro ha i suoi scandali, visto che ospitava (e ospita) video violenti e diseducativi e pubblicità tutt'altro che adatte ai bambini. Ma così facendo, per l'ennesima volta, si deresponsabilizzano i genitori soprattutto dei preadolescenti e degli adolescenti e persino quelle ragazzine che caricano i loro video tra il sexy e il soft porno convincendosi di stare giocando a fare le star.
[in fondo trovate ulteriori prese di posizione di YouTube sulla vicenda, arrivate dopo la scrittura di questo articolo]

Per avere un Internet migliore dobbiamo tutti crescere ed educarci. Ma per farlo dobbiamo aprire gli occhi su tutto il marcio che infanga la Rete. A peggiorare le cose c'è il fatto che il problema è ben più vasto e ripugnante. Perché il mercato mondiale della pedopornografia online sta crescendo a ritmi vertiginosi. E ha sempre più spesso per protagonisti bambini anche di pochissimi anni. Solo stando all'attività dell'Associazione Meter capitanata da don Fortunato Di Noto, dal 2016 al 2017 si è passati da oltre 200mila video pedopornografici scovati e segnalati alle Polizie di diversi Paesi al quasi milione di video aberranti scoperti nel 2017. Per non parlare del mercato delle foto pedopornografiche anch'esso in crescita.
Come abbiamo visto gli algoritmi e le «macchine» non solo non bastano a contrastare questi fenomeni ma possono anche essere dannosi. L'unico modo per crescere è l'educazione. E mettere in campo leggi che contrastino davvero questo fenomeno aberrante. Nel frattempo non dobbiamo lasciare sole tutte quelle persone coraggiose che si sporcano ogni giorno le mani per combattere un fenomeno che ancora troppi si ostinano a non vedere.

Aggiornamento 1 marzo
L'ufficio stampa di YouTube ci fa sapere:
Ecco ulteriori azioni appena annunciate da YouTube in tema di sicurezza dei minori:

Disattivazione dei commenti su video con minori
YouTube ha disabilitato commenti da decine di milioni di video che potrebbero essere soggetti a comportamenti predatori. Nei prossimi mesi, provvederà a sospendere i commenti sui video in cui compaiono bambini piccoli e in quelli in cui compaiono minori, seppur più grandi, che potrebbero essere a rischio di attirare comportamenti predatori. Un piccolo numero di creator sarà in grado di mantenere i commenti abilitati su questi video. Questi canali saranno tenuti a moderare attivamente i loro commenti, in aggiunta all’utilizzo degli strumenti di moderazione offerti da YouTube, e a dimostrare un basso rischio di comportamento predatorio.

Un nuovo strumento di identificazione dei commenti al fine di rimuovere in maniera più efficace del passato eventuali messaggi predatori
Abbiamo lavorato su un classificatore ancora più efficace, che identificherà e rimuoverà i commenti predatori. Il nuovo strumento ha un raggio d’azione più ampio ed è in grado di rilevare e rimuovere il doppio dei commenti.
• Una posizione più dura nei confronti dei creator che hanno causato danni alla community
Nessuna forma di contenuto che mette in pericolo i minori è accettabile su YouTube, motivo per cui abbiamo chiuso alcuni canali che tentavano di mettere in pericolo i minori. Continueremo a intervenire in tutti i casi i cui i creator violino le nostre norme in modo palesemente lesivo della community.

Trovate qui di seguito e a questo link, il blogpost pubblicato sul blog ufficiale di YouTube con maggiori dettagli.