L’algoritmo di YouTube e i suoi problemi

Dal 2005 ad oggi YouTube è il leader mondiale per la pubblicazione di filmati. Esso è una piattaforma d’intrattenimento longeva, utilizzata da milioni di utenti ogni giorno. Tuttavia è oggetto anche di numerose polemiche, riguardanti le sue attività di controllo sui contenuti postati. Ispezionare le centinaia di migliaia di video caricati ogni giorno sul portale infatti è un lavoro tutt’altro che semplice. Perciò qualcosa può sfuggire all’occhio degli addetti, mentre alcuni automatismi possono portare a situazioni imbarazzanti. Visti i recenti errori commessi dalla piattaforma ci chiediamo: dobbiamo temere l’algoritmo di YouTube?

Adpocalypse

No, non è il titolo di un nuovo film d’azione, ma la denominazione data al nuovo algoritmo di YouTube, a seguito dei problemi che ha creato. Il suo obiettivo è rendere il più confortevole possibile la permanenza degli utenti sul sito ed individuare la pertinenza delle pubblicità in base alle tipologie di visitatori. Lo scopo di YouTube consiste infatti nel tenere lo spettatore il più a lungo possibile sulla propria piattaforma. Per farlo, propone di continuo video che presume essere in linea con i gusti e gli ultimi contenuti visualizzati dall’utente. Questo sistema però non è infallibile ed, a volte, può creare delle vere e proprie gaffes.

Cosa è successo nella primavera del 2017

Più di due anni fa molti quotidiani dimostrarono come l’algoritmo di YouTube a volte si inceppasse, finendo per suggerire agli utenti video dai contenuti totalmente inappropriati come filmati di propaganda razziale ed invettive religiose di stampo integralista. La causa era il mal funzionamento del machine learning che, pur basandosi sulle precedenti visioni dell’utente, non sempre indicava dei contenuti adeguati. E’ a quel punto che YouTube decise di stravolgere l’algoritmo per migliorarne le sue funzioni e risolvere altre vulnerabilità.

Oltre al danno anche la beffa

Dopo la sua modifica però, il nuovo algoritmo di YouTube ha creato danni in senso opposto. Scott Allsop per esempio, un insegnante di storia della British School of Bucharest, si è visto chiudere il proprio canale con oltre 120 video di carattere storico. I filmati di natura pedagogica coprivano diversi avvenimenti degli ultimi 1000 anni. Il dieci per cento di essi riguardavano la propaganda nazista solo a scopo storico divulgativo ovviamente. Nonostante ciò è bastata la natura del contenuto a far si che il machine learning bannasse non solo quei video, ma l’intero progetto del docente. Insomma, si è passati da un estremo all’altro. Ciò ha riportato YouTube al punto di partenza, ovvero a non avere una reale ed efficace strategia per risolvere il problema.

#YouTubeRegrets

Mozilla, la società che ha sviluppato il famoso broswer Firefox, ha pubblicato un’inchiesta con ben 28 storie, a dimostrazione del fatto YouTube debba ancora lavorare molto in merito. Ventotto vicende, scelte tra le numerose testimonianze raccolte tramite il social hashtag #YouTubeRegrets, nelle quali i suoi utenti raccontano le situazioni più imbarazzanti vissute sulla popolare piattaforma.

Gli episodi più assurdi

Un esempio a dir poco imbarazzante è quello di una professoressa che, partendo da documentari storici sull’Apollo 11, si è trovata a navigare tra video di teorie cospirazionali. Altri utenti invece, dopo aver guardato videoblog di drag queen, hanno visto comparire video anti-lgbtq e contenuti d’odio. In altri casi invece, filmati innocui raffiguranti i vichinghi hanno portato a contenuti legati al suprematismo bianco ed apertamente razzisti. Tali episodi imbarazzanti e sconvenienti hanno interessato anche il mondo dello sport. Alcuni utenti hanno infatti raccontato che, dopo aver visto degli incontri di pugilato su YouTube, la piattaforma gli ha fatto visualizzare video riguardanti risse da strada e violenza urbana.

L’importanza della sfumatura del linguaggio

Il problema è proprio questo, insegnare al machine learning la giusta accezione di ogni termine. Purtroppo, come dimostrano i casi menzionati, si è ancora molto distanti da un perfetto funzionamento dell’automazione in grado di evitare simili circostanze. E’ bene perciò essere coscienti che YouTube possa sbagliare ancora e prestare attenzione ai contenuti visualizzati dai nostri figli, rendendoci partecipi anche di dibattiti costruttivi con loro. A tal proposito, ti ricordiamo che per i più piccoli è disponibile YouTube Kids, una variante più sicura e controllata della piattaforma, che può rappresentare un’ottima base di partenza per le navigazioni digitali dei più giovani.