Me l’ha detto l’algoritmo

È un decennio che subiamo la fascinazione dell’algoritmo. Fatichiamo a capire esattamente cosa sia ma non importa. Sappiamo che è scritto in un linguaggio strano, fatto di molte righe e pieno di simboli. Sappiamo che non lo scrivono persone normali, servono degli ingegneri per metterlo assieme per bene. 

Una volta scritto (loro dicono “compilato”) l’algoritmo diventa segreto, perché se non lo fosse il gioco sarebbe finito prima ancora di cominciare: l’algoritmo è il nuovo oro nero, se così non fosse poi noi come facciamo a pagare gli ingegneri?

Per sovrappiù subiamo la fascinazione anche degli ingegneri. 

Non si spiega diversamente la cieca fiducia che riponiamo in persone che preferiscono scrivere codice piuttosto che parlarsi in una delle molte lingue conosciute. Così capita che l’ingegnere prepari l’algoritmo, oggetto prezioso che per sua stessa definizione non potrà fallire. 

E l’algoritmo sapientemente compilato riconoscerà il colore della pelle, le fattezze femminili, il triangolo più scuro lì in basso e, nel tempo di un millisecondo, emetterà la sua sentenza senza appello: È PORNO! ...

Così su Facebook "L’origine del mondo" di Courbet diventa materiale pornografico e viene censurato. Non una volta (gli umani imparano dai loro errori, gli algoritmi meno) ma più e più volte. 

Fino a quando l’incompetenza non diventa un vero marchio di fabbrica.

L’algoritmo può essere variamente interpellato. Per esempio gli potremo affidare il compito di censurare i contenuti indecenti, magari controllando una ad una tutte le parole della nostra piattaforma. Del resto chi altri lo potrebbe fare? 

Essendo stato scritto da un ingegnere – categoria che notoriamente non eccelle in ironia – l’algoritmo magari all’inizio faticherà un po’ a distinguere la parola MERDA scritta da un comico da quella scritta da un odiatore seriale. 

Tutte le MERDE sono uguali per l’algoritmo. 

Il quale algoritmo quando segnaliamo che l’assessore alla cultura del nostro Comune ci ha appena detto SEI UNA MERDA sul suo profilo, ci risponderà di aver attentamente vagliato quella pagina e di averla trovata OK.

Quando segnaliamo a Facebook una pagina neofascista piena di odio, svastiche, proiettili, bersagli, elmetti, mimetiche, pugnali, busti del duce e minacce di morte, in genere la prima risposta automatica di Facebook è qualcosa tipo: Ciao mantello547, grazie per la tua segnalazione: abbiamo controllato la pagina “VIVA HITLER, VI FACCIAMO A PEZZETTINI” e l’abbiamo trovata OK.

Per anni abbiamo pensato che l’algoritmo pensasse a tutto: a difenderci dal porno o dai nazisti tanto per dirne un paio, in virtù della sua suprema intelligenza ingegneristica. E anche un po’ per via della nostra creduloneria sulle possibilità della tecnologia.

Poi è venuto fuori che per esempio Facebook per distinguere i quadri dal porno o i MERDA dei comici da quelli degli assessori stipendiava algoritmi umani che in cinque secondi devono stabilire se un contenuto è OK o se deve essere cassato, e tutto il racconto eroico dell’ingegnere onnisciente che costruisce universi di codice in grado di salvarci (o di condannarci definitivamente) è leggermente svaporato.

E buonanotte..

Fonte: www.mantellini.it