Figli dell’algoritmo: un continuo Truman Show

Hello Barbie, la bambola interattiva, già nel 2016 sapeva il fatto suo: registrava le conversazioni degli inquilini e le utilizzava per la profilazione dei bambini. 

Uno studio del 2015 di Parentzone.com, per conto di Nominet, aveva invece fatto luce su un dettaglio proprio dello spirito del tempo. E già in quel tempo. Un genitore, verosimilmente, postava circa 1500 foto prima del quinto compleanno del proprio figlio. Ebbene, dagli inizi del primo ventennio del 2000 a oggi, si può ben dire che il celebre quarto d’ora di celebrità di Warhol si annulli definitivamente – anzi, si scioglie – nell’inarrestabile Truman Show di oggi.

Figli dell’algoritmo tutti ma ciò nonostante lo sguardo sul mondo dell’infanzia all’interno dell’infosfera resta una fase primordiale. Ancora oggi oggetto di mutamenti da tenere in forte considerazione – e preoccupazione – visto che riguardano la tutela di chi è appena nato e non può sfuggire al futuro.
Il tracciamento medico nei confronti del neonato assume una sostanziale differenza rispetto al passato. Prima dell’avvento del digitale le mamme annotavano sui propri diari la crescita graduale del figlio in peso e altezza, le ore di sonno e la quantità di cibo da somministrare – i dentini – e tutte queste informazioni rimanevano riservate all’interno del proprio cassetto.
Oggi, invece, le varie informazioni mediche e quotidiane – dalle dimensioni del feto alle liste della spesa — vengono condivise dai genitori attraverso le app, in seguito accessibili a un numero rilevante di aziende su scala globale tramite il business della rivendita dati.

L’abbondanza e la facilità di acquisizione di dati relativi agli utenti del web e alle loro abitudini è molto chiara in un passaggio di un libro intitolato “I figli dell’algoritmo. Sorvegliati, tracciati, profilati dalla nascita” (Luiss University Press) di Veronica Barassi, antropologa e docente universitaria: «Nel marzo del 2019, i risultati di una ricerca pubblicata sul British Medical Journal hanno dimostrato come su 24 app mHealth, 19 hanno condiviso i dati degli utenti con i loro partner e fornitori di servizi (terze parti), i quali hanno a loro volta condiviso i dati con 216 “quarte parti”, tra cui società tecnologiche multinazionali, società di pubblicità digitale, società di telecomunicazioni e un’agenzia di credito (sì, le agenzie di credito stanno raccogliendo i dati dei bambini prima della loro nascita!). Di tutte queste 216 quarte parti, solo tre appartenevano al settore sanitario».
L’aspetto della vendita e dello scambio dei dati personali è un punto focale da trattare con estrema attenzione per quanto riguarda la cultura della sorveglianza nei confronti dei minori. Nel 2016, dunque, era stato dimostrato quello che faceva Hello Barbie, la bambola interattiva. A tal proposito bisogna considerare una falla non indifferente nel sistema legislativo occidentale al fine di preservare i dati di questa specifica fascia d’età.
I bambini, all’interno del proprio spazio domestico, interagiscono con assistenti virtuali non progettati per il loro impiego. Ciò comporta che tali sistemi non sono tenuti a rispettare il Child Online Privacy Protection Act (COPPA) o le norme speciali per i bambini contenute nel Regolamento generale sulla protezione dei dati (GDPR) dell’Unione Europea, approvato nel 2016. Pertanto, la protezione dei loro diritti all’interno di una casa automatizzata risulta particolarmente fragile, soprattutto perché le tecnologie domestiche, utilizzate dagli adulti, non sono obbligate a proteggere i dati dei minori.

Esiste poi un sistema in fase sperimentale che permetterebbe una profilazione digitale davvero massiccia all’interno delle scuole di tutto il mondo, individuando le inclinazioni e le prestazioni personali dei ragazzi, sempre la studiosa Veronica Barassi sottolinea che “i sistemi di riconoscimento emotivo e psicometrico sulla base dell’analisi facciale, di cui HireVue è un esempio, stanno crescendo a dismisura – con stime che si aggirano intorno a un valore equivalente a 24 miliardi di dollari entro il 2024 – e vengono usati anche sui bambini, come dimostra l’esempio delle scuole di Hong Kong”.
Nonostante la crescita esponenziale di queste tecnologie, la scienza su cui si basano è dubbia e non comprovata. Uno dei problemi fondamentali di questi sistemi è il fatto che si basano sulle teorie dello psicologo Paul Ekman, secondo cui esistono sei emozioni “universali” – paura, rabbia, gioia, tristezza, disgusto e sorpresa – innate, interculturali e coerenti, che possono essere lette attraverso l’analisi delle espressioni facciali.

La domanda, quindi, non può essere che una: perché il mercato dei sistemi IA dedicati alla classificazione emotiva cerca la propria validità scientifica nelle teorie di Ekman se queste sono state screditate? 

La risposta è ovvia: le teorie di Ekman sono state adottate perché si adattano perfettamente a ciò che i sistemi IA possono fare.Sei emozioni coerenti possono facilmente essere standardizzate e automatizzate su scala, a patto che vengano ignorati i problemi più complessi. Essere figli dell’algoritmo ci pone ad un nodo statistico e a una vulnerabilità difficile da proteggere soprattutto quando, secondo Business Wire, nel 2010 la società di sicurezza Internet AVG aveva condotto uno studio su Stati Uniti, Canada, Regno Unito, Francia, Germania, Italia, Spagna, Australia, Nuova Zelanda e Giappone, scoprendo che già il 92 per cento dei bambini era online prima di compiere i due anni. Una vera e propria onlife, un puer aeternus applicato all’IA.