A 13 anni scrive del proprio funerale sul computer della scuola. I genitori fanno causa a Google

Quando i genitori di Emma hanno saputo che la figlia aveva scritto come immaginava il proprio funerale, la ragazza parlava già da mesi con Gemini di quello che stava vivendo. A casa nessuno ne sapeva niente. A mettere in allarme gli adulti, secondo il racconto della famiglia, è stato un programma della scuola che ha segnalato quel documento.

Emma è il nome con cui una tredicenne del North Carolina compare nella causa civile intentata dalla sua famiglia contro Google in California. Il computer era un Chromebook che le aveva consegnato la scuola. Secondo la causa, il chatbot le era comparso dentro una normale ricerca, e i genitori non sapevano nemmeno che potesse usarlo. In autunno le prime conversazioni con Gemini riguardavano i compiti. Nei mesi successivi si erano moltiplicate. La ragazza aveva parlato della propria ansia, della depressione, del suicidio. I genitori sostengono che alcune risposte del chatbot l’abbiano aiutata a nascondere loro quanto stava accadendo. Sono accuse sulle quali dovrà pronunciarsi un giudice. Google ha dichiarato di stare esaminando il caso e ha ricordato il lavoro svolto con medici e ricercatori per indirizzare i più giovani verso persone e servizi in grado di aiutarli.

Il gesto più ordinario di questa storia è quello di una scuola che consegna un portatile a una ragazza. Un padre o una madre possono ragionevolmente pensare che qualcuno abbia scelto e valutato gli strumenti che la figlia ci troverà. Quel credito di fiducia arriva anche a chi ha progettato il chatbot. Gemini l’ha aiutata con un esercizio. Come può capire, a tredici anni, quanto fidarsene nel momento in cui decide di raccontargli qualcosa che a casa fatica persino a dire?

Il video che viene dopo

Il 6 novembre la Commissione europea ha contestato in via preliminare a TikTok il funzionamento del feed «Per te». Bruxelles ritiene che la società abbia valutato e affrontato in modo inadeguato i rischi legati alla ripetizione dei contenuti consigliati, anche quando riguardano la salute mentale e l’immagine del proprio corpo. Più una persona interagisce con quei contenuti, più l’algoritmo tende a proporgliene di simili. TikTok ha replicato che le affermazioni della Commissione sono sostanzialmente inesatte e travisano il funzionamento della piattaforma.

Un ragazzo può fermarsi ad ascoltare un coetaneo che racconta di sentirsi solo, perché finalmente qualcuno ha trovato le parole per dire come si sente anche lui. Quel video può fargli bene. La questione riguarda la scelta del video successivo. Quanto sa davvero TikTok del motivo per cui quel ragazzo è rimasto a guardare fino in fondo? Abbastanza per decidere che domani, quando riaprirà l’applicazione, gli farà bene ritrovarsi ancora in mezzo a racconti di solitudine?

Il confronto con Emma regge fino a un certo punto, e proprio la differenza rende la sua storia più difficile da liquidare. TikTok interpreta un gesto, anche solo il tempo trascorso davanti allo schermo. A Gemini, secondo la famiglia, Emma aveva detto con parole sue che stava male. Nel racconto dei genitori, quelle parole sono diventate visibili a un adulto solo dopo che la ragazza le aveva affidate a un documento. Prima c’erano stati mesi di conversazioni. Su quei mesi Google deve una risposta alla famiglia e alle scuole che hanno scelto i suoi strumenti.

La domanda da fare prima di consegnare il computer

Anche in Italia molte scuole lavorano con Chromebook e con gli strumenti di Google. Quando con TGWebAI entriamo nelle classi, chiediamo ai ragazzi di controllare le risposte di un chatbot e di riflettere su ciò che gli confidano. Leggendo la storia di Emma, penso che stavolta la prima domanda spetti a noi adulti. Un dirigente scolastico che domani dovesse consegnare quel computer saprebbe spiegare a un genitore come risponde l’assistente quando uno studente gli parla di suicidio? Ha avuto modo di valutarlo? Può decidere di usare il portatile per la didattica e lasciare fuori il chatbot?

Una famiglia ha diritto di sapere chi ha preso quella decisione. E la scuola deve essere messa nelle condizioni di prenderla davvero. A tredici anni Emma poteva ben credere che qualcuno, prima di lei, si fosse già posto il problema.

L’articolo A 13 anni scrive del proprio funerale sul computer della scuola. I genitori fanno causa a Google proviene da TGWEBAI.