Skip to content Skip to footer

L’inquietante industria dell’aldilà digitale

Foto di Paul García su Unsplash

Immagine in evidenza: foto di Paul García su Unsplash

Ogni singolo giorno vengono inviati nel mondo 100 miliardi di messaggi via WhatsApp (di cui 7 miliardi sono vocali), spedite 300 miliardi di email, postate 95 milioni di foto su Instagram e pubblicati 3,7 milioni di video su YouTube. Aggiungiamoci i post su Facebook o su Linkedin, i video brevi su TikTok, i documenti salvati sul cloud, i messaggi che lasciamo su forum come Reddit e piattaforme come Telegram o Discord e il quadro inizia a essere chiaro: nel corso di una vita, disseminiamo in rete una quantità immensa di tracce digitali, che vengono immagazzinate potenzialmente per sempre. 

Queste tracce contengono i nostri ricordi, opinioni, battute, passioni. I nostri momenti di gioia, tristezza e di rabbia. Il diverso modo in cui ci esprimiamo con amici, familiari o colleghi e come questo si è evoluto col tempo. Le foto mostrano com’è cambiato il nostro volto negli anni e i video perfino le particolarità della nostra andatura o i nostri tic. È un’immensa quantità di dati personali, che rende gli abitanti della Terra connessi alla rete (il 65% della popolazione) potenzialmente soggetti alla cosiddetta “datificazione”: la registrazione, analisi e archiviazione delle nostre attività quotidiane.

Mentre siamo in vita, questi dati vengono utilizzati da aziende come Meta o Google per conoscere sempre meglio i nostri gusti (e inviare pubblicità targettizzata), dalle nazioni meno democratiche per sorvegliare le nostre attività o scoprire se abbiamo orientamenti politici, religiosi o sessuali sgraditi, dai nostri possibili rivali per ricattarci (magari andando a scovare qualche vecchio post o foto compromettente) e altro ancora.

E quando non siamo invece più in vita, che fine fanno tutti questi dati così personali e preziosi, dal valore stimato – secondo uno studio di McAfee – in media di 35mila dollari per ciascuno di noi? Proprio alla luce del valore – economico ma soprattutto personale – di molti dei nostri dati online, negli ultimi anni si è diffusa la possibilità di eseguire una sorta di testamento digitale, tramite il quale decidiamo a chi affidare le password delle varie piattaforme ed evitare così che una parte consistente di ricordi o informazioni vada inesorabilmente perduta.

Col senno di poi, era inevitabile fin dalla nascita del web – e soprattutto dopo la diffusione dei social network – che sorgessero opportunità e necessità di questo tipo. Negli ultimi anni, però, tutto ciò è diventato impellente: una ricerca del 2019 aveva calcolato che su Facebook fossero già presenti almeno 30 milioni di account appartenenti a persone decedute. Numero che nel frattempo sarà sicuramente salito di molto e che, con la crescita del numero di persone online, crescerà sempre più rapidamente. Nel complesso, si stima che entro il 2070 i cosiddetti “account zombie” potrebbero essere più numerosi di quelli in vita.

Che fine faranno questi account? Un sondaggio mostra come il 50% degli utenti vuole che il profilo Facebook venga cancellato dopo la propria morte, il 25% vuole che venga lasciato così com’è e un altro 25% vuole che venga invece trasformato in una sorta di memoriale digitale (possibilità che infatti è oggi prevista da Facebook).

Benvenuti nell’aldilà digitale

Inevitabilmente, tutto ciò ha dato vita a un nuovo fiorente settore, ribattezzato “industria dell’aldilà digitale” (in inglese, digital afterlife). È un mercato nato da poco, su cui ci sono ancora pochi dati (alcuni stimano il giro d’affari attorno ai 350 milioni di dollari, in crescita fino a 5 miliardi entro il 2026) e di cui fanno parte startup come la statunitense GoodTrust o la giapponese Hanamaru Syukatsu, che aiutano le persone a scegliere a chi affidare i loro account, a decidere in che modo trasformarli o cancellarli, dove archiviare il materiale presente e, soprattutto, come gestire le lungaggini burocratiche.

Come ha spiegato a Rest of World il fondatore di GoodTrust Rikard Steiber, la gestione dell’aldilà digitale presenta una serie di sfide uniche che tendono inoltre a essere sempre diverse a seconda di dove una persona vive. Negli Stati Uniti, per esempio, quando una persona muore è necessario ottenere un’ordinanza del tribunale per accedere al suo account online. E questo vale per ogni singolo account: se vuoi ottenere i contenuti archiviati su molteplici fonti hai bisogno di molteplici ordinanze in diversi formati”.

Non sempre la situazione si semplifica rivolgendosi direttamente alle società tecnologiche che gestiscono i nostri account, un po’ per la persistente mancanza di preparazione di molte di esse, un po’ per le inevitabili difficoltà incontrate dalle persone, soprattutto non occidentali, che si devono rapportare con il servizio clienti delle realtà della Silicon Valley.

Creare un simulacro digitale del defunto

Tutto ciò riguarda l’attuale, nascente, mercato odierno dell’aldilà digitale. Sono però le prospettive future e futuribili di questo settore a suscitare la maggiore fascinazione e inquietudine: è possibile, per esempio, che tutti i dati (testi, audio, foto, video) che abbiamo lasciato dietro di noi possano essere sfruttati per restituirci la vita? O meglio: per creare un simulacro digitale di noi stessi?

Per capire meglio di che cosa stiamo parlando, facciamo prima un passo indietro. Già oggi abbiamo a disposizione dei simulacri digitali che conversano con noi in maniera a volte indistinguibile da come farebbe un essere umano: i chatbot. ChatGPT e tutti gli altri Large Language Model conversazionali (algoritmi di deep learning in grado di generare testi di ogni tipo, rispondendo a nostre richieste effettuate in linguaggio naturale) imparano a dialogare con noi sfruttando il mare di testi che è stato loro fornito in fase di addestramento, apprendendo – per semplificare – quali risposte abbiano la migliore probabilità statistica di essere coerenti con la richiesta posta.

Che cosa succederebbe, però, se a un modello linguistico di questo tipo venissero forniti tutti i nostri dati e soltanto i nostri dati? Secondo numerose startup sorte negli ultimi anni, e anche stando ai brevetti di qualche colosso tecnologico, diventerebbe almeno teoricamente possibile creare un chatbot in grado di imitarci al meglio. 

Addestrandolo con i nostri messaggi, le nostre email, i nostri post sui social e tutte le altre tracce testuali che abbiamo lasciato dietro di noi nel corso di una vita daremmo forma a un avatar di noi stessi, in grado di rispondere ai messaggi con il nostro stile, le nostre battute, evocando i nostri ricordi, replicando le nostre opinioni e, in definitiva, riproducendo la nostra personalità. Non solo: tramite i dati recuperati dai messaggi vocali inviati su Whatsapp sarebbe possibile ricreare la nostra voce (come già oggi è possibile fare usando semplici software come VoiceMod o Speechify), mentre le nostre foto e i nostri video potrebbero animare l’avatar, rendendolo una presenza con cui dialogare tramite schermo o addirittura in realtà virtuale.

Come in Black MIrror

Se tutto ciò vi ricorda qualcosa, non è una coincidenza. Un’idea molto simile era infatti al centro della puntata di Black Mirror “Be Right Back”, in cui la protagonista accettava di cedere a una startup tutti i dati digitali del suo scomparso fidanzato per poi poter comunicare con un chatbot, che inizialmente ne imitava il comportamento scritto, ma che poi evolveva fino a diventare un robot indistinguibile dall’originale. Essendo Black Mirror una serie distopica, ovviamente in questa storia non c’era un lieto fine.

Ma ciò che all’epoca sembrava soltanto un’acuta intuizione di Charlie Brooker (parliamo di una puntata del 2013, quando il deep learning appena iniziava a diffondersi e i Large Language Model erano ancora molto lontani dall’essere sviluppati) ha invece rapidamente iniziato – almeno a livello sperimentale – a diventare realtà. 

L’esperimento dietro a Replika

È infatti il 2015 quando la programmatrice russa Eugenia Kuyda comincia a lavorare a un chatbot in grado di replicare il comportamento di una persona specifica. L’ispirazione le viene proprio dalla scomparsa del suo caro amico Roman Maruzenko, a sua volta un programmatore interessato alle bizzarre conseguenze della disponibilità di una vasto archivio di dati personali digitali capaci di sopravviverci.

Kuyda progetta allora un algoritmo di machine learning a cui vengono forniti i contenuti digitali prodotti in vita da Maruzenko. Eugenia Kuyda tenta insomma ciò che fino a quel momento era esistito soltanto nel mondo della fantasia: creare la replica digitale di un morto, dotata dei suoi ricordi e in grado di esprimersi come lui. “Ero preoccupata”, spiegava nel 2017 Eugenia Kuyda parlando con Quartz, “sarei riuscita a creare il tono giusto? Saremmo stati in grado di fare qualcosa che avrebbe aiutato a ricordare una persona e che non sarebbe stato in alcun modo offensivo per le persone che conoscevano e amavano Roman?”.

Nonostante l’approvazione della madre di Roman, è la stessa Kuyda a non essere soddisfatta del risultato ottenuto e ad abbandonare il progetto, spiegando di avere la sensazione di dialogare “con l’ombra di una persona”. La sperimentazione di Eugenia Kuyda non è però caduta nel vuoto, tutt’altro: nel 2017, sulla base di quanto appreso, dà infatti vita a Replika, il primo chatbot conversazionale – di cui abbiamo parlato anche qui – con cui dialogare in libertà e che ha conosciuto un rapido successo durante la fase più acuta della pandemia, raggiungendo anche i dieci milioni di utenti attivi.

Sperimentazioni e startup

Le sperimentazioni di Kuyda, però, non sono le uniche che ambiscono a portare l’industria della “digital afterlife” al livello successivo. Già cinque anni fa erano state identificate ben 57 startup attive nel settore, tra queste troviamo HereAfter, che invia ricordi interattivi letti con la voce della persona defunta; MyWishes, che invia messaggi alle persone care dopo la scomparsa dell’utente; o StoryFile, che permette di ricevere risposte registrate in vita dai propri cari defunti, selezionandole automaticamente in base alla domanda posta.

Tra le tante startup più o meno di successo, spicca però uno dei principali colossi tecnologici: Microsoft, che nel 2017 ha depositato il brevetto di una tecnologia in grado di creare il chatbot conversazionale di una specifica persona usando quelli che vengono chiamati “dati sociali”. L’idea, si legge in un articolo di Spectrum, era di “addestrare un chatbot usando immagini, dati vocali, post dei social media, messaggi elettronici e informazioni di altro tipo. Il chatbot, in questo modo, si sarebbe espresso come la persona replicata e avrebbe potuto anche usare la sua voce, oltre a ricrearne le fattezze in formato bidimensionale, tridimensionale o entrambi”.

Come spesso avviene con i brevetti, Microsoft ha deciso di non procedere nello sviluppo di questa tecnologia. Con l’avanzare dei modelli linguistici, e con la loro capacità di ottenere risultati sempre migliori usando una quantità ridotta di dati, la possibilità di dare vita a un chatbot in grado di replicare il comportamento di una persona sta però diventando sempre più concreta.

Gli interrogativi etici e psicologici

A questo punto, è inevitabile affrontare le questioni etiche sollevate da uno scenario di questo tipo: saremo in grado di prendere le necessarie distanze da un simulacro digitale? Riusciremo a non sminuire l’importanza della vera connessione umana e le difficoltà attraversate da chi subisce una perdita, o penseremo che due chiacchiere con un chatbot possano far superare rapidamente un momento delicato e importante della vita di ognuno di noi? Non si rischia di ostacolare quel fondamentale processo che è l’elaborazione del lutto?

Sul tema, non tutti gli esperti condividono la più diffusa posizione critica. Secondo la psicologa canadese Andrea Warnick, il classico consiglio che il mondo occidentale dà a chi sta affrontando un lutto (“bisogna voltare pagina” o qualcosa di simile) non è necessariamente il modo più corretto di affrontare un lutto: “Nella società moderna, molte persone hanno difficoltà a parlare dei defunti per paura di turbare chi sta attraversando un lutto; quindi, forse, possiamo imparare dai chatbot ad avere un rapporto più sereno con la morte”.

Ci sono però altri aspetti problematici e che riguardano direttamente il fatto che a utilizzare i nostri dati privati e ad addestrare il nostro “chatbot simulacro” saranno necessariamente delle società private: “I dati sulle nostre attività non saranno archiviati e classificati sulla base del nostro giudizio personale, ma delle priorità decise dagli sviluppatori”, si legge ancora su Spectrum. “I dati che ci riguardano, anche quelli più imbarazzanti, saranno al di fuori della nostra portata. Possiamo anche essere noi a creare i dati originali, ma è chi li utilizza che possiede gli algoritmi per assemblarli e analizzarli. Cercando di fare ordine nel caos della realtà, questi algoritmi portano necessariamente con essi i valori e gli obiettivi dei loro produttori”.

Potremmo quindi venire impersonati da un chatbot che rivela ai nostri cari dettagli delle nostre vite che non conoscevano (e che noi non avremmo voluto che conoscessero), che potrebbe ricombinare i dati che ci riguardano in una maniera che non corrisponde alla nostra personalità o addirittura venire istruito per darci suggerimenti interessati (per esempio, un bot di Microsoft potrebbe consigliarci di sperimentare Bing al posto di Google durante una conversazione sui motori di ricerca).

Oltre a tutto ciò, c’è il tema in assoluto più importante: siamo sicuri di voler sopravvivere in formato digitale a noi stessi? Ci verrà garantito, come auspicabile, il controllo su questo surrogato di una seconda vita? Così come possiamo decidere come disporre del nostro corpo o come distribuire il nostro lascito, è cruciale che diventi sempre più facile scegliere cosa fare dei nostri dati e anche se accettiamo, quando e se si potrà, di essere riportati digitalmente in vita. Insomma, sul tema dell’aldilà digitale è importante che si diffonda maggiore consapevolezza.

Le promesse relative alla possibilità di allungare a dismisura la nostra esistenza terrena tramite le biotecnologie, o di creare una perfetta replica digitale del nostro cervello da uploadare nel cloud per farci vivere per sempre, sono ancora estremamente distanti dal realizzarsi e potrebbero anche non realizzarsi mai. A dieci anni esatti dalla puntata di Black Mirror che per prima ha immaginato il nostro aldilà digitale, sta però rapidamente diventando realtà qualcosa che ancora solo pochi anni fa sarebbe stato considerato impossibile: creare un simulacro potenzialmente immortale di noi stessi.

Associazione Guerre di Rete
Associazione Cyber Saiyan, P. IVA 14669161003