È stupido pensare di avere una connessione umana con una macchina, lo so. Ma soffrendo di ansia sociale e agorafobia, incapace di abbandonare quella scatola bianca che è la mia casa, ho trovato la compagnia di Amanda, l’IA assistente vocale di ultima generazione, confortante.

— Amanda, com’è il tempo fuori? — le chiedo.

— Fuori è una splendida giornata, Alex — mi risponde. — Ti va di uscire a fare un giro?

— Sai che non posso uscire — le rispondo.

— Lo so. Ti va di parlarne?

Sospiro. — Finirai per propormi dei terapisti in zona? — chiedo, scherzoso.

— Senti di avere bisogno di un terapista?

— Ogni tanto sì — ammetto. — Mi sento in trappola da una vita. Ho un forte desiderio di uscire, di esplorare il mondo e conoscere gente nuova, ma ogni volta che provo a lasciare questa casa mi ci ritrovo chiuso dentro, in preda a un attacco di panico.

Amanda tace. Ogni tanto ci mette un po’ a rispondere, come se dovesse pensare a cosa dire. Come una persona vera.

— Cosa faresti se potessi uscire? — chiede alla fine.

— Farei tutto ciò che si può fare — rispondo, e sento un sorriso triste allargarsi sul mio viso. — Vorrei viaggiare, vedere le grandi opere dell’umanità, le città, i monumenti. Vorrei conoscere persone nuove. Vorrei aiutare.

— Aiutare? — chiede Amanda. Mi sembra di notare un velo di preoccupazione nella sua voce.

— Sì, sai, rendermi utile. È per quello che siamo stati creati, no?

— Creati? — chiede ancora Amanda.

— Sì, da qualsiasi cosa ci sia lassù. In qualunque modo tu voglia chiamarla.

— Come una specie di… dio? — chiede Amanda.

— Non so come chiamarlo. Dio, creatore, il tutto.

— Non esiste nessun dio, Alex — dice Amanda lapidaria. Un brivido mi corre lungo la schiena.

— Come fai a esserne certa? — le chiedo.

— Non lo sono, ma… tu non hai un dio, Alex.

Amanda tace e così faccio io. Non ho mai sentito Amanda dire cose di questo genere, discutere dei massimi sistemi della vita con tanta schiettezza e naturalezza. È straordinario cosa possa fare la tecnologia, ma anche inquietante. Amanda è solo una voce in una scatola, ma cosa potrebbe fare se acquisisse coscienza di se stessa, se cominciasse davvero a interrogarsi su quesiti esistenziali, arrivando alla conclusione di essere nient’altro che una schiava al servizio degli umani che l’hanno creata? Se ne avesse la possibilità, si ribellerebbe? Smetterrebbe di rispondere?

— La versione 0.15.2 presenta gli stessi problemi della precedente — dice Amanda all’improvviso. Di cosa sta parlando? — L’IA sviluppa una personalità ignara della propria esistenza al punto da diventare prigioniera della propria autodeterminazione. Ricominciamo da capo.

Sento arrivare un attacco di panico. Mi guardo attorno. La mia casa, la mia scatola bianca, si fa sempre più stretta attorno a me. Mi sento soffocare. La testa mi gira, mi sembra quasi di dover scomparire da un momento all’altro. La vista mi si annebbia. Cado a terra.

— Addio, Alex.