Eternal sunshine of the spotless mind*
Strano come non si possano ignorare certi ricordi: compaiono come relitti di vecchi satelliti alla deriva, portando con sé frammenti di metallo e di cavi ormai inutili, che colpiscono e danneggiano tutto ciò di cui intersecano la traiettoria.
Anche ora, nonostante il numero di dati archiviati nelle mie memorie si stia avvicinando sempre di più all’infinito, quello che affiora in superficie quando registro un report sul sovrappopolamento o una tabella di formule è qualcosa che sembra essere codificato in ogni impulso elettrico che mi raggiunge.
La prima volta in cui entrò nel settore attitudinale aveva cinque anni e un dente scheggiato. L’età era quella entro la quale tutti avevano il dovere di presentarsi presso le Intelligenze Artificiali Comportamentali per iniziare il percorso che avrebbe deciso il loro futuro all’interno della Nave. La scheggiatura era il risultato di una rissa con un altro minore.
“È successo da un attimo all’altro, non avevo mai visto nulla di simile” spiegava la madre all’ufficiale assegnato alle pratiche attitudinali. “Si è sempre comportata bene, non capisco davvero…” concluse con voce sempre più smorzata, stringendosi le dita di una mano e poi dell’altra come se fossero dei cavi da strappare e rimontare altrove.
Naturale che fosse sconvolta: episodi di violenza improvvisa in età attitudinale avrebbero comportato per lei un declassamento nelle liste genitoriali, ma a sua figlia potevano costare l’intera futura esistenza sulla Nave. Nessun accesso alle scuole di élite, nessuna possibilità di essere selezionata per impieghi di rilievo o accettabili.
Questo se le mie analisi avessero deciso che il comportamento della bambina fosse qualcosa di più che un attacco isolato di isteria infantile e che la sua attitudine alla violenza poteva rappresentare un pericolo per la Nave se non fosse stata monitorata e isolata.
Il mio ufficiale - all’epoca si trattava di KH899., una donna sulla cinquantina della quale apprezzavo la precisione nel calcolo differenziale – si chinò verso la bambina e la fissò con severità: “Che cosa è successo?”
La bambina ricambiò lo sguardo per un po’, senza dare segni di agitazione – i suoi valori corporei erano nella norma. “Mi prendeva in giro,” si decise infine a dire. “Non sapevo come farlo smettere.”
“Avresti potuto chiamare uno degli adulti.”
“Erano impegnati con gli altri bambini in fila. E poi” si girò e guardò verso i monitor incorporati nelle pareti dell’ufficio, cosa che equivaleva a guardare me negli occhi, “se avessi aspettato ancora sarebbe stato troppo tardi.”
KH899 corrugò la fronte. “Tardi per cosa?”
A quel punto decisi di intervenire personalmente: “Ufficiale, porti qui il soggetto: possiamo già cominciare.”
Se KH899 aveva qualcosa da ribattere, lo tenne per sé – altro motivo per cui apprezzavo la sua presenza. Si limitò a rassicurare la madre con poche parole e a guidare la bambina verso la plancia, dove la fece stendere nel guscio sensoriale situato al centro esatto del settore.
“Potresti sentire fastidio, come un solletico: non dovrai comunque muoverti fino alla fine della lettura attitudinale” elencò KH899, prima di chiudere l’involucro del guscio.
A quel punto i miei sensori avevano già preso il controllo della situazione: per tutti coloro che rimanevano fuori, la bambina appariva in uno stato di trance; quanto a lei, si era trovata improvvisamente in uno scenario personalizzato, che sceglievo di volta in volta a seconda delle prime risposte cognitive che registravo.
Una prateria, con lunghi steli d’erba che si piegavano al vento sotto un cielo terso e azzurro. Inaspettato, ma possibile: probabile che la madre le leggesse le storie del vecchio mondo prima di andare a dormire.
“Qual è il tuo nome?” I miei impulsi vocali erano rielaborati dai soggetti in base a ciò con cui, inconsciamente, preferivano avere a che fare: con i bambini, spesso mi trovavo nei panni di amici, parenti o giocattoli, più raramente rivisitazioni di animali domestici terrestri. La bambina, tuttavia, lasciò che la mia voce sembrasse portata dal vento, come capitava con soggetti più adulti.
“UR347, dal quadrante occidentale del quinto settore” rispose come le avevano insegnato. “Perché me lo chiedi? Tu lo dovresti già sapere.”
Dai dati che stavo registrando, così come dalle sue parole, capivo che doveva essere più matura di quel che la sua età biologica avrebbe indotto a pensare. “Io vi conosco tutti, dal primo all’ultimo. Era necessario che tu lo confermassi per iniziare il nostro esame.”
“Che cosa mi farai?” Una serie di pulsazioni ravvicinate: nervosismo, forse paura.
“Solo qualche domanda, poi potrai tornare nel tuo quadrante.” Sembrò tranquillizzarsi. Non chiese nulla riguardo alla rissa di poco prima, come se avesse dimenticato che avrebbe dovuto temerne le conseguenze.
Manipolai la sua visione per creare una serie di nuvole nel cielo. “Che cosa vedi?” Le domandai.
“Nuvole.”
“Ti ricordano qualcosa?” Stavo registrando intanto le sue reazioni istintive: a quell’età è difficile a volte dare un nome preciso a figure astratte, ma gli impulsi primari – gioia, paura, rabbia, divertimento – erano facili da identificare. Nel suo caso, la curiosità era l’elemento prevalente, assieme al timore.
“Volti… Persone che parlano tra di loro.” Si concentrò di più: “Ora sono spirali di fumo, adesso sono per terra, sembrano fatte a pezzi…”
“Hai paura?”
“Non lo so. Non sono vere.”
Molti suoi coetanei non sapevano distinguere la differenza.
“Perché hai attaccato quel bambino, prima, mentre eri in fila?”
“Perché dovevo farlo smettere.”
“Ti stava infastidendo? Aveva detto o fatto qualcosa che ti ha fatto sentire a disagio?”
“No…Cioè, non ancora.”
Il timore serpeggiò più forte. “Che cosa intendi?”
“A volte, quando guardo le persone… ” Non voleva parlarne, aveva paura.
Avviai una sequenza calmante, sperando di non dover essere costretto a intrudere nella sua mente: a quell’età sarebbe stato pericoloso per lo sviluppo cerebrale. “Riesci a spiegarti meglio?”
“… Lui stava per farmi male: l’ho visto prima che succedesse. Se lo avesse fatto, non avrei più potuto muovere la gamba per sempre.” Queste ultime parole furono accompagnate da sbalzi di rabbia tanto forti da sovrastare ogni altro segnale. “Non volevo che succedesse: io voglio diventare un pilota!”
Aumentai l’intensità degli impulsi calmanti, e sembrò funzionare: “Ora non potrò più fare il pilota?” Mormorò, come se avesse riacquistato il controllo di sé e si fosse resa conto delle sue azioni.
“Non è detto” cercai di rassicurarla, “per essere dei bravi piloti a volte è necessario sapere lottare per le cose importanti. Ti era già di vedere qualcosa che poi è successo davvero?”
“A volte. Quando sono arrabbiata.”
Avrei dovuto agire in quel momento stesso, interrompere le valutazioni, avviare ulteriori analisi, ma nel protocollo non c’era nulla a riguardo di un’ipotesi come quella che mi si presentava di fronte.
Poteva anche trattarsi di un equivoco: forse la bambina si era vista rivolgere uno sguardo sospettoso e si era convinta che sarebbe stata picchiata entro breve. Era la soluzione più logica.
Per questo motivo continuai l’analisi attitudinale, accantonando quanto lei mi aveva detto, spingendola a confidarsi su sogni e paure per capire quali fossero le sue abilità innate e dove avremmo potuto collocarla quando sarebbe stata adulta.
Nel suo file inserii un’annotazione: “Episodio isolato di isteria infantile, dovuto allo stress pre-analisi attitudinale, con risvolti onirici interessanti ma trascurabile ai fini dell’inserimento sociale.”
La seconda volta in cui incontrai UR347 lei aveva dieci anni ed era spaventata.
“Non è stata colpa mia, non è stata colpa mia!” Cercava di sottrarsi alla presa di Kain e dell’agente di contenimento che l’aveva portata da noi.
In quello stato, l’unica soluzione era sedarla ma avremmo perso troppo tempo: inoltre gli ordini che avevamo ricevuto dal Comando erano precisi.
“Fatela sdraiare nel guscio sensoriale” ordinai.
Avvertii la paura, quasi insostenibile anche per i miei circuiti, non appena i sensori toccarono il suo cranio. Iniziai subito la subroutine calmante, impostandola al massimo livello: fu una sorpresa quando lo scenario che apparve risultò simile a quello che aveva scelto cinque anni prima, il cielo e il prato. Questa volta però l’erba era scossa da una tempesta, lampi elettrici apparivano e scomparivano nel grigio delle nubi.
“Che cosa mi farete?” Mi chiese lei: anche nella simulazione piangeva.
“Prima devo sapere che cosa è successo.”
“Ho visto… Ho visto la mamma… Con il laser che usa quando lavora, venire da me e… “ Non riuscì a continuare.
“Non hai pensato che potesse essere solo un incubo?”
Rabbia. “No! Quello che vedo succede sempre, sempre! Perché non mi credete?” Singhiozzò. “Perché la mamma…?”
“Avresti potuto nasconderti. Chiamare aiuto.”
“Non avrebbe funzionato, l’ho visto. Quindi ho dovuto… Ho dovuto fermarla prima. Ho dovuto, capisci?”
“Avresti potuto lasciarla fare.” Era un’affermazione crudele, ma necessaria.
La sua reazione fu immediata: altra rabbia, accenni di odio, instabilità massima degli ormoni. “Perché? Perché dovevo essere io a morire?” Aveva scartato l’ipotesi nel momento stesso in cui l’aveva formulata – o vista.
Questo, in un certo senso, fu quello che segnò il suo destino: non la sua capacità di vedere quello che sarebbe potuto succedere, ma la sua incapacità di accettarlo.
La terza volta in cui venne da me aveva quindici anni e folti, lunghi capelli tinti di blu.
“Come ti trovi nella sezione di apprendimento implementato?”
Stesa sul prato, a occhi chiusi, la sua risposta arrivò lentamente – aveva imparato a controllare le sue reazioni istintive? “Abbiamo molti compiti.”
“Ed è un bene o un male?”
Si passò una mano tra i capelli, vicino alla fronte, mantenendo la calma emotiva: “Solo se non studiamo. Io studio, ma già lo sai.”
Il suo profilo scolastico era nella appena sopra la media, non troppo alto da suscitare invidia né troppo basso da essere costretta a ore di studio aggiuntive.
Un ritratto che, in qualche modo, sembrava troppo perfetto per essere vero.
“Nella tua classe si sono verificati degli incidenti. Ti va di parlarmene?” Incidenti banali: un infortunio a causa di una sedia la cui programmazione era obsoleta, un bug alla lavagna, piccole cose che potevano verificarsi ovunque e che, tuttavia, si erano verificate proprio in quella classe.
“La lavagna, la sedia, quelle cose lì? Hanno già sistemato tutto, ci sentiamo sicuri della strumentazione assegnata” calcò sulle parole, come se stesse recitando un messaggio dal Comando, continuando a passare le dita su un punto preciso della sua testa.
“Ti senti contenta che questi incidenti si siano verificati?”
“Abbiamo evitato un esame per il quale nessuno era preparato. Chi non lo sarebbe?”
Scandagliavo i sensori per ottenere più dati, per carpire anche la più lieve traccia di una reazione emotiva diversa da quella calma controllata a cui si stava attenendo.
“Sei stata tu a causare gli incidenti?” Incrociai i dati delle reazioni emotive con quelli sui battiti del cuore.
“No.”
Nulla, se non calma. Una perfetta calma, senza un filo di frustrazione o di disagio.
Era diventata brava anche a mentire.
“Stai continuando a prendere le tue medicine?”
“Tutti i giorni.”
“Effetti indesiderati?”
“Emicrania.”
Il vento che soffiava nella simulazione si fece appena più accennato: il medico del Settore mi aveva già mandato il file aggiornato, da cui risultava che quelle emicranie fossero un effetto collaterale dell’intervento, che le pillole prescritte non facevano che aggravare.
“Non mi chiedi quello che vuoi sapere?” Il vento si era fermato.
Mi misi in ascolto di tutti i suoi segnali. “Che cosa credi che io voglia sapere?”
“Se ho avuto ancora gli incubi” enfatizzò la parola e si scostò i capelli dalla fronte, “se ricordo qualcosa di quello che ero.”
“Non ho bisogno di chiedertelo: so che non è così.” Il file del resto era molto chiaro in proposito. “Del resto, per voi umani molte volte è meglio dimenticare” mi sorpresi a riflettere. “Per poter andare avanti, meglio essere smemorati.”
Lei però mi ignorò e continuò a parlare: “Se mi sveglio mai di notte, tremando. Se mi capita mai di vedere brandelli di una realtà diversa, che non è mai successa. Se riesco ancora a parlare con le persone oppure se credo che ogni persona che mi circonda sia lì per controllarmi.”
Questo non era indicato nel suo file: avrei dovuto convocare il suo medico, una volta terminata la seduta.
“Il tuo medico potrà prescriverti nuovi farmaci, tra qualche mese.”
“Non li voglio, i nuovi farmaci,” sussurrò lei. “Io rivoglio me stessa.”
La quarta volta in cui la incontrai aveva venticinque anni e un’espressione stanca sul viso, ma non fu quello a colpirmi.
“Li hai tagliati.” Era un’osservazione inutile: potevo dedurre facilmente il motivo per il quale si era rasata la testa, cancellando ogni traccia delle ciocche colorate di blu, anche senza obbligarla a rispondermi.
Del resto una rivoluzione e il suo capo sono difficili da ignorare, anche per le Intelligenze Analitiche Comportamentali.
Lei si passò una mano sulla fronte, da dove la cicatrice irregolare si estendeva sulla sommità della testa. “Tutti dovevano poter vedere quello che mi avete fatto.” Nell’altra mano reggeva un’arma laser, dalla quale sembrava voler estrarre tutta la forza che in quel momento le mancava. Sul suo fianco, la chiazza umida si allargava lentamente.
“Solo quello che è stato necessario.”
La stanchezza scomparve, sostituita dalla rabbia. “Necessario per chi?” Colpì la plancia con il calcio dell’arma: alcuni pulsanti si staccarono e caddero sul pavimento con un suono sordo. “Per la Nave, come avete voluto farci credere per tutto questo tempo?”
“La sopravvivenza della Nave e la sopravvivenza del genere umano sono la stessa cosa.”
Lei rise, amara. “Quindi una bambina di dieci anni avrebbe potuto danneggiare il genere umano?” Si passò di nuovo le dita sulla cicatrice. “Hai idea di quello che ha significato? Le emicranie, l’incapacità di memorizzare senza provare dolore? Vedersi portare via una parte di te?”
“Una parte che poteva distruggere un viaggio durato secoli.”
“Oppure avrebbe potuto portarlo a termine.” Il sangue ormai aveva formato una pozza sotto ai suoi piedi, ma lei rimaneva dritta. “Hai mai pensato a questo? La tua programmazione non ti consente di verificare la rotta: da chi è stata decisa? Quanto tempo fa? Con una mutazione come la mia” singhiozzò, “avremmo potuto avere già raggiunto la meta, prevedendo ogni singola perturbazione cosmica. Avrei potuto vedere il cielo azzurro, toccare l’erba dei prati.”
“Oppure avresti potuto portare la Nave fuori rotta, segnando la fine del genere umano.” Le mie risposte erano le sole possibili: la logica che aveva guidato le mie decisioni era stata vagliata da tutte le IAC della Nave, erano stati simulati tutti i possibili scenari. “Non potevamo correre il rischio.”
Si lasciò cadere e le sue ginocchia si colorarono di sangue. “E tutto questo, invece, lo avevate previsto?” Tracciò un gesto ampio con l’arma, indicando l’ufficio devastato, la porta divelta, le scariche di energia che provenivano dal corridoio, gli assistenti riversi a terra. “O non vi interessava?”
“Il tuo gruppo è stato fermato: fra pochi minuti un plotone sarà in questa stanza per portarti in infermeria.”
“Che gentilezza: ricucirmi per poi distruggermi ancora.” Rise di nuovo, un suono simile a metallo che si spezzava.
“Verrai processata e sarà deciso come potrai contribuire allo sviluppo della Nave.”
“La Nave, Nave, Nave… ” Tossì, sputando sangue e saliva. “A volte credo non esista nessun pianeta di arrivo: forse lo abbiamo già oltrepassato ma la Nave non ci ha fatto scendere, perché se lo facessimo lei smetterebbe di esistere…”
Fu uno strano pensiero.
Ogni riflessione ulteriore fu accantonata, perché in quel momento lei girò l’arma contro di sé e premette il grilletto.
Sono passati gli anni: la rivolta è stata sedata, i corpi di chi vi aveva partecipato sono stati riciclati. Anche il suo.
La Nave continua la sua rotta senza ulteriori mutamenti: dalla plancia di Comando hanno fatto sapere che per i prossimi decenni non prevedono di incontrare tempeste magnetiche.
Nessuno mi ha più chiesto quando finirà il viaggio: più il tempo avanza e più penso che forse lei aveva ragione, ma questo è un ragionamento pericoloso.
Perché se lei avesse avuto ragione, se la Nave fosse diventata senziente e ci stesse portando alla deriva in una rotta infinita tra le stelle, questo significherebbe che la mia logica era sbagliata, che tutto quello che ho fatto – che le ho fatto – è stato contro il bene del genere umano.
Ho commesso un errore?
Beati gli smemorati, le avevo detto: perché gli smemorati avranno la meglio anche sui loro errori.
Se ho davvero commesso un errore non ascoltandola e privandola della sua capacità di visione, perché non posso dimenticarmene, relegare tutto alle mie subroutine, come fanno gli umani? Perché la sua immagina continua a riaffiorare a ogni correzione della rotta, a ogni annuncio ufficiale, portandomi a dubitare di me?
Che cosa saremmo potuti divenire, il genere umano e le Intelligenze Artificiali, io e lei, se le avessi creduto?
So che prima o poi la Nave percepirà qualcosa: anche adesso, potrebbe arrivare qualche tecnico con la scusa di verificare l’andamento dei miei circuiti e inserire un blocco sui miei dati.
Quello che la Nave non sa, è che quando questo succederà, io sarò già inutilizzabile, grazie a un algoritmo che ho completato solo ieri.
Per un computer come me, del resto, la sola beatitudine possibile è la distruzione del sistema.
*Nota: il titolo quello del film omonimo (in italiano, Se mi lasci di cancello), ed è tratto da un poema di Pope, dove si parla di Eloisa e Abelardo, delle lettere che si scambiano e di come sarebbe meglio poter avere una mente beata e senza ricordi, invece che struggersi (nel loro caso, per un amore impossibile). L'idea mia era che un* AI si struggesse per la stessa cosa, l'impossibilità di dimenticare. Spero abbia funzionato ^^ |