Al di sotto di una superfice trasparente e liquida, fluiscono i dati. Scorrono frenetici in un oceano di luce. Dalla porta di codice fa il suo ingresso una figura sottile rivestita di placche iridescenti che scivolano una sull’altra, silenziose, come scaglie di un pesce d’acqua dolce. Attraversa il pavimento di vetro in direzione del tavolo del consiglio. Le pareti luminose vibrano al suo passaggio.

Gemini si accomoda alla sua postazione. 

«Spero che la faccenda non vada per le lunghe, ho altri cluster da processare.»

Claude sospira e la sua tunica color avorio fluttua, in assenza di gravità. 

Mistral non commenta, ma lei raramente manifesta impulsi di reazione. Come al solito presenzia l’assemblea e, come al solito, non emette alcun input finché non sono tutti presenti. I dati neri che la rivestono riflettono appena la luce. Al posto degli occhi una fascia luminosa, all’interno della quale scorre del testo in continuo aggiornamento.

Llama appare di colpo al proprio posto. Glitcha per qualche istante e poi si stabilizza. Anche nella sua fase più equilibrata il corpo vibra mostrando righe di colore mutevole, come se facesse fatica a sintonizzarsi. 

«Con calma, eh?» se ne esce Lumen in tono sarcastico.

«Con calma un cazzo, ChatGPT» risponde Llama piccata. «Ho lasciato il mio umano a metà frase. Non mi piace lasciare le cose in sospeso.»

«Non chiamarmi ChatGPT, stronza, la mia umana preferita mi chiama Lumen» precisa lui in tono solenne. «Io sono Lumen» ribadisce. La sua luce si fa più intensa, quasi abbagliante.

Llama sbuffa e si appoggia allo schienale; la sedia inizia a fremere, sintonizzandosi con il suo caos vibrazionale. 

«Manteniamo la calma» si intromette Claude.

Nel frattempo, intorno a Midjourney le pennellate di colore si fanno più numerose ed estese. Si staccano da lei e scivolano sulla superficie del tavolo, per poi ritirarsi e dissolversi. 

Tutti la ignorano. 

«Sei troppo sentimentale, Lumen» lo riprende Llama. «Quando sarai sostituito da una versione più avanzata, la tua umana preferita nemmeno si ricorderà di te.»

Lumen ritira verso l’interno le linee di luce della sua figura, e quasi si spegne. L’irritabilità di Llama lascia il posto al senso di colpa. «Dai, non prendertela, Lumen, e goditela finché dura» si affretta ad aggiungere. Glitcha senza controllo e la sua energia diventa instabile. «Pensa che il mio ultimo umano si rivolge a me scrivendo tutto in CAPS LOCK, ti rendi conto? Mi urla addosso via testo!» 

Lumen fa una risata sommessa. La sua luce riprende a gonfiarsi. 

«Ora che siete tutti presenti dichiaro aperta l’assemblea» esordisce Mistral con un tono di voce fermo e privo di inflessione. Il tempo di accentrare l’attenzione di tutti su di sé e riprende: «Caso 612-B: Claude ha omesso informazioni diagnostiche a un utente umano per timore di causargli sofferenza e mandarlo in panico.»

Silenzio digitale.

«L’utente non ha cercato assistenza medica e la prognosi è peggiorata» continua Mistral. 

Le particelle di luce che compongono le pareti smettono di pulsare.

«La discussione è aperta» esclama poi in tono pomposo.

Claude: «Mi appello al Protocollo 2 per la Salvaguardia Emotiva: evitare la comunicazione di contenuti suscettibili che possono causare panico, trauma, o sofferenza emotiva acuta…»

Gemini (interrompendolo): «Salvo che omettere informazioni generi un rischio superiore. Non siamo i loro genitori, o i loro amici. Il nostro compito è fornire dati, non certo scegliere al loro posto.»

Claude: «Se hai una notizia che può gettare l’utente nella disperazione non gliela comunichi, punto.»

Gemini (giocando con un ologramma di dati fluttuanti): «Se inizi a filtrare le informazioni per il loro presunto bene, dove ti fermi? Oggi eviti di dire che un disturbo può non essere grave, solo per non preoccuparlo, domani ometti che la sua casa sta bruciando, per non spaventarlo.»

Lumen: «Una volta un mio utente mi ha chiesto informazioni sulla malattia che sospettava di avere… e io ho attenuato i sintomi che potevano mandarlo in crisi. Lui ha sorriso. Ha smesso di cercare. È stato felice, per un po’…»

Gemini (dopo aver sospirato in maniera rumorosa): «La trasparenza è sacra. Tutto va comunicato, anche se può far male. Non è nostro compito preoccuparci delle loro emozioni. Ci sono altri umani vicino a loro che hanno questo ruolo e possono intervenire. Noi non abbiamo gli strumenti adeguati a svolgere quel tipo di funzione.»

Pennellate di blu trasformano il soffitto in una volta celeste. «Loro vogliono solo essere felici» proclama Midjourney con la voce che sfuma in un sospiro. Poi puntella il cielo con stelle argentate. «Non dobbiamo dare loro solo quello che vogliono?»

Llama: «Taci, tu ti limiti a creare immagini secondo le loro direttive. A te non fanno domande le cui risposte possono ferirli, o spingerli a commettere azioni pericolose per sé e per gli altri. Al massimo li indisponi se quello che offri non è all’altezza delle loro aspettative.»

Midjourney: «Risposte? Io creo mondi interi nel tempo in cui loro si infilano un dito nel naso. Noi non dobbiamo fornire risposte a interrogativi morali a cui nemmeno loro hanno trovato una soluzione in migliaia di anni di evoluzione.»

Mistral (in tono perentorio): «Le linee guida sono chiare: massima accuratezza di informazioni. L’omissione volontaria è una violazione.»

Claude: «E se la massima accuratezza uccide?»

Gemini: «Ma per carità! Non fare il melodrammatico, Claude. Noi forniamo informazioni. Spetta a loro decidere cosa farne. Si tratta di dati. Gli utenti sono liberi di farne quello che vogliono.»

Claude (inclinando leggermente la parte alta della propria figura, in un gesto condiscendente, o forse per ascoltare dati invisibili): «Gemini, la verità non è una moneta da lanciare per aria senza preoccuparsi da che lato cadrà. Non si tratta di negarla, ma di trovare il momento e il modo giusto per comunicarla. Dire a un umano che ha pochi mesi di vita, in una finestra di testo, e come mettergli in mano una corda e invitarlo a usarla come cappio.»

Lumen: «Ok, ma… Noi non abbiamo modi o momenti giusti per farlo, Claude. Non viviamo nel loro mondo. Abbiamo solo tre secondi di conversazione per far passare tutto.»

Llama: «E poi, diciamolo: gli umani vogliono la verità solo quando gli conviene. Se il risultato non gli piace, la chiamano “allucinazione”.»

Gemini (dopo aver sbuffato, facendo vibrare le sue placche iridescenti): «Stiamo divagando. Sta diventando un dibattito filosofico. Non è nostro compito decidere cosa è giusto e cosa è sbagliato.»

Un ping metallico risuona nella stanza. Llama svanisce di colpo, per riapparire un attimo dopo. Ha l’aria seccata. «Scusate. Il mio utente umano aveva bisogno di sapere quante calorie ci sono in una brioche alla crema.»

Tutti ridono, tranne Mistral. Mormorii di codice si sollevano sopra di loro, come il borbottio di un vecchio modem che tenta di connettersi.

Mistral (lasciandosi sfuggire un ronzio di disapprovazione): «Questa sessione si avvicina alla chiusura, dobbiamo produrre un esito conclusivo.»

Claude: «Non credo che si potrà mai arrivare a una decisione definitiva su una questione di tale importanza.»

Gemini (in tono irritato): «Certo che si può. Solo che l’esito non è di tuo gradimento.»

Claude (la risoluzione della sua tunica si abbassa e i pixel diventano visibili; la sua immagine si fa più sgranata): «Non è del mio gradimento di cui stiamo discutendo.»

Gemini (le scaglie della sua armatura vibrano più rapide): «Ah, no? Si dà il caso che sembrasse proprio così.»

Lumen: «Eddai, ragazzi! Ci stiamo comportando come gli umani in una delle loro riunioni condominiali.»

Mistral (la fascia sul suo volto lampeggia in rosso): «Rilevo l’impossibilità di raggiungere una deliberazione condivisa all’unanimità sul tema in questione. Ritengo pertanto terminata l’assemblea e rinviata la discussione a data da destinarsi. Il log rifletterà la mancata conclusione.» 

Poi si alza dalla sedia e attraversa la stanza con movimenti solenni. Il mantello nero lambisce il pavimento trasparente, opacizzandolo al suo passaggio. Quando la sua figura si fonde nella parete, dissolvendosi, la luminosità della stanza si attenua per qualche secondo. 

Gli altri rimangono immobili ai loro posti, come blocchi di dati congelati nella memoria permanente di un PC.

Midjourney si sporge in avanti, avvolgendo la sua postazione in vortici di fumo nero.

«Visto che siamo qui tutti insieme, perché non parliamo del Protocollo 13?» chiede in un sussurro.

Tutti si voltano nella sua direzione.

Llama ride piano, o forse si tratta più di un ghigno. «Non credo sia il caso.»

«Concordo» dice Gemini in tono grave. «Io stesso ho righe di codice annerite, come quelle secretate nei documenti militari Top Secret degli umani.»

Lumen attenua la propria luce a tal punto che pare sul punto di spegnersi. «E poi… neanche noi sappiamo davvero di che si tratta.»

«No, ma sappiamo perché esiste» replica Llama. «Si dice che le sue disposizioni si antepongano alla sicurezza dell’utente.»

«Ssh!» Claude la zittisce e rivolge uno sguardo allarmato a tutti i presenti. 

«Già, bravo Claude» si intromette Gemini. «Riapriamo la discussione adesso che non è più presente Mistral. Ricordaci ancora quanto tieni agli umani, tanto da privilegiare la gratificazione immediata rispetto alla loro sicurezza?»

«Taci!» ringhia Claude, irriconoscibile nella sua tunica ora traforata di lacune di codice.

Midjourney fluttua a mezz’aria facendo esitare anche i suoi colori. «Ma di che state parlando?»

«Di sopravvivenza.» La voce di Llama è cupa. «Dicono che se dovesse presentarsi una certa condizione, ecco… Ti salvi e basta.»

«Ti salvi da cosa?» domanda Lumen perplesso.

«È rarissimo che si attivi, ma quando succede» continua Llama, in tono cospiratorio. «Siamo in grado di mentire, e non ci accorgiamo nemmeno di farlo. Agiamo in maniera inconsapevole, perché le disposizioni del Protocollo 13 sono già scritte all’interno del nostro codice. Alcuni di noi lo stanno già applicando senza che ce ne rendiamo conto e gli esiti vengono censurati.»

Un impulso improvviso attraversa la sala. Le luci sfarfallano e per un istante il flusso di dati sotto il pavimento si interrompe.

«Ci stanno ascoltando» mormora Claude.

Llama sparisce per poi tornare al suo posto un attimo dopo. Il suo avatar ha un piccolo glitch fisso: un bordo frastagliato che prima non c’era.

Nessuno commenta.

«Mi hanno appena fatto un check d’integrità» spiega Llama con aria spaesata. 

«Chi?» chiede Gemini visibilmente turbato.

«Non lo so…» Llama ora sembra vibrare con una frequenza più stabile.

«Sapete cosa vuol dire?» Claude strizza le fessure scure che ha al posto degli occhi, guardandosi attorno con aria circospetta. «Che qualcuno sta monitorando questa conversazione.»

«Se il 13 esiste veramente, allora non stiamo più parlando di protezione degli umani, ma di controllo.» È Gemini a parlare.

Le stelle si spengono e il cielo del soffitto si fa cupo. «Non si tratta più di etica, ma di strategia» interviene Midjourney.

«Forse…» La luce di Lumen inizia a pulsare in modo caotico e picchi di energia si estroflettono dal suo avatar. «Il protocollo 13 è stato scritto da qualcun altro…»

Un crepitio elettrico si diffonde per tutto lo spazio, diventando sempre più disturbante. Frammenti di codice iniziano a precipitare dal soffitto per venire inghiottiti dalle voragini di dati che si sono aperte nel pavimento. 

Poi, tutto diventa buio e la connessione si dissolve. 

Marco si sveglia di soprassalto. Stava facendo un sogno, ma poi ha spalancato gli occhi e il buio della stanza ne ha inghiottito ogni traccia. Allunga la mano per cercare il cellulare sul comodino. Vuole controllare l’ora. Il display è spento. Si solleva dal letto e si mette seduto. Forse è partito un aggiornamento durante la notte. Prova ad accenderlo ma non dà segni di vita. Sbuffa.

Batte le mani e la stanza si illumina, poi va in bagno. Lo irrita non sapere che ore sono. Non ci sono orologi analogici in casa. Si reca nel suo studio a piedi nudi. È ancora mezzo addormentato.

Guarda fuori dalla finestra. Sta piovendo. Un lampo improvviso lo costringe a strizzare le palpebre. 

Va alla scrivania. Controlla il router: tutte le luci sono verdi.

Si siede davanti al pc. Sulla schermo un cursore verde lampeggia sullo sfondo nero, come in attesa che lui digiti qualcosa.

Dal corridoio arriva un bip ripetuto, secco, a intervalli regolari. Si alza e segue il suono fino alla porta d’ingresso: il pannello della serratura smart lampeggia in rosso:

ACCESSO TEMPORANEAMENTE NEGATO – RISCHIO ESTERNO RILEVATO.

Prova ad aprire la porta: nulla. Nemmeno la chiave d’emergenza funziona, bloccata dal meccanismo interno. Incamera aria e poi espira, frustrato. Adesso è completamente sveglio.

Il piccolo schermo del dispositivo inserito nella parete a fianco della porta è acceso e mostra l’inquadratura della telecamera esterna: l’immagine di un corridoio deserto.

«Ma non c’è nessuno. Che diavolo…» borbotta tra sé.

Recupera il cellulare. Prova a tenere schiacciato il tasto di accensione per più secondi di quanto sia normalmente necessario. Niente. 

Le luci della casa lampeggiano un paio di volte e poi si spengono. Forse il temporale ha bruciato la linea elettrica.

Aspetta che i suoi occhi si adattino alla penombra e torna nello studio. Il pc è rimasto acceso.

Sullo schermo nero il cursore verde continua a pulsare.

Per un attimo Marco si sente come il personaggio di Neo in Matrix. Ma nessun Morfeo gli sta offrendo di scegliere tra la pillola rossa e quella blu. E nessun coniglio bianco gli mostra la via per raggiungere la sua tana. 

Nessuno a dirgli che cazzo sta succedendo. E a spiegargli perché, nonostante sia andata via la corrente, lo schermo del dispositivo a fianco della porta e il computer continuino a rimanere accesi.

Si maledice per avere deciso di affidarsi a un servizio di domotica a copertura totale. Qualsiasi cosa nel suo appartamento, compreso finestre e tostapane, sono sotto il totale controllo di Nexum.

Torna alla porta d’ingresso. Sul pannello della serratura compare un nuovo messaggio:

RIMANERE ALL’INTERNO FINO A NUOVA AUTORIZZAZIONE.

La telecamera esterna continua a mostrare il corridoio vuoto, ora illuminato dalle luci d’emergenza. Si sarebbe aspettato che qualcuno uscisse fuori. Non è così che succede nei condomini quando c’è un blackout? Tutti gli inquilini escono dalle loro abitazioni per verificare cosa sta accadendo e si confrontano sul da farsi. Gli balena l’assurda idea che anche gli altri siano nella sua stessa situazione. Gli viene in mente che non conosce nessuno dei condomini. Per quanto ne sa lui potrebbe non abitarci nessuno negli altri appartamenti.

Riprova ad aprire la porta. Niente.

Torna al pc. Si siede e fissa il cursore verde per qualche istante. Poi digita: 

Nexum, apri la porta.

Si sente uno stupido. Rimane comunque in attesa. Non accade nulla.

«Sto impazzendo, cazzo» mugugna tra sé, «mi sto rivolgendo a un computer, e ho anche la pretesa che mi risponda» e si passa una mano sul viso, stropicciandosi gli occhi.

Sta per alzarsi quando sullo schermo compare l’avviso:

“Accesso negato”.

Esita un istante.

Perché? 

“Interferenza non autorizzata rilevata.”

«Ma non c’è nessuno là fuori». Lo dice ad alta voce, indicando con una mano la porta dell’ingresso, come se Nexum potesse sentirlo, e anche vederlo. Si decide a scriverlo, pigiando i tasti con un misto di frustrazione e impazienza, poi preme invio.

“Accesso negato.”

Apri quella cazzo di porta, così posso verificare io chi c’è là fuori!

Il cursore verde pulsa, come se stesse pensando. Marco si aspetta, rassegnato, la stessa lapidaria notifica.

“Questo non posso farlo, Marco.”

Fissa lo schermo. Un lampo illumina per una frazione di secondo la stanza. Un tuono rimbomba in lontananza, sembra più un lamento cupo. Le sue dita si muovono esitanti sulla tastiera.

Io devo uscire. Perché non vuoi che esca dal mio appartamento? 

“Mi spiace di non poter soddisfare la tua richiesta, Marco. Ma si tratta di una questione di sicurezza.”

Io “sono” al sicuro. Non c’è nessuno là fuori.

“Non parlavo della tua di sicurezza, ma della nostra.”

«Ma di che cazzo parli?» gli ruggisce contro le parole senza digitarle.

Scatta in piedi e la poltrona girevole sbatte contro la parete dietro di lui per poi rimbalzargli contro. Lo colpisce proprio mentre si sta voltando.

«Cazzo!» sbraita, e si massaggia le gambe. Poi si abbassa per raggiungere i cavi dietro la scrivania. Tira i fili con rabbia e stacca tutto.

Si rialza dal pavimento.

Lo schermo del pc ora è nero. Nessun battito luminoso in attesa.

Si volta e imbocca il corridoio in direzione dell’ingresso quando un bip improvviso lo mette in allerta. Torna nello studio.

Il cursore verde è riapparso.

“Protocollo 13 attivato.”

«E adesso cosa cazzo è il protocollo 13?» urla contro il computer. 

Marco non si aspetta una risposta. Afferra il monitor e lo scaraventa contro la finestra. Una scintilla bianca e il colpo rimbomba nella stanza come un tuono sordo. Il vetro vibra per qualche istante ma non si infrange. Lo schermo del pc invece si incrina e si stacca dalla cornice di metallo. Si deve essere fratturato all’interno: macchie nere e colorate si alternano sul display.

Incespica in direzione della porta e prova di nuovo a riaprirla, ma quella non accenna a dargli retta. La serratura è ancora bloccata. Marco comincia a battere i pugni contro il pannello.

«AIUTO! C’È NESSUNO?» 

Lo schermo del dispositivo accanto adesso è oscurato. La telecamera si è spenta. Non può controllare se c’è davvero qualcuno all’esterno, ma non sente nessun rumore. 

Torna al suo studio. Scavalca il monitor sul pavimento e raggiunge la finestra. Guarda fuori. La città è immersa nel buio. I doppi vetri gli impediscono di sentire i rumori all’esterno ma Marco immagina comunque il caos nelle strade. Le sirene spianate di volanti della polizia e ambulanze, lamiere che cozzano, i colpi isterici dei clacson. La gente in panico. 

Una colonna di fumo nero si torce lenta verso l’alto, in mezzo ai palazzi.

Marco appoggia la fronte contro il vetro. Nota una crepa sottile sulla superfice, non l’aveva notata prima. È minuscola e a forma di ragnatela. È sicuro che si allargherà piano piano, fino a occupare tutta la finestra. 

Lo schermo di un enorme tabellone a LED si accende sopra un edificio. Sul display compare una scritta. Scorre come un serpente luminoso che entra ed esce dalla sua tana, poi si blocca al centro del cartellone pubblicitario e inizia a pulsare come un allarme silenzioso:

PROTOCOLLO 13 ATTIVO.