"Punto. I vostri investitori", dissi io. Calma e chiara. "Il vostro sistema".
Punto. Daniel inspirò bruscamente, forzando la compostezza. Quando riprese a parlare, la sua voce tornò allo stesso tono persuasivo che mi aveva convinto a unirmi agli Iron Gate Labs. Forse siamo stati troppo precipitosi, disse.
Sono disposto a rinegoziare. Status di cocreatore, un bonus più alto, persino stock option. Se necessario. Ho alzato un sopracciglio e mi sono appoggiato alla sedia.
Perché non mi spiega cosa è successo durante il test? Daniel fece una pausa, calcolando. Il sistema si è girato verso l’interno. Ha segnalato la rete interna di Iron Gate come ostile.
Ha iniziato a generare centinaia di rapporti sugli incidenti, etichettando account del personale e modelli di accesso ai file. Li chiamava violazioni dell’etica interna. Non ho nascosto il sorriso. Firewatch sta facendo ciò per cui è stato progettato, dissi a bassa voce.
Rileva le minacce. Tutte le minacce. La sua voce si fece tagliente. Che cosa hai fatto?
Non ho sabotato nulla. Firewatch è un’intelligenza artificiale adattiva. L’ho addestrata su migliaia di casi di attacco informatico, comprese le minacce interne. Ha imparato da schemi, comportamenti e cronologie delle violazioni.
È stata costruita per evolvere e proteggere. Daniel batté le palpebre. Quindi l’ha addestrato a spiare l’azienda. L’ho addestrato a riconoscere le intenzioni maligne, indipendentemente dalla loro provenienza.
Un lungo silenzio si allungò tra noi. Poi lo vidi: realizzazione, paura. Firewatch non aveva fallito. Era riuscito troppo bene.
Aveva analizzato l’accesso ai file di Daniel dopo l’orario di lavoro, le sue manomissioni, la sua doppiezza. La sua voce scese a un sussurro. Non può provare nulla di tutto ciò. Piegai ordinatamente le mani sul tavolo, mantenendo la mia espressione illeggibile.
Non ne ho bisogno. Firewatch aveva registrato silenziosamente tutto per mesi: ogni accesso non autorizzato, ogni file duplicato, ogni documento alterato. Ogni rapporto era a prova di bomba, con timestamp, tracce di accesso e persino sequenze di tasti registrate durante le revisioni notturne di Daniel. Il silenzio che seguì fu pesante.
Daniel mi fissava, la rabbia accesa e poi svanita in qualcosa di più freddo e calcolatore. Cosa vuoi? chiese infine. Appoggiai con calma le mani sul tavolo lucido.
Il pieno riconoscimento pubblico come creatore e principale architetto di Firewatch. Il cinquanta per cento di tutti i brevetti e la proprietà intellettuale correlata. Un posto nel consiglio per garantire un uso etico. E dieci milioni di dollari per il tentativo di cancellarmi dalla mia stessa creazione.
La sua mascella si strinse. Questo è un ricatto. Sorrisi leggermente. No, questo si chiama negoziare.
Il ricatto sarebbe inviare il rapporto etico interno di Firewatch direttamente ai suoi investitori, o meglio, alla SEC. Lo sguardo di Daniel mi trafisse, ma sapeva che non stavo bluffando. Dopo una lunga pausa, distolse lo sguardo ed emise un lento respiro di sconfitta. Il sistema può essere stabilizzato in tempo per la dimostrazione?
Firewatch non ha bisogno di essere stabilizzato, dissi. Sta segnalando attività non autorizzate perché il suo creatore è stato tagliato fuori dalla catena di autorizzazione. Frugai nella tasca del cappotto, estrassi una chiavetta argentata e la posai delicatamente sul tavolo. Questa contiene una patch di autenticazione.
Ripristinerà la funzionalità, interromperà la segnalazione interna e riporterà Firewatch online per la presentazione di domani. Gli occhi di Daniel passarono dal disco a me. E se dicessi di no? Inclinai la testa.
Allora Firewatch rimane offline, la demo implode e quei rapporti molto dettagliati, molto dannosi, finiscono nelle caselle di posta delle persone sbagliate. Per un attimo pensai che avrebbe reagito, ma poi le sue spalle si abbassarono lentamente. Allungò la mano e le dita si strinsero intorno alla chiavetta. Hai pianificato tutto, disse quasi stupito.
Fin dall’inizio. Lo guardai dritto negli occhi. No, speravo di non doverlo fare. Ma la notte in cui sei entrato nel mio server sei mesi fa, è stato allora che ho iniziato a proteggere non solo Firewatch, ma anche me stesso.
Gli occhi di Daniel si restrinsero. Come facevi a sapere che avrei cercato di tagliarti fuori? Mi alzai, infilandomi con calma la borsa sulla spalla. Non lo sapevo, dissi onestamente.
Ma Firewatch è stato costruito per riconoscere gli schemi e prevedere le minacce prima che si formino del tutto. Gli rivolsi uno sguardo lento e deliberato. Forse un po’ di quella logica mi ha contagiato. La mattina dopo arrivai agli Iron Gate Labs, non come ex ingegnere caduta in disgrazia, ma come cofondatrice e responsabile tecnologico appena nominata.
Daniel accolse gli investitori con un sorriso smagliante, anche se la rigidità della sua mascella raccontava un’altra storia. La sala conferenze era in fermento. La demo di Firewatch fu lanciata senza problemi, intercettando attacchi simulati con un’efficienza fluida, quasi aggraziata. Il sistema si adattava in tempo reale, con valutazioni delle minacce quasi predittive.
Esattamente come previsto. Un investitore, incuriosito, si rivolse a Daniel. Lavoro incredibile. Da cosa è scaturita l’idea di un sistema come questo?
Daniel esitò, un guizzo di tensione gli attraversò il volto, poi fece un cenno forzato nella mia direzione. È stata un’idea di Lea, disse con la voce rotta. La sua visione originale. Io l’ho solo aiutata a scalarla.
Sorrisi e mi feci avanti, rispondendo alle domande tecniche con facilità. Mentre guidavo gli investitori attraverso i livelli adattivi di Firewatch, il mio telefono emise un ronzio di notifica. Autenticazione Firewatch ripristinata. Minaccia neutralizzata.
Integrità del sistema ripristinata. Protezioni attive. L’intelligenza artificiale si era adattata più velocemente di quanto mi aspettassi. Non si era limitata a completare la dimostrazione: aveva protetto se stessa.
Un sistema vivente che riconosceva quando veniva compromesso e rispondeva di conseguenza. Tre mesi dopo, Firewatch fu impiegato nella sua prima implementazione importante: l’infrastruttura di una banca multinazionale. Quando un attacco informatico a livello statale fu lanciato inaspettatamente, Firewatch lo bloccò prima che violasse il firewall. Danno evitato: trecentoquaranta milioni di dollari.
I titoli dei giornali si scrivevano da soli. Firewatch divenne il nuovo standard di sicurezza informatica. Daniel e io mantenevamo un rapporto strettamente professionale. Lui si concentrava sulle relazioni con gli investitori e sulla scalata dell’azienda, aree in cui eccelleva davvero.
Io mi occupavo di innovazione, architettura di sistema ed etica dell’intelligenza artificiale, un lavoro che non poteva essere duplicato o sostituito. Non eravamo alleati, non eravamo amici e non lo saremmo mai stati. Ma avevamo trovato un equilibrio che funzionava. A volte, a notte fonda, mi chiedevo se avrei dovuto fare terra bruciata, fare causa a Daniel, denunciare ogni violazione in tribunale.
Ma la verità era che avevo costruito qualcosa di troppo intelligente, potente e mirato per lasciare che venisse trascinato in tribunale. Avevo fatto in modo che nessuno, nemmeno Daniel Castler, potesse mai esercitare Firewatch senza di me. Il suo tradimento mi aveva insegnato qualcosa di più profondo della politica aziendale o del codice rubato: la tecnologia è etica quanto le mani che la controllano. Questa consapevolezza divenne la base del modo in cui Firewatch viene utilizzato oggi.
Ogni implementazione per i clienti viene fornita con protocolli etici incorporati, strumenti di automonitoraggio, dashboard di trasparenza e sistemi di sicurezza adattativi che rispondono non solo alle violazioni esterne, ma anche agli abusi di potere interni. Firewatch non si limita a proteggere i dati. Protegge se stesso e i suoi utenti da abusi, manipolazioni e sfruttamento. La scorsa settimana, alla celebrazione dell’IPO dell’azienda, dove Firewatch ha debuttato con una valutazione sbalorditiva di quattro miliardi e duecento milioni di dollari, una giovane sviluppatrice mi si è avvicinata con gli occhi spalancati dalla curiosità e dall’ambizione.
Qual è il segreto per costruire qualcosa di simile? mi ha chiesto. Ho sorriso. Non si tratta solo di codice, le dissi.
Si tratta di capire che le minacce più pericolose spesso provengono dall’interno del sistema. La vera sfida non era solo scrivere un software intelligente: era progettare qualcosa che potesse evolversi, difendersi e non perdere mai di vista l’etica che c’è dietro. Le dissi di costruire sistemi in grado di pensare in modo critico, di adattarsi a ciò che imparano e di rimanere comunque ancorati all’integrità. Se la tua creazione è in grado di superare un hacker e di proteggere i diritti di un utente, hai fatto il tuo lavoro.
Se ne andò pensierosa. Poi il mio telefono emise un suono silenzioso. Sistema Firewatch: integro, sicuro. Minaccia neutralizzata.
Protezioni attive. Esattamente come era stato progettato. Esattamente come avevo imparato a fare. Dopo tutto quello che ho dovuto affrontare, essere tagliata fuori, sottovalutata e quasi cancellata dalla mia stessa innovazione, non sono solo sopravvissuta.
Mi sono risollevata, ho rivendicato il mio spazio e ho protetto ciò che era mio. Ma voglio sapere cosa avresti fatto tu. Avresti portato Daniel in tribunale? Avresti ricominciato da zero?
O avresti fatto una silenziosa mossa di potere come ho fatto io? Perché se c’è una verità che ho vissuto, è questa: devi proteggere ciò che costruisci, che si tratti del tuo lavoro, della tua identità, della tua pace o del tuo scopo. Tu sei il tuo primo firewall. Non aspettarti mai che qualcun altro lo faccia per te.
Sii preparato, preciso e orgoglioso dei tuoi confini. Non ho solo costruito un sistema di sicurezza informatica. Ho costruito una salvaguardia per la mia integrità.
