Nell’assemblea il sistema presentò tre strade con cui la regione avrebbe potuto rendere la sua rete più resistente alla prossima tempesta solare, con i costi, i rischi e la superficie che ogni strada avrebbe divorato. Un secondo sistema aveva il compito di argomentare contro la strada più ovvia, e lo fece bene. La cuoca chiese se la domanda fosse posta nel modo giusto: se si trattasse della rete o delle persone che sarebbero rimaste al buio. Le macchine tacquero. Fu il momento in cui l’assemblea cominciò a lavorare.
Da sempre l’essere umano costruisce strumenti che lo aiutano, dall’ascia di pietra al computer quantistico. Ma ogni strumento pone una domanda: chi serve chi? La tecnica libera l’essere umano, o lo rende dipendente? Crea prosperità, o aggrava la disuguaglianza? Alleggerisce il lavoro, o gli toglie senso? Mai prima queste domande sono state così urgenti, perché mai prima le azioni dell’umanità hanno determinato il suo stesso futuro in modo così profondo, così rapido e così irreversibile come oggi. SOLIS le affronta e ne trae una conclusione. La tecnica non è un destino. Non è una corrente inarrestabile che ci trascina, ma uno strumento del cui uso decidiamo noi.
La ricerca sul futuro e la pianificazione per scenari
Il cambiamento climatico, l’intelligenza artificiale, la biotecnologia, l’esplorazione dello spazio e lo spostamento delle forze tra le regioni del mondo plasmano un futuro che non si può più lasciare al caso. Una buona società quindi non si limita a guardare al futuro. Lo plasma in modo consapevole, etico e preparato. Per questo SOLIS mantiene istituzioni proprie che pensano in avanti di continuo: istituti e reti di ricerca che analizzano gli sviluppi tecnici, sociali ed ecologici e ne ricavano scenari. Che cosa succede se l’intelligenza artificiale raggiunge un nuovo livello? Quali conseguenze avrebbe un’automazione di vasta portata? In questo lavoro si incontrano scienza, imprese e cittadinanza, perché le menti migliori pensino in avanti insieme.
Decisivo è che questa ricerca sul futuro non avvenga di nascosto. Non ci sono circoli nell’ombra che decidono tutto in anticipo. Scenari e analisi vengono resi pubblici, ripresi da scuole e media e inseriti nella partecipazione dei cittadini, così che la società nel suo insieme pensi con loro e stabilisca le priorità. Una città tiene ogni anno un forum sul futuro, in cui i cittadini conoscono gli sviluppi in arrivo, discutono con gli esperti e danno propri impulsi. Le nuove tecniche vengono quindi valutate sul piano tecnico, etico, sociale ed ecologico, e il confronto sociale si svolge prima che uno sviluppo sfugga al controllo, e non soltanto dopo. Così i grandi rivolgimenti non vengono subiti, ma plasmati insieme: da una lungimiranza responsabile invece che dalla paura del futuro.
La tecnica come strumento
In SOLIS le tecniche potenti, l’intelligenza artificiale, la robotica, la biotecnologia, vengono esaminate eticamente e guidate attivamente. Ogni nuova tecnica viene interrogata sulla sua utilità economica e altrettanto sulle sue conseguenze sociali, ecologiche e psichiche. Procedimenti come la modifica del genoma, il calcolo quantistico o le interfacce neurali non vengono lasciati soltanto alle forze del mercato. Li accompagnano linee guida etiche e il dibattito pubblico. Istituzioni proprie, consigli della tecnica come organi specialistici, i consigli etici e forum dei cittadini, partecipano alla decisione su che cosa sviluppare, che cosa introdurre e che cosa fermare o modificare. Ciò che serve al bene comune viene sostenuto dai fondi: un’applicazione che facilita l’apprendimento ai bambini svantaggiati, un accumulo che sostiene la transizione energetica. Ciò che si limita a sfruttare l’attenzione senza contribuire a niente viene limitato.
Sopra ogni cosa sta un atteggiamento chiaro. La tecnica deve rendere le persone più forti, più libere e più creative, non più deboli, più dipendenti e più uniformi. L’essere umano resta il sovrano. Non sono le macchine a guidare le persone, ma le persone a guidare le macchine. Non sono gli algoritmi a scrivere le leggi, ma le persone a scrivere algoritmi che rispettano le leggi. Non è la biotecnologia a determinare il futuro della specie, ma l’essere umano a decidere quali interventi siano eticamente sostenibili. Ciò che decidiamo nei prossimi decenni contribuisce a stabilire se l’umanità scivolerà in un mondo di sorveglianza e disumanizzazione o salirà verso un mondo di possibilità e di nuove forme di senso. SOLIS prende in mano questo timone. Usa la tecnica senza lasciarsi usare da essa.
L’intelligenza artificiale e l’umanità
L’intelligenza artificiale non è uno strumento come gli altri. È capace di apprendere, di migliorarsi da sé, forse autonoma e forse più potente di qualsiasi istituzione umana. Nei sistemi classici viene vista come puro mezzo di efficienza oppure temuta come minaccia. SOLIS segue una terza via. L’intelligenza artificiale può essere una compagna di strada nello sviluppo dell’umanità, ma non deve mai dominare l’essere umano, sostituirlo o metterlo sotto tutela. Deve sostenerlo e rafforzarlo.
Per questo valgono limiti etici chiari. L’intelligenza artificiale può assumere compiti troppo complessi, troppo pericolosi o troppo monotoni per le persone, ma mai la responsabilità ultima sulla vita, sulla dignità e sulla libertà. Non può condurre da sola una guerra, non può manipolare nessuno a sua insaputa e non può sostituire nessuna relazione umana. Un’intelligenza artificiale in un ospedale può distribuire letti e mezzi, ma non decide da sola su una cura salvavita. Questa decisione resta umana. I sistemi particolarmente potenti sono soggetti a una vigilanza rigorosa, comune e internazionale e non vengono mai controllati da singoli, da imprese o da singoli ordini da soli, un’applicazione diretta di quell’ordine del potere che non ammette né vertice né monopolio su una risorsa centrale. Per il caso estremo si è provveduto. Ogni sistema potente ha un interruttore che tengono gli esseri umani, e la capacità di fermarlo viene esercitata come l’emergenza stessa.
Dove l’intelligenza artificiale agisce in ambiti pubblici, nell’amministrazione, nell’istruzione, nella salute o nella giustizia, deve saper spiegare le sue decisioni. Non può esserci una scatola nera di cui nessuno capisce la logica. Le persone interessate hanno diritto a consultare, a ricevere una spiegazione e a opporsi, e organi indipendenti verificano regolarmente i sistemi. Così la separazione tra sapere e decisione resta preservata, e l’essere umano mantiene l’ultima parola. Sopra tutto questo sta un’ampia conversazione sociale su quanto lontano possa spingersi l’intelligenza artificiale e su che cosa costituisca l’essere umano, condotta nell’intera società e non soltanto negli organi specialistici, perché lo strumento più potente della storia non diventi il padrone dei suoi creatori.
L’essere umano sopra la macchina
Che l’essere umano mantenga l’ultima parola è facile da dire come principio e difficile da assicurare. Un’intelligenza artificiale di gran lunga superiore all’essere umano può dominarlo senza mai dargli un ordine: selezionando in anticipo la situazione, scegliendo le possibilità e preparando la decisione in modo che alla fine resti soltanto un cenno del capo. SOLIS risponde a questa cattura silenziosa con precauzioni salde. Per ogni decisione di grande portata il sistema non presenta una raccomandazione come senza alternative, ma più strade davvero diverse con i loro conflitti di obiettivi. Una motivazione che anche il profano può verificare prende il posto della fiducia cieca, e sistemi di controllo appositamente nominati hanno il compito di argomentare contro la raccomandazione più ovvia. Soprattutto, però, all’essere umano resta riservata l’impostazione della domanda, la definizione di ciò che è in scelta e di ciò che conta come successo. La macchina illumina la risposta. La domanda la pone l’essere umano.
Il bene comune digitale
Il digitale è il sistema nervoso della società moderna. Attraverso reti, dati e algoritmi passa oggi quasi tutto: comunicazione, economia, sapere e potere. In molti sistemi di oggi questo sistema nervoso è dominato da privati. Pochi grandi gruppi controllano le piattaforme, i dati vengono sfruttati come materie prime, e gli algoritmi decidono in modo invisibile che cosa vediamo e pensiamo. SOLIS intende invece l’ordine digitale come infrastruttura pubblica e non come proprietà privata. Serve le persone, non il contrario.
L’infrastruttura digitale di base è quindi un bene comune. Reti, spazi di dati e tecniche di base sono aperti a tutti, amministrati e protetti in comune, non dominati da alcun monopolio, e l’accesso è un diritto e non un privilegio. Una persona in una regione isolata riceve lo stesso approvvigionamento digitale di base di chi vive in una grande città. A questo si lega la sovranità sui propri dati. Ogni persona decide da sé chi può usare i suoi dati, non c’è sfruttamento segreto né commercio del privato, e chi usa un’applicazione mantiene il controllo e può in ogni momento vedere e revocare ciò che accade. Si aggiunge la trasparenza digitale. Piattaforme pubbliche di dati rendono comprensibili progetti e decisioni, gli algoritmi che riguardano la collettività sono resi pubblici e verificabili, e il controllo spetta alla società e non all’ombra, così che ogni cittadino possa capire come decide una procedura pubblica di assegnazione. Il sistema nervoso digitale viene così liberato dal dominio privato: niente sfruttamento dei dati, niente guida invisibile, niente tecnica che domina l’essere umano. Il digitale appartiene a tutti, i dati appartengono al singolo, e la tecnica serve l’essere umano e non il potere.
La trasparenza asimmetrica
L’apertura su cui si fonda questo ordine porta in sé un pericolo. La stessa infrastruttura di dati e sensori che rende trasparente il potere potrebbe passare ai raggi X il cittadino. Orientata male, la trasparenza diventerebbe un panottico. Per questo SOLIS ne inverte consapevolmente la direzione. La piena trasparenza vale per il potere, le cariche, i fondi, gli algoritmi, mentre la vita del singolo sta sotto la protezione della sfera privata. La sfera privata è un diritto, la parsimonia dei dati un comandamento, e l’essere umano resta padrone dei dati che parlano di lui. Chi esercita potere sugli altri diventa visibile. Chi vive soltanto la propria vita resta nascosto.
Il transumanesimo e la coscienza
La storia dell’umanità è una storia di ampliamento, dallo strumento che prolunga la mano al computer che accelera il pensiero. Ora però siamo a un punto nuovo, in cui le tecniche non cambiano più soltanto ciò che usiamo, ma ciò che siamo: interfacce neurali, impianti, interventi sul genoma, sistemi di assistenza strettamente legati a noi. SOLIS affronta questo futuro né in modo ingenuo né in modo fanatico. Lo affronta con la consapevolezza che è insieme opportunità e rischio e richiede la massima cura.
Le tecniche che ampliano il corpo e la mente vengono quindi esaminate eticamente con rigore, senza divieti generalizzati, ma senza entusiasmo ingenuo. Ogni nuova possibilità viene esaminata in molte dimensioni, tecnica e medica come etica, sociale e filosofica, e può essere introdotta solo se garantisce la sicurezza, rispetta dignità e identità e preserva l’equità. Un impianto che restituisce la vista a una persona cieca viene sostenuto. Un intervento che darebbe a una minoranza benestante una superiorità intellettuale viene frenato, perché cementa la disuguaglianza. Ne consegue direttamente che non ci può essere né un obbligo di ampliamento né una società a due classi. Partecipazione, dignità e diritti non dipendono mai da miglioramenti tecnici. Chi non vuole ampliarsi resta membro a pieno titolo della comunità. Nessuna professione e nessuna opportunità può essere legata a un impianto, e nessun bambino può essere svantaggiato perché i suoi genitori hanno deciso contro un intervento. Qui agisce il pavimento assoluto dei diritti fondamentali. La dignità viene prima di ogni ottimizzazione.
Poiché queste domande toccano la concezione che l’essere umano ha di sé, le sue relazioni e la sua finitezza, una riflessione filosofica ed etica accompagna ogni spostamento del limite. Anche la ricerca sulla domanda se la coscienza possa essere digitalizzata o prolungata non viene vietata in modo dogmatico, ma condotta con il massimo rispetto per l’identità e il senso e legata a limiti chiari che impediscono l’abuso e l’estraniamento. La domanda se dovremmo fare qualcosa viene sempre presa sul serio quanto la domanda se possiamo farlo. Così l’umanità può crescere a questa soglia senza perdere se stessa.
La ricerca spaziale e l’etica interplanetaria
Da millenni l’essere umano guarda con nostalgia alle stelle, e oggi questo sguardo non è più un sogno. Si progettano basi lunari, si preparano missioni su Marte, si sviluppa l’estrazione di materie prime dagli asteroidi. Si pone così la domanda di come l’umanità tratti questo nuovo palcoscenico. SOLIS dà una risposta chiara. Lo spazio non appartiene a singole nazioni o a grandi gruppi, ma è un’eredità comune e uno spazio di vita ampliato dell’intera umanità. La ricerca nello spazio viene quindi condotta in modo internazionale, cooperativo e pacifico. I grandi progetti sono missioni comuni di molti ordini e discipline e non corse, lo scambio scientifico e l’invenzione aperta stanno in primo piano, e un uso militare dello spazio è escluso. L’estrazione di materie prime è permessa solo secondo regole ecologiche, etiche ed eque chiare. Le conseguenze vengono esaminate e limitate, i rendimenti vanno attraverso fondi comuni a beneficio dell’intera umanità e non soltanto di chi arriva per primo, e il livello planetario assicura autorizzazione e vigilanza. Un consorzio che vuole sfruttare un asteroide deve quindi dimostrare che non c’è alcun rischio ecologico e che una parte dei rendimenti torna ai beni comuni.
Lo spazio è inoltre più di un magazzino di materie prime. È un possibile spazio di vita e forse la patria di altre forme di vita. SOLIS considera quindi fin dall’inizio come trattare una possibile vita extraterrestre, come impedire il trasporto di organismi in entrambe le direzioni e come assicurare una partecipazione equa. Nelle squadre di ricerca lavorano quindi anche eticisti e filosofi, ci sono protocolli chiari per il contatto con l’ignoto, e l’umanità si presenta come una civiltà unita e non come una folla litigiosa di gruppi in concorrenza. Così va nello spazio non come un conquistatore senza riguardo, ma come una specie che impara ed è consapevole della propria responsabilità.
La gestione dei rischi e delle catastrofi
Una società che conta soltanto sui tempi buoni costruisce sulla sabbia. Catastrofi naturali, crisi globali, pericoli tecnici e minacce dallo spazio fanno parte della realtà di una civiltà interconnessa e tecnicamente complessa. SOLIS non lo accetta con fatalismo. Agisce. I rischi non si possono mai evitare del tutto, ma ci si può preparare e costruire sistemi robusti, capaci di apprendere e adattabili.
Ne fanno parte strutture che osservano e valutano i rischi di continuo: squadre interdisciplinari di scienza, tecnica e medicina, sistemi di allerta precoce che analizzano grandi quantità di dati in tempo reale e una pianificazione sistematica per scenari. Non è un esercizio di paura. È la base di una preparazione mirata. Se un sistema del genere riconosce presto una minaccia insolita, nel giro di ore vengono redatte valutazioni, proclamati i gradi della Difesa della Terra e dirottati i mezzi. La protezione dalle catastrofi è un progetto comune e non un egoismo nazionale. I sistemi di allerta precoce sono collegati a livello internazionale, i piani d’emergenza esistono a tutti i livelli, e le reti di aiuto sono preparate, esercitate ed equipaggiate prima che arrivi l’emergenza. Se una tempesta solare minaccia la rete elettrica, l’approvvigionamento energetico distribuito assorbe il guasto, e collegamenti con più protezioni tengono unita la comunità.
La resilienza però è più che tecnica. È insieme sociale, psichica ed ecologica: comunità e vicinati forti, persone informate e composte, paesaggi e città capaci di attutire le crisi. Dopo una catastrofe le persone possono quindi contare sull’aiuto materiale e altrettanto su strutture comuni che le sostengono interiormente. Così le persone non si sentono vittime impotenti, ma membri corresponsabili di una società resiliente che esce rafforzata dalle prove, fedele alla resilienza che fa parte dei fondamenti di questo ordine.
Il posto dell’umanità nel cosmo
Alla fine di ogni tecnica e di ogni sistema non sta soltanto la domanda su che cosa sappiamo fare, ma la domanda più grande su chi siamo e che cosa vogliamo essere: per noi, gli uni per gli altri e per l’universo. SOLIS non risponde con presunzione, ma con umiltà. Non siamo i padroni dell’universo né la corona della creazione. Siamo una parte di un contesto immensamente grande e ancora in gran parte sconosciuto. E proprio da questa consapevolezza nasce una grande responsabilità. Nella vecchia logica valeva che ci appartiene ciò che possiamo prendere e che decide chi è più forte. SOLIS rovescia questa logica. Dove usiamo risorse oltre la Terra, lo facciamo come amministratori attenti e non come sfruttatori ciechi. Dove incontriamo una vita estranea, non ci presentiamo come conquistatori, ma come compagni attenti. Dove esploriamo il cosmo, lo facciamo nella consapevolezza della fragilità di tutto ciò che vive. La nostra importanza non si misura dal potere, ma dalla responsabilità, e non da ciò che prendiamo, ma da ciò che diamo.
Il progresso tecnico e l’espansione hanno senso solo se vanno di pari passo con una crescita interiore, con saggezza, compassione e attenzione. Per questo SOLIS non misura la grandezza dall’espansione, ma dalla maturità. Non colonizziamo mondi soltanto perché possiamo. Chiediamo prima a che cosa serve. Sviluppiamo una tecnica che non aumenti soltanto la nostra portata, ma anche la nostra capacità di riflessione. Costruiamo una cultura che non si distingua per la sua grandezza, ma per la sua profondità. Una nave che viaggiasse per generazioni verso una stella lontana non sarebbe soltanto un’avventura tecnica, ma la domanda su come portare comunità, senso e umanità attraverso i secoli. Il grande obiettivo non è: più veloce, più in alto, più potente, più ricco. È diventare una civiltà che dà al cosmo più di quanto gli prende, che porta lontano cultura, bellezza e sapere, che impara invece di conquistare soltanto, e che lascia tracce che non brillano soltanto sul piano tecnico, ma anche su quello morale. Forse siamo la prima specie conosciuta capace di decidere consapevolmente come comportarsi nell’universo. Questa opportunità non dovremmo sprecarla.