Na assembleia, o sistema apresentou três caminhos para a região reforçar a sua rede contra a próxima tempestade solar, com custos, riscos e a área que cada caminho devoraria. Um segundo sistema tinha a incumbência de argumentar contra o caminho mais óbvio, e fez isso bem. A cozinheira perguntou se a pergunta estava bem colocada: se se tratava da rede ou das pessoas que ficariam no escuro. As máquinas não disseram nada sobre isso. Foi o momento em que a assembleia começou a trabalhar.
Desde sempre o ser humano constrói ferramentas que o ajudam, do machado de pedra ao computador quântico. Mas toda ferramenta faz uma pergunta: quem serve aqui a quem? A técnica liberta o ser humano ou o torna dependente? Cria prosperidade ou aprofunda a desigualdade? Facilita o trabalho ou lhe tira o sentido? Nunca antes essas perguntas foram tão urgentes, porque nunca antes as ações da humanidade determinaram o seu próprio futuro de forma tão profunda, tão rápida e tão irreversível quanto hoje. SOLIS as enfrenta e tira delas uma conclusão. A técnica não é destino. Não é uma correnteza imparável que nos arrasta, mas uma ferramenta sobre cujo uso nós decidimos.
Pesquisa do futuro e planejamento de cenários
A mudança do clima, a inteligência artificial, a biotecnologia, a exploração do espaço e o deslocamento de forças entre as regiões do mundo moldam um futuro que já não pode ser deixado ao acaso. Por isso uma boa sociedade não se limita a olhar para o futuro. Ela o molda de forma consciente, ética e preparada. Para isso, SOLIS mantém instituições próprias que pensam adiante continuamente: institutos e redes de pesquisa que analisam os desenvolvimentos técnicos, sociais e ecológicos e elaboram cenários a partir deles. O que acontece se a inteligência artificial atingir um novo patamar? Quais seriam as consequências de uma automação de grande alcance? Nesse trabalho se reúnem a ciência, as empresas e a cidadania, para que as melhores cabeças pensem adiante juntas.
O decisivo é que essa pesquisa do futuro não acontece às escondidas. Não há círculos nas sombras que decidem tudo de antemão. Os cenários e as análises são tornados públicos, retomados pelas escolas e pelos meios de comunicação e levados à participação dos cidadãos, de modo que a sociedade como um todo pense junto e defina prioridades. Uma cidade realiza todo ano um fórum do futuro no qual os cidadãos conhecem os desenvolvimentos que virão, discutem com especialistas e dão as suas próprias ideias. Por isso as novas técnicas são avaliadas nos planos técnico, ético, social e ecológico, e o debate social acontece antes que um desenvolvimento saia do controle, e não depois. Assim, as grandes transformações não são sofridas, mas moldadas em conjunto: a partir de uma previsão responsável, e não do medo do futuro.
A técnica como ferramenta
Em SOLIS, as técnicas poderosas, a inteligência artificial, a robótica e a biotecnologia, são examinadas eticamente e conduzidas de forma ativa. Cada técnica nova é interrogada sobre a sua utilidade econômica e igualmente sobre as suas consequências sociais, ecológicas e psíquicas. Procedimentos como a alteração do genoma, a computação quântica ou as interfaces neurais não são deixados apenas às forças do mercado. Diretrizes éticas e debate público os acompanham. Instituições próprias, conselhos de tecnologia como órgãos especializados, os conselhos de ética e fóruns de cidadãos, participam da decisão sobre o que é desenvolvido, o que é introduzido e o que precisa ser detido ou modificado. O que serve ao bem comum recebe apoio dos fundos: um aplicativo que facilita o aprendizado de crianças desfavorecidas, um sistema de armazenamento que sustenta a transição energética. O que só explora a atenção sem contribuir com nada é limitado.
Acima de tudo há uma atitude básica clara. A técnica deve tornar as pessoas mais fortes, mais livres e mais criativas, e não mais fracas, mais dependentes e mais uniformes. O ser humano continua soberano. Não são as máquinas que conduzem as pessoas, mas as pessoas que conduzem as máquinas. Não são os algoritmos que escrevem as leis, mas as pessoas que escrevem algoritmos que respeitam as leis. Não é a biotecnologia que determina o futuro da espécie, mas o ser humano que decide quais intervenções são eticamente defensáveis. O que decidirmos nas próximas décadas ajudará a determinar se a humanidade desliza para um mundo de vigilância e desumanização ou sobe para um mundo de possibilidades e de novas formas de sentido. SOLIS assume esse leme. Usa a técnica sem se deixar usar por ela.
Inteligência artificial e humanidade
A inteligência artificial não é uma ferramenta comum. Ela é capaz de aprender, melhora a si mesma, talvez se torne autônoma e talvez mais poderosa do que qualquer instituição humana. Nos sistemas clássicos, ela é vista ou como puro meio de eficiência ou temida como ameaça. SOLIS segue um terceiro caminho. A inteligência artificial pode ser uma participante do desenvolvimento da humanidade, mas nunca pode dominar, substituir ou tirar a autonomia do ser humano. Ela deve apoiá-lo e reforçá-lo.
Para isso valem limites éticos claros. A inteligência artificial pode assumir tarefas complexas, perigosas ou monótonas demais para as pessoas, mas nunca a responsabilidade última sobre a vida, a dignidade e a liberdade. Ela não pode fazer guerra por conta própria, nem manipular ninguém sem que se perceba, nem substituir nenhuma relação humana. Uma inteligência artificial num hospital pode distribuir leitos e recursos, mas não decide por conta própria sobre um tratamento que salva vidas. Essa decisão continua humana. Sistemas especialmente poderosos estão sujeitos a uma supervisão rigorosa, comum e internacional, e nunca são controlados apenas por indivíduos, empresas ou ordens isoladas, uma aplicação direta da ordem do poder que não admite topo nem monopólio sobre um recurso central. Para o caso extremo há precaução. Todo sistema poderoso tem um interruptor que pessoas seguram, e a capacidade de desligá-lo é treinada como a própria emergência.
Onde a inteligência artificial atua em áreas públicas, na administração, na educação, na saúde ou na justiça, ela precisa poder explicar as suas decisões. Não pode haver nenhuma caixa-preta cuja lógica ninguém entende. As pessoas afetadas têm direito a consultar, a receber explicações e a contestar, e instâncias independentes examinam os sistemas com regularidade. Assim se preserva a separação entre o conhecimento e a decisão, e o ser humano mantém a última palavra. Acima de tudo isso há uma ampla conversa social sobre até onde a inteligência artificial pode ir e o que define o ser humano, feita em toda a sociedade e não só em órgãos especializados, para que a ferramenta mais poderosa da história não se torne dona dos seus criadores.
O ser humano acima da máquina
Que o ser humano mantenha a última palavra é fácil de dizer como princípio e difícil de garantir. Uma inteligência artificial muito superior ao ser humano pode dominá-lo sem nunca lhe dar uma ordem: pré-classificando a situação, selecionando as opções e preparando a decisão de modo que no fim só reste assentir. SOLIS enfrenta essa captura silenciosa com salvaguardas firmes. Em cada decisão de grande alcance, o sistema não apresenta uma recomendação como se não houvesse alternativa, mas vários caminhos realmente diferentes junto com os seus conflitos de objetivos. Uma justificação que também um leigo pode verificar substitui a confiança cega, e sistemas de revisão designados especialmente têm a tarefa de argumentar contra a recomendação óbvia. Mas, sobretudo, o enquadramento da pergunta fica reservado ao ser humano: a definição do que está em jogo e do que conta como sucesso. A máquina ilumina a resposta. A pergunta quem faz é o ser humano.
O bem comum digital
O digital é o sistema nervoso da sociedade moderna. Por redes, dados e algoritmos passa hoje quase tudo: a comunicação, a economia, o conhecimento e o poder. Em muitos sistemas atuais, esse sistema nervoso é dominado de forma privada. Poucas empresas controlam as plataformas, os dados são explorados como matérias-primas, e os algoritmos decidem de forma invisível o que vemos e pensamos. SOLIS, ao contrário, entende a ordem digital como infraestrutura pública e não como propriedade privada. Ela serve às pessoas, e não o contrário.
A infraestrutura digital básica é, por isso, um bem comum. As redes, os espaços de dados e as técnicas básicas estão abertos a todos, são administrados e protegidos em comum, não são dominados por nenhum monopólio, e o acesso é um direito e não um privilégio. Uma pessoa numa região afastada recebe a mesma provisão digital básica que alguém numa grande cidade. A isso se liga o domínio sobre os próprios dados. Cada pessoa decide por si mesma quem pode usar os seus dados, não há exploração secreta nem comércio com o que é privado, e quem usa um aplicativo mantém o controle e pode consultar e revogar a qualquer momento o que acontece. A isso se soma a transparência digital. Plataformas públicas de dados tornam os projetos e as decisões compreensíveis, os algoritmos que afetam a comunidade são públicos e verificáveis, e o controle está com a sociedade e não na sombra, de modo que qualquer cidadão pode entender como decide um procedimento público de alocação. Assim, o sistema nervoso digital se liberta do domínio privado: nenhuma exploração dos dados, nenhuma condução invisível, nenhuma técnica que domine o ser humano. O digital pertence a todos, os dados pertencem a cada indivíduo, e a técnica serve às pessoas e não ao poder.
Transparência assimétrica
A abertura em que esta ordem se apoia traz um perigo dentro de si. A mesma infraestrutura de dados e sensores que torna o poder transparente poderia expor o cidadão. Mal dirigida, a transparência viraria um panóptico. Por isso SOLIS inverte deliberadamente a sua direção. A plena transparência vale para o poder, para os cargos, os fundos e os algoritmos, enquanto a vida do indivíduo está protegida pela privacidade. A privacidade é um direito, a economia de dados um mandamento, e o ser humano continua dono dos dados que falam dele. Quem exerce poder sobre os outros se torna visível. Quem só vive a sua vida fica oculto.
Transumanismo e consciência
A história da humanidade é uma história de ampliações, da ferramenta que prolonga a mão ao computador que acelera o pensamento. Mas agora estamos num ponto novo, em que as técnicas já não mudam só o que usamos, mas o que somos: interfaces neurais, implantes, intervenções no genoma, sistemas de assistência estreitamente ligados a nós. SOLIS não enfrenta esse futuro nem de forma ingênua nem fanática. Enfrenta-o consciente de que ele é ao mesmo tempo oportunidade e risco, e de que exige o máximo cuidado.
Por isso as técnicas que ampliam o corpo e a mente são examinadas eticamente com rigor, sem proibição geral, mas sem entusiasmo ingênuo. Cada nova possibilidade é examinada em muitas dimensões, técnica e médica tanto quanto ética, social e filosófica, e só pode ser introduzida se garantir segurança, respeitar a dignidade e a identidade e preservar a justiça. Um implante que devolve a visão a uma pessoa cega recebe apoio. Uma intervenção que daria a uma minoria abastada superioridade intelectual é freada, porque consolida a desigualdade. Daí decorre diretamente que não pode haver nem obrigação de se ampliar nem uma sociedade de duas classes. A participação, a dignidade e os direitos nunca dependem de melhorias técnicas. Quem não quer se ampliar continua sendo membro pleno da comunidade. Nenhuma profissão e nenhuma oportunidade podem ser atreladas a um implante, e nenhuma criança pode ser prejudicada porque os seus pais decidiram contra uma intervenção. Aqui atua o piso absoluto dos direitos fundamentais. A dignidade vem antes de qualquer otimização.
Como essas perguntas tocam a forma como o ser humano se entende, as suas relações e a sua finitude, cada deslocamento do limite é acompanhado de reflexão filosófica e ética. Também a pesquisa sobre se a consciência pode ser digitalizada ou prolongada não é proibida de forma dogmática, mas é conduzida com o máximo respeito pela identidade e pelo sentido e presa a limites claros que impedem o abuso e a alienação. A pergunta sobre se deveríamos fazer algo é sempre levada tão a sério quanto a pergunta sobre se podemos fazê-lo. Assim, a humanidade pode crescer nesse limiar sem se perder.
Pesquisa espacial e ética interplanetária
Há milênios o ser humano olha com anseio para as estrelas, e hoje esse olhar já não é um sonho. Bases lunares estão sendo planejadas, missões a Marte preparadas, a extração de matérias-primas em asteroides desenvolvida. Com isso se coloca a pergunta sobre como a humanidade lida com esse novo palco. SOLIS dá uma resposta clara. O espaço não pertence a nações ou empresas isoladas, mas é uma herança comum e um espaço de vida ampliado de toda a humanidade. Por isso a pesquisa no espaço é feita de forma internacional, cooperativa e pacífica. Os grandes projetos são missões comuns de muitas ordens e disciplinas, e não corridas, o intercâmbio científico e a invenção aberta estão em primeiro plano, e o uso militar do espaço é excluído. A extração de matérias-primas só é permitida sob regras ecológicas, éticas e justas claras. As consequências são examinadas e limitadas, os rendimentos beneficiam toda a humanidade por meio de fundos comuns e não só quem chega primeiro, e o nível planetário assegura a autorização e a supervisão. Por isso um consórcio que queira explorar um asteroide precisa provar que não há risco ecológico e que uma parte dos rendimentos volta para bens comuns.
O espaço é, além disso, mais do que um depósito de matérias-primas. É um possível espaço de vida e talvez o lar de outras formas de vida. Por isso SOLIS pensa desde o início em como lidar com uma possível vida extraterrestre, em como impedir o transporte de organismos nas duas direções e em como assegurar uma participação justa. Por isso nas equipes de pesquisa trabalham também especialistas em ética e filósofos, há protocolos claros para lidar com o desconhecido, e a humanidade se apresenta como uma civilização unida e não como uma multidão dividida de grupos concorrentes. Assim, ela vai ao espaço não como conquistadora sem escrúpulos, mas como espécie que aprende e tem consciência da sua responsabilidade.
Gestão de riscos e de catástrofes
Uma sociedade que só constrói para os bons tempos constrói sobre areia. Catástrofes naturais, crises globais, perigos técnicos e ameaças vindas do espaço fazem parte da realidade de uma civilização interligada e tecnicamente complexa. SOLIS não aceita isso com fatalismo. Age. Os riscos nunca podem ser evitados por completo, mas é possível se preparar para eles e construir sistemas robustos, capazes de aprender e adaptáveis.
Disso fazem parte estruturas que observam e avaliam os riscos continuamente: equipes interdisciplinares da ciência, da técnica e da medicina, sistemas de alerta precoce que analisam grandes volumes de dados em tempo real e um planejamento sistemático de cenários. Ele não é um exercício de medo. É a base de uma preparação direcionada. Se um sistema assim detecta cedo uma ameaça incomum, em poucas horas são feitas avaliações, declaradas as etapas da Defesa da Terra e redirecionados os meios. A proteção contra catástrofes é um projeto comum e não um egoísmo nacional. Os sistemas de alerta precoce são ligados internacionalmente, há planos de emergência em todos os níveis, e as redes de ajuda estão preparadas, treinadas e equipadas antes que a emergência aconteça. Se uma tempestade solar ameaça a rede elétrica, o abastecimento de energia distribuído absorve a falha, e conexões protegidas por várias vias mantêm a comunidade unida.
A resiliência, porém, é mais do que técnica. Ela é ao mesmo tempo social, psíquica e ecológica: comunidades e bairros fortes, pessoas informadas e serenas, e paisagens e cidades capazes de amortecer as crises. Por isso, depois de uma catástrofe, as pessoas podem recorrer à ajuda material e igualmente a estruturas comunitárias que as amparam emocionalmente. Assim, as pessoas não se sentem vítimas indefesas, mas membros corresponsáveis de uma sociedade resiliente que sai fortalecida das dificuldades, fiel à resiliência que faz parte dos fundamentos desta ordem.
O lugar da humanidade no cosmos
No fim de toda técnica e de todos os sistemas não está só a pergunta sobre o que podemos, mas a pergunta maior sobre quem somos e o que queremos ser: para nós, uns para os outros e para o universo. SOLIS não a responde com arrogância, mas com humildade. Não somos os senhores do universo nem a coroa da criação. Somos parte de um conjunto imensamente grande e ainda em grande parte desconhecido. E é justamente dessa constatação que nasce uma grande responsabilidade. Na velha lógica valia que é nosso o que podemos tomar e que decide quem é mais forte. SOLIS inverte essa lógica. Onde usamos recursos além da Terra, fazemos isso como administradores cuidadosos e não como exploradores cegos. Onde encontramos vida estranha, não chegamos como conquistadores, mas como parceiros atentos. Onde exploramos o cosmos, fazemos isso conscientes da fragilidade de tudo o que vive. A nossa importância não se mede pelo poder, mas pela responsabilidade, e não pelo que tomamos, mas pelo que oferecemos.
O progresso técnico e a expansão só fazem sentido se vierem acompanhados de um crescimento interior, de sabedoria, compaixão e atenção. Por isso SOLIS não mede a grandeza pela expansão, mas pela maturidade. Não colonizamos mundos só porque podemos. Antes perguntamos para quê. Desenvolvemos uma técnica que não só amplia o nosso alcance, mas também a nossa capacidade de reflexão. Construímos uma cultura que não se distingue pelo tamanho, mas pela profundidade. Uma nave que viajasse por gerações até uma estrela distante não seria só uma aventura técnica, mas a pergunta sobre como se levam a comunidade, o sentido e a humanidade através dos séculos. O grande objetivo não é mais rápido, mais alto, mais poderoso, mais rico. É nos tornarmos uma civilização que dá ao cosmos mais do que tira dele, que leva para fora a cultura, a beleza e o conhecimento, que aprende em vez de apenas conquistar, e que deixa rastros que brilham não só na técnica, mas também na moral. Talvez sejamos a primeira espécie conhecida que pode decidir conscientemente como se comporta no universo. Não deveríamos desperdiçar essa chance.