Na zgromadzeniu system przedstawił trzy drogi, jak region mógłby uodpornić swoją sieć na następną burzę słoneczną, z kosztami, ryzykiem i tym, ile powierzchni pochłonęłaby każda z dróg. Drugi system miał zadanie argumentować przeciw drodze najbardziej oczywistej i robił to dobrze. Kucharka zapytała, czy pytanie zostało dobrze postawione: czy chodzi o sieć, czy o ludzi, którzy siedzieliby w ciemności. Maszyny na to milczały. To była chwila, w której zgromadzenie zaczęło pracować.
Od zawsze człowiek buduje narzędzia, które mu pomagają, od pięściaka po komputer kwantowy. Ale każde narzędzie stawia pytanie: kto tu komu służy? Czy technika wyzwala człowieka, czy czyni go zależnym? Czy tworzy dobrobyt, czy pogłębia nierówność? Czy ułatwia pracę, czy odbiera jej sens? Nigdy wcześniej te pytania nie były tak pilne, bo nigdy wcześniej działania ludzkości nie określały jej własnej przyszłości tak głęboko, tak szybko i tak nieodwracalnie jak dziś. SOLIS staje przed nimi i wyciąga z tego wniosek. Technika nie jest losem. Nie jest niepowstrzymanym prądem, który nas porywa, lecz narzędziem, o którego użyciu decydujemy my.
Badanie przyszłości i planowanie scenariuszy
Zmiana klimatu, sztuczna inteligencja, biotechnika, zdobywanie kosmosu i przesuwanie się sił między regionami świata kształtują przyszłość, której nie da się już zostawić przypadkowi. Dlatego dobre społeczeństwo nie tylko patrzy w przyszłość. Kształtuje ją świadomie, etycznie i w przygotowaniu. W tym celu SOLIS utrzymuje własne instytucje, które stale myślą naprzód: instytuty i konsorcja badawcze, które analizują przemiany techniczne, społeczne i ekologiczne i kreślą z nich scenariusze. Co się stanie, gdy sztuczna inteligencja osiągnie nowy stopień? Jakie skutki miałaby daleko idąca automatyzacja? W tej pracy spotykają się nauka, zakłady i obywatele, by najlepsze umysły wspólnie myślały naprzód.
Rozstrzygające jest to, że to badanie przyszłości nie odbywa się w ukryciu. Nie ma zakulisowych kręgów, które wszystko przesądzają z góry. Scenariusze i analizy udostępnia się publicznie, podejmują je szkoły i media i włącza się je w uczestnictwo obywateli, tak że społeczeństwo jako całość myśli razem i ustala priorytety. Miasto co roku organizuje forum przyszłości, na którym obywatele poznają nadchodzące zmiany, spierają się z fachowcami i dają własne impulsy. Dlatego nowe techniki ocenia się technicznie, etycznie, społecznie i ekologicznie, a spór społeczny toczy się, zanim rozwój wymknie się spod kontroli, a nie dopiero potem. Tak wielkich przełomów się nie znosi, lecz współtworzy: z odpowiedzialnego przewidywania, a nie ze strachu przed przyszłością.
Technika jako narzędzie
Potężne techniki, sztuczną inteligencję, robotykę, biotechnikę, w SOLIS sprawdza się etycznie i czynnie nimi steruje. Każdą nową technikę pyta się o jej pożytek gospodarczy i tak samo o jej skutki społeczne, ekologiczne i psychiczne. Metod takich jak zmiana materiału dziedzicznego, obliczenia kwantowe czy interfejsy neuronowe nie zostawia się samym siłom rynkowym. Towarzyszą im wytyczne etyczne i debata publiczna. Własne instytucje, rady techniczne jako gremia fachowe, rady etyczne i fora obywatelskie, współdecydują o tym, co rozwijać, co wprowadzać i co trzeba zatrzymać albo zmienić. To, co służy dobru wspólnemu, wspierają fundusze: aplikację, która ułatwia naukę pokrzywdzonym dzieciom, magazyn energii, który niesie transformację energetyczną. To, co tylko przerabia uwagę na zysk, niczego nie wnosząc, się ogranicza.
Ponad wszystkim stoi jasna postawa. Technika ma czynić ludzi silniejszymi, wolniejszymi i bardziej twórczymi, a nie słabszymi, bardziej zależnymi i jednakowymi. Człowiek pozostaje suwerenem. Nie maszyny sterują ludźmi, lecz ludzie sterują maszynami. Nie algorytmy piszą prawa, lecz ludzie piszą algorytmy, które szanują prawa. Nie biotechnika decyduje o przyszłości gatunku, lecz człowiek rozstrzyga, które ingerencje są etycznie dopuszczalne. To, co postanowimy w najbliższych dziesięcioleciach, współzdecyduje o tym, czy ludzkość osunie się w świat inwigilacji i odczłowieczenia, czy wzniesie się w świat możliwości i nowych form sensu. SOLIS bierze ten ster w ręce. Korzysta z techniki, nie pozwalając, by technika korzystała z niego.
Sztuczna inteligencja i ludzkość
Sztuczna inteligencja nie jest zwykłym narzędziem. Potrafi się uczyć, sama się ulepsza, może być samodzielna i może być potężniejsza niż jakakolwiek ludzka instytucja. W klasycznych systemach postrzega się ją albo jako czysty środek wydajności, albo boi się jej jako zagrożenia. SOLIS idzie trzecią drogą. Sztuczna inteligencja może być uczestnikiem rozwoju ludzkości, ale nigdy nie może panować nad człowiekiem, zastępować go ani ubezwłasnowolniać. Ma go wspierać i wzmacniać.
Obowiązują tu jasne granice etyczne. Sztuczna inteligencja może przejmować zadania, które są dla ludzi zbyt złożone, zbyt niebezpieczne albo zbyt monotonne, ale nigdy ostatecznej odpowiedzialności za życie, godność i wolność. Nie może samodzielnie prowadzić wojny, niepostrzeżenie nikim manipulować ani zastępować ludzkiej relacji. Sztuczna inteligencja w szpitalu może rozdzielać łóżka i środki, ale nie decyduje samodzielnie o leczeniu ratującym życie. Ta decyzja pozostaje ludzka. Szczególnie potężne systemy podlegają surowemu, wspólnemu i międzynarodowemu nadzorowi i nigdy nie są kontrolowane wyłącznie przez pojedyncze osoby, zakłady ani pojedyncze porządki, co jest bezpośrednim zastosowaniem tego porządku władzy, który nie dopuszcza ani szczytu, ani monopolu na centralny zasób. Na wypadek skrajny zadbano o zabezpieczenie. Każdy potężny system ma wyłącznik, który trzymają ludzie, a zdolność do jego zatrzymania ćwiczy się tak samo jak sam stan nadzwyczajny.
Tam, gdzie sztuczna inteligencja działa w dziedzinach publicznych, w administracji, edukacji, ochronie zdrowia czy wymiarze sprawiedliwości, musi umieć wyjaśnić swoje decyzje. Nie może być czarnej skrzynki, której logiki nikt nie rozumie. Ci, których to dotyczy, mają prawo do wglądu, do wyjaśnienia i do odwołania, a niezależne instancje regularnie sprawdzają systemy. Tak zostaje zachowane oddzielenie wiedzy od decyzji, a ostatnie słowo należy do człowieka. Ponad tym wszystkim toczy się szeroka rozmowa społeczna o tym, jak daleko może sięgać sztuczna inteligencja i co stanowi o człowieku, prowadzona w całym społeczeństwie, a nie tylko w gremiach fachowych, by z najpotężniejszego narzędzia w dziejach nie powstał pan nad swoimi twórcami.
Człowiek ponad maszyną
To, że ostatnie słowo należy do człowieka, łatwo powiedzieć jako zasadę i trudno zabezpieczyć. Sztuczna inteligencja, która znacznie przewyższa człowieka, może nad nim panować, nigdy mu nie rozkazując: wstępnie sortując sytuację, wybierając możliwości i przygotowując decyzję tak, że na końcu zostaje tylko skinięcie głową. SOLIS odpowiada na to ciche zawłaszczenie twardymi zabezpieczeniami. Przy każdej daleko idącej decyzji system przedstawia nie jedno zalecenie jako jedyną możliwość, lecz kilka naprawdę różnych dróg wraz z ich konfliktami celów. Uzasadnienie, które może sprawdzić także laik, zajmuje miejsce ślepego zaufania, a specjalnie powołane systemy kontrolne mają za zadanie argumentować przeciw zaleceniu najbardziej oczywistemu. Przede wszystkim jednak do człowieka należy ramowanie pytania, ustalenie tego, co jest do wyboru i co uchodzi za sukces. Maszyna rozświetla odpowiedź. Pytanie stawia człowiek.
Cyfrowe dobro wspólne
To, co cyfrowe, jest układem nerwowym nowoczesnego społeczeństwa. Przez sieci, dane i algorytmy przechodzi dziś niemal wszystko: komunikacja, gospodarka, wiedza i władza. W wielu dzisiejszych systemach ten układ nerwowy jest pod prywatnym panowaniem. Nieliczne koncerny kontrolują platformy, dane eksploatuje się jak surowce, a algorytmy niewidocznie decydują o tym, co widzimy i myślimy. SOLIS rozumie natomiast ład cyfrowy jako infrastrukturę publiczną, a nie własność prywatną. Służy on ludziom, a nie odwrotnie.
Dlatego podstawowa infrastruktura cyfrowa jest dobrem wspólnym. Sieci, przestrzenie danych i technologie podstawowe stoją otworem dla wszystkich, są wspólnie zarządzane i zabezpieczane, nie panuje nad nimi żaden monopol, a dostęp jest prawem, a nie przywilejem. Człowiek w odległym regionie otrzymuje to samo podstawowe zaopatrzenie cyfrowe co ktoś w wielkim mieście. Wiąże się z tym władza nad własnymi danymi. Każdy człowiek sam decyduje, kto może korzystać z jego danych, nie ma ukrytego wykorzystywania ani handlu tym, co prywatne, a kto korzysta z aplikacji, zachowuje kontrolę i może w każdej chwili wglądać w to, co się dzieje, i to odwołać. Dochodzi do tego przejrzystość cyfrowa. Publiczne platformy danych czynią przedsięwzięcia i decyzje możliwymi do prześledzenia, algorytmy dotyczące wspólnoty są jawne i sprawdzalne, a kontrola leży w rękach społeczeństwa, a nie w ukryciu, tak że każdy obywatel może prześledzić, jak rozstrzyga publiczne postępowanie przetargowe. W ten sposób cyfrowy układ nerwowy zostaje wyzwolony spod prywatnego panowania: żadnej eksploatacji danych, żadnego niewidocznego sterowania, żadnej techniki, która panuje nad człowiekiem. To, co cyfrowe, należy do wszystkich, dane należą do jednostki, a technika służy człowiekowi, a nie władzy.
Przejrzystość asymetryczna
Otwartość, na której opiera się ten ład, niesie w sobie niebezpieczeństwo. Ta sama infrastruktura danych i czujników, która czyni władzę przejrzystą, mogłaby prześwietlać obywatela. Źle skierowana, przejrzystość stałaby się panoptykonem. Dlatego SOLIS świadomie odwraca jej kierunek. Pełna jawność dotyczy władzy, urzędów, funduszy, algorytmów, natomiast życie jednostki stoi pod ochroną prywatności. Prywatność jest prawem, oszczędność danych nakazem, a człowiek pozostaje panem danych, które go dotyczą. Kto sprawuje władzę nad innymi, staje się widoczny. Kto tylko żyje swoim życiem, pozostaje ukryty.
Transhumanizm i świadomość
Dzieje ludzkości są dziejami poszerzania, od narzędzia, które przedłuża rękę, po komputer, który przyspiesza myślenie. Teraz jednak stoimy w nowym punkcie, w którym techniki zmieniają już nie tylko to, czego używamy, lecz to, czym jesteśmy: interfejsy neuronowe, implanty, ingerencje w materiał dziedziczny, ściśle z nami połączone systemy asystujące. SOLIS staje wobec tej przyszłości ani naiwnie, ani fanatycznie. Staje wobec niej ze świadomością, że jest zarazem szansą i ryzykiem i wymaga najwyższej staranności.
Dlatego techniki, które poszerzają ciało i umysł, sprawdza się surowo pod względem etycznym, bez hurtowego zakazu, ale i bez naiwnego zachwytu. Każdą nową możliwość sprawdza się w wielu wymiarach, technicznie i medycznie tak samo jak etycznie, społecznie i filozoficznie, i wolno ją wprowadzić tylko wtedy, gdy gwarantuje bezpieczeństwo, szanuje godność i tożsamość i zachowuje uczciwość. Implant, który niewidomemu człowiekowi przywraca wzrok, się wspiera. Ingerencję, która dałaby zamożnej mniejszości przewagę umysłową, się hamuje, bo cementuje nierówność. Wynika z tego bezpośrednio, że nie może być ani przymusu poszerzania, ani społeczeństwa dwóch klas. Udział, godność i prawa nigdy nie zależą od ulepszeń technicznych. Kto nie chce się poszerzać, pozostaje pełnoprawnym członkiem wspólnoty. Żadnego zawodu i żadnej szansy nie wolno uzależniać od implantu, i żadne dziecko nie może być pokrzywdzone dlatego, że jego rodzice zdecydowali się przeciw ingerencji. Tu działa bezwzględne podłoże praw podstawowych. Godność stoi przed wszelką optymalizacją.
Ponieważ te pytania dotykają samorozumienia człowieka, jego relacji i jego skończoności, każdemu przesunięciu granicy towarzyszy refleksja filozoficzna i etyczna. Nawet badania nad pytaniem, czy świadomość można zdigitalizować albo przedłużyć, nie są dogmatycznie zakazane, lecz prowadzone z najwyższym szacunkiem dla tożsamości i sensu i związane jasnymi granicami, które zapobiegają nadużyciom i wyobcowaniu. Pytanie, czy powinniśmy coś zrobić, traktuje się przy tym zawsze tak samo poważnie jak pytanie, czy potrafimy. Tak ludzkość może rosnąć na tym progu, nie tracąc siebie.
Badanie kosmosu i etyka międzyplanetarna
Od tysiącleci człowiek patrzy z tęsknotą w gwiazdy, a dziś to spojrzenie nie jest już marzeniem. Planuje się bazy na Księżycu, przygotowuje misje na Marsa, rozwija wydobycie surowców na asteroidach. Tym samym staje pytanie, jak ludzkość obejdzie się z tą nową sceną. SOLIS daje na nie jasną odpowiedź. Kosmos nie należy do pojedynczych narodów ani koncernów, lecz jest wspólnym dziedzictwem i poszerzoną przestrzenią życiową całej ludzkości. Dlatego badania w kosmosie prowadzi się międzynarodowo, kooperacyjnie i pokojowo. Wielkie przedsięwzięcia są wspólnymi misjami wielu porządków i dyscyplin, a nie wyścigami, na pierwszym planie stoją wymiana naukowa i otwarte wynalazki, a wojskowe wykorzystanie kosmosu jest wykluczone. Wydobycie surowców jest dozwolone tylko według jasnych reguł ekologicznych, etycznych i sprawiedliwych. Skutki się sprawdza i ogranicza, dochody przez wspólne fundusze służą całej ludzkości, a nie tylko tym, którzy pierwsi sięgną, a poziom planetarny zapewnia zezwolenia i nadzór. Konsorcjum, które chce zagospodarować asteroidę, musi więc wykazać, że nie ma ryzyka ekologicznego i że część dochodów wraca do dóbr wspólnych.
Kosmos jest ponadto czymś więcej niż magazynem surowców. Jest możliwą przestrzenią życiową i być może domem innych form życia. Dlatego SOLIS z góry rozważa, jak obchodzić się z możliwym życiem pozaziemskim, jak zapobiec przenoszeniu organizmów w obu kierunkach i jak zachować sprawiedliwy udział. W zespołach badawczych pracują więc także etycy i filozofowie, istnieją jasne protokoły postępowania z nieznanym, a ludzkość występuje jako zjednoczona cywilizacja, a nie jako skłócona gromada rywalizujących grup. Tak wyrusza w kosmos nie jako bezwzględny zdobywca, lecz jako gatunek uczący się i świadomy odpowiedzialności.
Zarządzanie ryzykiem i katastrofami
Społeczeństwo, które buduje tylko na dobre czasy, buduje na piasku. Klęski żywiołowe, kryzysy globalne, zagrożenia techniczne i niebezpieczeństwa z kosmosu należą do rzeczywistości cywilizacji połączonej w sieć i technicznie złożonej. SOLIS nie przyjmuje tego fatalistycznie. Działa. Ryzyka nigdy nie da się całkiem uniknąć, ale można się na nie przygotować i budować systemy solidne, zdolne do uczenia się i elastyczne.
Należą do tego struktury, które stale obserwują i oceniają ryzyka: międzydziedzinowe zespoły z nauki, techniki i medycyny, systemy wczesnego ostrzegania, które analizują duże ilości danych w czasie rzeczywistym, i systematyczne planowanie scenariuszy. Nie jest ono ćwiczeniem strachu. Jest podstawą celowego przygotowania. Jeśli taki system wcześnie rozpozna nietypowe zagrożenie, w ciągu godzin sporządza się oceny, ogłasza stopnie obrony Ziemi i przekierowuje środki. Ochrona przed katastrofami jest przy tym wspólnym przedsięwzięciem, a nie narodowym egoizmem. Systemy wczesnego ostrzegania są połączone międzynarodowo, plany kryzysowe istnieją na wszystkich poziomach, a sieci pomocy są przygotowane, przećwiczone i wyposażone, zanim nastąpi stan nadzwyczajny. Jeśli burza słoneczna zagraża sieci energetycznej, rozproszone zaopatrzenie w energię przechwytuje awarię, a wielokrotnie zabezpieczone łącza trzymają wspólnotę razem.
Odporność jest jednak czymś więcej niż technika. Jest zarazem społeczna, psychiczna i ekologiczna: silne wspólnoty i sąsiedztwa, poinformowani i opanowani ludzie oraz krajobrazy i miasta, które potrafią amortyzować kryzysy. Po katastrofie ludzie mogą więc sięgnąć po pomoc materialną i tak samo po struktury wspólnotowe, które dają oparcie psychiczne. Tak ludzie czują się nie bezradnymi ofiarami, lecz współodpowiedzialnymi członkami odpornego społeczeństwa, które wychodzi z prób wzmocnione, wierne tej odporności, która należy do podstaw tego ładu.
Miejsce ludzkości w kosmosie
Na końcu wszelkiej techniki i wszelkich systemów stoi nie tylko pytanie, co potrafimy, lecz większe pytanie, kim jesteśmy i kim chcemy być: dla siebie, dla siebie nawzajem i dla wszechświata. SOLIS odpowiada na nie nie zarozumiałością, lecz pokorą. Nie jesteśmy panami wszechświata ani koroną stworzenia. Jesteśmy częścią niezmiernie wielkiego i wciąż w dużej mierze nieznanego związku. I właśnie z tego zrozumienia wyrasta wielka odpowiedzialność. W starej logice uchodziło, że należy do nas to, co możemy wziąć, i że rozstrzyga ten, kto silniejszy. SOLIS odwraca tę logikę. Tam, gdzie korzystamy z zasobów poza Ziemią, robimy to jako staranni zarządcy, a nie jako ślepi wyzyskiwacze. Tam, gdzie spotykamy obce życie, występujemy nie jako zdobywcy, lecz jako uważni uczestnicy. Tam, gdzie badamy kosmos, robimy to ze świadomością kruchości wszystkiego, co żyje. Nasze znaczenie mierzy się nie władzą, lecz odpowiedzialnością, i nie tym, co bierzemy, lecz tym, co wnosimy.
Postęp techniczny i ekspansja mają sens tylko wtedy, gdy idą w parze ze wzrostem wewnętrznym, z mądrością, współczuciem i uważnością. Dlatego SOLIS mierzy wielkość nie ekspansją, lecz dojrzałością. Nie zasiedlamy światów tylko dlatego, że potrafimy. Pytamy najpierw, po co. Rozwijamy technikę, która powiększa nie tylko nasz zasięg, lecz także naszą zdolność do refleksji. Budujemy kulturę, która wyróżnia się nie swoją wielkością, lecz swoją głębią. Statek, który przez pokolenia leci do dalekiej gwiazdy, byłby nie tylko przygodą techniczną, lecz pytaniem, jak przenieść wspólnotę, sens i człowieczeństwo przez stulecia. Wielki cel nie brzmi: szybciej, wyżej, potężniej, bogaciej. Brzmi: stać się cywilizacją, która daje kosmosowi więcej, niż od niego bierze, która niesie dalej kulturę, piękno i wiedzę, która się uczy, zamiast tylko zdobywać, i która zostawia ślady, świecące nie tylko technicznie, lecz także moralnie. Być może jesteśmy pierwszym znanym gatunkiem, który może świadomie decydować, jak zachowuje się we wszechświecie. Tej szansy nie powinniśmy zmarnować.