На зібранні система запропонувала три шляхи, як регіон міг би загартувати свою мережу проти наступної сонячної бурі, з витратами, ризиками й тим, скільки площі поглинув би кожен шлях. Друга система мала доручення аргументувати проти очевидного шляху і робила це добре. Кухарка спитала, чи правильно поставлено питання: чи йдеться про мережу, чи про людей, що сиділи б у темряві. Машини на це мовчали. Це була мить, коли зібрання почало працювати.
Здавна людина будує знаряддя, що їй допомагають, від ручного рубила до квантового комп’ютера. Але кожне знаряддя ставить питання: хто тут кому служить? Чи техніка звільняє людину, чи робить її залежною? Чи творить вона добробут, чи загострює нерівність? Чи полегшує вона працю, чи відбирає в неї сенс? Ще ніколи ці питання не були такими нагальними, бо ще ніколи дії людства не визначали його власного майбутнього так глибоко, так швидко й так незворотно, як сьогодні. SOLIS стає перед ними й робить із цього висновок. Техніка не є долею. Вона не є невпинним потоком, що несе нас із собою, а знаряддям, про застосування якого вирішуємо ми.
Дослідження майбутнього і планування сценаріїв
Зміна клімату, штучний інтелект, біотехніка, освоєння космосу й зміщення сил між регіонами світу формують майбутнє, яке вже не можна лишати на розсуд випадку. Тому добре суспільство не лише дивиться в майбутнє. Воно творить його свідомо, етично й підготовлено. Для цього SOLIS утримує власні установи, що безперервно думають наперед: інститути й дослідницькі об’єднання, що аналізують технічні, суспільні й екологічні зміни й накреслюють із них сценарії. Що станеться, коли штучний інтелект досягне нового щабля? Які наслідки мала б далекосяжна автоматизація? У цій праці сходяться наука, підприємства й громадяни, щоб найкращі уми разом думали наперед.
Вирішальне те, що це дослідження майбутнього не відбувається потай. Немає тіньових гуртків, що все вирішують заздалегідь. Сценарії й аналізи роблять публічно доступними, їх підхоплюють школи й медіа і вносять в участь громадян, тож суспільство як ціле думає разом і встановлює пріоритети. Місто щороку проводить форум майбутнього, на якому громадяни знайомляться з прийдешніми змінами, сперечаються з фахівцями й дають власні поштовхи. Тому нові техніки оцінюють технічно, етично, соціально й екологічно, а суспільну суперечку ведуть до того, як розвиток вийде з-під контролю, а не лише після. Так великих зламів не зазнають, а співтворять їх: із відповідального передбачення, а не зі страху перед майбутнім.
Техніка як знаряддя
Могутні техніки, штучний інтелект, робототехніку, біотехніку, у SOLIS етично перевіряють і активно спрямовують. Кожну нову техніку питають про її економічну користь і так само про її суспільні, екологічні й душевні наслідки. Такі методи, як зміна спадкового матеріалу, квантові обчислення чи нейронні інтерфейси, не лишають самим ринковим силам. Їх супроводжують етичні настанови й публічна дискусія. Власні інституції, технічні ради як фахові органи, етичні ради й громадянські форуми, співвирішують, що розробляти, що впроваджувати і що треба зупинити чи змінити. Те, що слугує спільному благу, підтримують фонди: застосунок, що полегшує навчання знедоленим дітям, накопичувач, що несе енергетичний перехід. Те, що лише перетворює увагу на прибуток, нічого не даючи, обмежують.
Понад усім стоїть ясна постава. Техніка має робити людей сильнішими, вільнішими й творчішими, а не слабшими, залежнішими й одноманітнішими. Людина лишається сувереном. Не машини керують людьми, а люди керують машинами. Не алгоритми пишуть закони, а люди пишуть алгоритми, що шанують закони. Не біотехніка визначає майбутнє виду, а людина вирішує, які втручання етично допустимі. Те, що ми вирішимо в найближчі десятиліття, співвизначить, чи сповзе людство у світ стеження й знелюднення, чи підніметься у світ можливостей і нових форм сенсу. SOLIS бере це кермо в руки. Він користується технікою, не даючи їй користуватися собою.
Штучний інтелект і людство
Штучний інтелект не є звичайним знаряддям. Він здатен учитися, сам себе вдосконалює, можливо, самостійний і, можливо, могутніший за будь-яку людську інституцію. У класичних системах його бачать або як чистий засіб ефективності, або бояться як загрози. SOLIS іде третім шляхом. Штучний інтелект може бути учасником розвитку людства, але ніколи не сміє панувати над людиною, заступати її чи позбавляти дієздатності. Він має підтримувати й підсилювати її.
Для цього діють ясні етичні межі. Штучний інтелект може брати на себе завдання, надто складні, надто небезпечні чи надто одноманітні для людей, але ніколи останньої відповідальності за життя, гідність і свободу. Він не сміє самостійно вести війну, непомітно маніпулювати будь-ким і заступати людські стосунки. Штучний інтелект у лікарні може розподіляти ліжка й засоби, але він не вирішує самостійно про лікування, що рятує життя. Це рішення лишається людським. Особливо могутні системи підлягають суворому, спільному й міжнародному наглядові, і їх ніколи не контролюють самі окремі люди, підприємства чи окремі устрої, а це пряме застосування того порядку влади, що не допускає ні верхівки, ні монополії на центральний ресурс. На крайній випадок подбано. Кожна могутня система має вимикач, який тримають люди, а здатність її зупинити відпрацьовують так само, як сам надзвичайний випадок.
Там, де штучний інтелект діє в публічних царинах, в адмініструванні, освіті, охороні здоров’я чи правосудді, він мусить уміти пояснити свої рішення. Не сміє бути чорної скриньки, логіки якої ніхто не розуміє. Ті, кого це стосується, мають право на ознайомлення, на пояснення й на оскарження, а незалежні інстанції регулярно перевіряють системи. Так зберігається відокремлення знання від рішення, і останнє слово лишається за людиною. Понад усім цим стоїть широка суспільна розмова про те, як далеко може сягати штучний інтелект і що визначає людину, яку ведуть у всьому суспільстві, а не лише у фахових органах, щоб наймогутніше знаряддя в історії не стало паном над своїми творцями.
Людина над машиною
Те, що останнє слово лишається за людиною, легко сказати як засаду й важко забезпечити. Штучний інтелект, що набагато переважає людину, може панувати над нею, ніколи їй не наказуючи: попередньо сортуючи ситуацію, відбираючи можливості й готуючи рішення так, що наприкінці лишається тільки кивнути. SOLIS відповідає на це тихе захоплення твердими запобіжниками. У кожному далекосяжному рішенні система подає не одну рекомендацію як безальтернативну, а кілька справді різних шляхів разом із їхніми конфліктами цілей. Обґрунтування, яке може перевірити й непрофесіонал, посідає місце сліпої довіри, а спеціально призначені системи перевірки мають завдання аргументувати проти очевидної рекомендації. Але передусім за людиною лишається рамкування питання, визначення того, що стоїть на виборі і що вважається успіхом. Машина висвітлює відповідь. Питання ставить людина.
Цифрове спільне благо
Цифрове є нервовою системою сучасного суспільства. Через мережі, дані й алгоритми сьогодні йде майже все: комунікація, економіка, знання й влада. У багатьох сьогоднішніх системах цією нервовою системою володіють приватно. Кілька концернів контролюють платформи, дані експлуатують як сировину, а алгоритми невидимо вирішують, що ми бачимо й думаємо. SOLIS натомість розуміє цифровий устрій як публічну інфраструктуру, а не приватну власність. Він служить людям, а не навпаки.
Тому базова цифрова інфраструктура є спільним благом. Мережі, простори даних і базові технології відкриті для всіх, ними спільно управляють і їх спільно захищають, жодна монополія над ними не панує, а доступ є правом, а не привілеєм. Людина у віддаленому регіоні отримує те саме базове цифрове забезпечення, що й хтось у великому місті. З цим пов’язана влада над власними даними. Кожна людина сама вирішує, хто може користуватися її даними, немає таємного використання й немає торгівлі приватним, а хто користується застосунком, той зберігає контроль і може будь-коли переглянути й відкликати те, що відбувається. До цього додається цифрова прозорість. Публічні платформи даних роблять задуми й рішення простежуваними, алгоритми, що стосуються спільноти, відкриті й перевірні, а контроль лежить у суспільства, а не в прихованому, тож кожен громадянин може простежити, як ухвалює рішення публічна процедура закупівель. Так цифрову нервову систему звільнено з-під приватного панування: жодної експлуатації даних, жодного невидимого керування, жодної техніки, що панує над людиною. Цифрове належить усім, дані належать окремій людині, а техніка служить людині, а не владі.
Асиметрична прозорість
Відкритість, на яку спирається цей устрій, несе в собі небезпеку. Та сама інфраструктура даних і датчиків, що робить владу прозорою, могла б просвічувати громадянина. Спрямована хибно, прозорість стала б паноптикумом. Тому SOLIS свідомо перевертає її напрям. Повна прозорість стосується влади, посад, фондів, алгоритмів, тоді як життя окремої людини стоїть під захистом приватності. Приватність є правом, ощадливість у даних вимогою, а людина лишається господарем даних, що стосуються її. Хто здійснює владу над іншими, стає видимим. Хто лише живе своїм життям, лишається прихованим.
Трансгуманізм і свідомість
Історія людства є історією розширення, від знаряддя, що подовжує руку, до комп’ютера, що пришвидшує мислення. Але тепер ми стоїмо в новій точці, де техніки змінюють уже не лише те, чим ми користуємося, а те, чим ми є: нейронні інтерфейси, імплантати, втручання в спадковий матеріал, тісно пов’язані з нами асистентські системи. SOLIS стає перед цим майбутнім ні наївно, ні фанатично. Він стає перед ним, усвідомлюючи, що воно є водночас шансом і ризиком і вимагає найбільшої ретельності.
Тому техніки, що розширюють тіло й розум, суворо етично перевіряють, без огульної заборони, але й без наївного захвату. Кожну нову можливість перевіряють у багатьох вимірах, технічно й медично так само, як етично, соціально й філософськи, і її можна впровадити лише тоді, коли вона гарантує безпеку, шанує гідність та ідентичність і зберігає справедливість. Імплантат, що повертає сліпій людині зір, підтримують. Утручання, що дало б заможній меншості розумову перевагу, гальмують, бо воно цементує нерівність. Звідси прямо випливає, що не сміє бути ні примусу до розширення, ні суспільства двох класів. Участь, гідність і права ніколи не залежать від технічних удосконалень. Хто не хоче розширювати себе, лишається повноцінним членом спільноти. Жоден фах і жоден шанс не можна прив’язувати до імплантату, і жодну дитину не можна ставити в гірше становище через те, що її батьки відмовилися від утручання. Тут діє абсолютна основа основних прав. Гідність стоїть перед будь-якою оптимізацією.
Оскільки ці питання торкаються самосвідомості людини, її стосунків і її скінченності, кожне зсування межі супроводжує філософська й етична рефлексія. Навіть дослідження питання, чи можна свідомість оцифрувати чи продовжити, не забороняють догматично, а ведуть із найбільшою повагою до ідентичності й сенсу і прив’язують до ясних меж, що запобігають зловживанню й відчуженню. Питання, чи слід нам щось робити, при цьому завжди сприймають так само серйозно, як питання, чи можемо ми це. Так людство може зростати на цьому порозі, не гублячи себе.
Дослідження космосу і міжпланетна етика
Тисячоліттями людина з тугою дивиться на зорі, і сьогодні цей погляд уже не мрія. Плануються бази на Місяці, готуються місії на Марс, розробляється видобуток сировини на астероїдах. Тим самим постає питання, як людство поводитиметься з цією новою сценою. SOLIS дає на нього ясну відповідь. Космос не належить окремим націям чи концернам, а є спільною спадщиною й розширеним життєвим простором усього людства. Тому дослідження в космосі ведуть міжнародно, кооперативно й мирно. Великі задуми є спільними місіями багатьох устроїв і дисциплін, а не перегонами, на першому плані стоять науковий обмін і відкриті винаходи, а військове використання космосу виключено. Видобуток сировини дозволено лише за ясними екологічними, етичними й справедливими правилами. Наслідки перевіряють і обмежують, доходи через спільні фонди йдуть на користь усьому людству, а не лише тим, хто першим схопить, а планетарний рівень забезпечує дозвіл і нагляд. Тому об’єднання, що хоче освоїти астероїд, мусить довести, що немає екологічного ризику і що частина доходів повертається в спільні блага.
Крім того, космос більше, ніж склад сировини. Він є можливим життєвим простором і, можливо, домівкою інших форм життя. Тому SOLIS наперед обмірковує, як поводитися з можливим позаземним життям, як запобігти перенесенню організмів в обидва боки і як зберегти справедливу участь. Тому в дослідницьких командах працюють також етики й філософи, є ясні протоколи поводження з невідомим, а людство виступає як об’єднана цивілізація, а не як розсварена юрба конкурентних груп. Так воно йде в космос не як безоглядний завойовник, а як вид, що вчиться й усвідомлює відповідальність.
Управління ризиками і катастрофами
Суспільство, що будує лише на добрі часи, будує на піску. Природні катастрофи, глобальні кризи, технічні небезпеки й загрози з космосу належать до дійсності пов’язаної в мережу й технічно складної цивілізації. SOLIS не приймає цього фаталістично. Він діє. Ризиків ніколи не можна уникнути цілком, але до них можна підготуватися й будувати системи, міцні, здатні вчитися й гнучкі.
До цього належать структури, що безперервно спостерігають і оцінюють ризики: міждисциплінарні команди з науки, техніки й медицини, системи раннього попередження, що аналізують великі масиви даних у реальному часі, і систематичне планування сценаріїв. Воно не є вправою страху. Воно є основою цілеспрямованої підготовки. Якщо така система рано виявляє незвичну загрозу, протягом годин складають оцінки, оголошують щаблі оборони Землі й перенаправляють засоби. Захист від катастроф при цьому є спільною справою, а не національним егоїзмом. Системи раннього попередження міжнародно пов’язані, плани на випадок біди існують на всіх рівнях, а мережі допомоги підготовлені, відпрацьовані й оснащені до того, як настане надзвичайний випадок. Якщо сонячна буря загрожує енергомережі, розподілене енергопостачання підхоплює відмову, а багаторазово зарезервовані зв’язки тримають спільноту разом.
Однак стійкість більше, ніж техніка. Вона водночас соціальна, душевна й екологічна: сильні громади й сусідства, поінформовані й зібрані люди, а також краєвиди й міста, що можуть пом’якшувати кризи. Тому після катастрофи люди можуть спиратися на матеріальну допомогу і так само на спільні структури, що тримають душевно. Так люди почуваються не безпорадними жертвами, а співвідповідальними членами стійкого суспільства, що виходить із випробувань зміцнілим, вірне тій стійкості, яка належить до засад цього устрою.
Місце людства в космосі
Наприкінці всієї техніки й усіх систем стоїть не лише питання, що ми можемо, а більше питання, хто ми і ким хочемо бути: для себе, одне для одного й для всесвіту. SOLIS відповідає на нього не зарозумілістю, а смиренням. Ми не володарі всесвіту й не вінець творіння. Ми частина неосяжно великого й ще значною мірою невідомого взаємозв’язку. І саме з цього розуміння виростає велика відповідальність. У старій логіці вважалося, що нам належить те, що ми можемо взяти, і що вирішує той, хто сильніший. SOLIS перевертає цю логіку. Там, де ми користуємося ресурсами поза Землею, ми робимо це як дбайливі управителі, а не як сліпі визискувачі. Там, де ми зустрічаємо чуже життя, ми виступаємо не як завойовники, а як уважні учасники. Там, де ми досліджуємо космос, ми робимо це, усвідомлюючи крихкість усього живого. Наше значення вимірюється не владою, а відповідальністю, і не тим, що ми беремо, а тим, що ми вносимо.
Технічний поступ і розширення мають сенс лише тоді, коли йдуть разом із внутрішнім зростанням, із мудрістю, співчуттям і уважністю. Тому SOLIS вимірює велич не розширенням, а зрілістю. Ми не заселяємо світів лише тому, що можемо. Ми спершу питаємо, навіщо. Ми розвиваємо техніку, що збільшує не лише наш засяг, а й нашу здатність до рефлексії. Ми будуємо культуру, що вирізняється не своєю величиною, а своєю глибиною. Корабель, що поколіннями летить до далекої зорі, був би не лише технічною пригодою, а питанням, як пронести спільноту, сенс і людяність крізь століття. Велика мета звучить не так: швидше, вище, могутніше, багатше. Вона звучить так: стати цивілізацією, що дає космосу більше, ніж бере в нього, що несе назовні культуру, красу й знання, що вчиться, а не лише завойовує, і що лишає сліди, які світять не лише технічно, а й морально. Можливо, ми перший відомий вид, що може свідомо вирішувати, як поводитися у всесвіті. Цей шанс нам не слід змарнувати.