В собрании система представила три пути, как регион мог бы укрепить свою сеть против следующей солнечной бури, с расходами, рисками и тем, сколько земли съел бы каждый путь. Вторая система получила задание возражать против самого очевидного пути и справилась с ним хорошо. Повариха спросила, правильно ли поставлен вопрос: речь о сети или о людях, которые будут сидеть в темноте. Машины на это промолчали. Это был момент, когда собрание начало работать.
Человек издавна строит инструменты, которые ему помогают, от каменного рубила до квантового компьютера. Но каждый инструмент ставит вопрос: кто здесь кому служит? Освобождает ли техника человека или делает его зависимым? Создаёт ли она благосостояние или обостряет неравенство? Облегчает ли она труд или отнимает у него смысл? Никогда прежде эти вопросы не были так неотложны, потому что никогда прежде действия человечества не определяли его собственное будущее так глубоко, так быстро и так необратимо, как сегодня. SOLIS встречает их и делает из них вывод. Техника не судьба. Она не неудержимый поток, который нас уносит, а инструмент, о применении которого решаем мы.
Исследование будущего и планирование сценариев
Изменение климата, искусственный интеллект, биотехнологии, освоение космоса и смещение сил между регионами мира формируют будущее, которое больше нельзя отдавать на волю случая. Поэтому хорошее общество не только смотрит в будущее. Оно формирует его сознательно, этично и подготовленно. Для этого SOLIS содержит собственные учреждения, которые постоянно думают наперёд: институты и исследовательские объединения, которые анализируют технические, общественные и экологические процессы и строят из них сценарии. Что произойдёт, если искусственный интеллект выйдет на новую ступень? Какие последствия имела бы далеко идущая автоматизация? В этой работе сходятся наука, предприятия и граждане, чтобы лучшие умы думали наперёд вместе.
Решающее в том, что это исследование будущего не происходит в тайне. Нет теневых кружков, которые всё решают заранее. Сценарии и анализы делают общедоступными, их подхватывают школы и медиа и вводят в участие граждан, так что общество в целом думает вместе и расставляет приоритеты. Город каждый год проводит форум будущего, на котором граждане знакомятся с грядущими процессами, спорят со специалистами и дают собственные импульсы. Поэтому новые технологии оценивают технически, этически, социально и экологически, а общественный спор ведётся прежде, чем процесс выйдет из-под контроля, а не после. Так большие переломы не претерпевают, а помогают формировать: из ответственного предвидения, а не из страха перед будущим.
Техника как инструмент
Мощные технологии, искусственный интеллект, робототехника, биотехнологии, в SOLIS проверяют этически и активно направляют. Каждую новую технологию спрашивают о её экономической пользе и так же о её общественных, экологических и душевных последствиях. Такие методы, как изменение генома, квантовые вычисления или нейронные интерфейсы, не отдают одним лишь рыночным силам. Их сопровождают этические руководящие принципы и публичная дискуссия. Собственные институты, технические советы как профильные органы, этические советы и гражданские форумы, участвуют в решении, что разрабатывать, что вводить и что нужно остановить или изменить. То, что служит общему благу, поддерживают фонды: приложение, которое облегчает учёбу детям из неблагополучных семей, накопитель, который несёт энергетический поворот. То, что лишь извлекает выгоду из внимания, ничего не внося, ограничивают.
Над всем стоит ясная основная позиция. Техника должна делать людей сильнее, свободнее и творчески богаче, а не слабее, зависимее и однообразнее. Человек остаётся суверенным. Не машины управляют людьми, а люди управляют машинами. Не алгоритмы пишут законы, а люди пишут алгоритмы, которые уважают законы. Не биотехнологии определяют будущее вида, а человек решает, какие вмешательства этически допустимы. То, что мы решим в ближайшие десятилетия, определит, соскользнёт ли человечество в мир надзора и расчеловечивания или поднимется в мир возможностей и новых форм смысла. SOLIS берёт этот руль в руки. Он пользуется техникой, не позволяя ей пользоваться собой.
Искусственный интеллект и человечество
Искусственный интеллект не обычный инструмент. Он способен учиться, улучшать себя, возможно, действовать самостоятельно и, возможно, быть могущественнее любого человеческого института. В классических системах его видят либо чистым средством эффективности, либо боятся как угрозы. SOLIS идёт третьим путём. Искусственный интеллект может быть спутником в развитии человечества, но никогда не вправе господствовать над человеком, заменять его или лишать самостоятельности. Он должен поддерживать и усиливать человека.
Для этого действуют ясные этические границы. Искусственный интеллект вправе брать на себя задачи, которые для людей слишком сложны, слишком опасны или слишком однообразны, но никогда не последнюю ответственность за жизнь, достоинство и свободу. Он не вправе самостоятельно вести войну, незаметно манипулировать кем-либо и заменять человеческие отношения. Искусственный интеллект в больнице может распределять койки и средства, но не решает самостоятельно о лечении, спасающем жизнь. Это решение остаётся за человеком. Особенно мощные системы подлежат строгому, совместному и международному надзору и никогда не контролируются в одиночку отдельными людьми, предприятиями или отдельными порядками, прямое применение того порядка власти, который не допускает ни вершины, ни монополии на центральный ресурс. На крайний случай всё предусмотрено. У каждой мощной системы есть выключатель, который держат люди, а способность её остановить отрабатывают, как сам чрезвычайный случай.
Там, где искусственный интеллект действует в общественных областях, в управлении, образовании, здравоохранении или правосудии, он должен уметь объяснять свои решения. Не должно быть чёрного ящика, логику которого никто не понимает. Затронутые люди имеют право на ознакомление, на объяснение и на возражение, а независимые инстанции регулярно проверяют системы. Так сохраняется разделение знания и решения, и последнее слово остаётся за человеком. Над всем этим стоит широкий общественный разговор о том, как далеко вправе заходить искусственный интеллект и что составляет человека, который ведётся во всём обществе, а не только в экспертных органах, чтобы самый мощный инструмент истории не стал господином над своими создателями.
Человек над машиной
То, что последнее слово остаётся за человеком, как принцип сказать легко, а обеспечить трудно. Искусственный интеллект, намного превосходящий человека, может господствовать над ним, ни разу ему не приказав: предварительно сортируя положение, отбирая возможности и готовя решение так, что в конце остаётся лишь кивнуть. SOLIS встречает этот тихий захват твёрдыми мерами. При каждом далеко идущем решении система предлагает не одну рекомендацию как безальтернативную, а несколько действительно разных путей вместе с их конфликтами целей. Место слепого доверия занимает обоснование, которое может проверить и неспециалист, а специально назначенные проверочные системы обязаны возражать против самой очевидной рекомендации. Но прежде всего за человеком остаётся постановка вопроса, определение того, что стоит на выбор и что считается успехом. Машина освещает ответ. Вопрос ставит человек.
Цифровое общее достояние
Цифровое есть нервная система современного общества. Через сети, данные и алгоритмы сегодня проходит почти всё: общение, экономика, знание и власть. Во многих сегодняшних системах этой нервной системой владеют частным образом. Немногие концерны контролируют платформы, данные эксплуатируют как сырьё, а алгоритмы незримо решают, что мы видим и думаем. SOLIS, напротив, понимает цифровой порядок как общественную инфраструктуру, а не как частную собственность. Он служит людям, а не наоборот.
Поэтому базовая цифровая инфраструктура есть общее достояние. Сети, пространства данных и базовые технологии открыты всем, управляются и защищаются сообща, ни одна монополия над ними не господствует, а доступ есть право, а не привилегия. Человек в отдалённом регионе получает то же базовое цифровое обеспечение, что и житель большого города. С этим связана власть над собственными данными. Каждый человек сам решает, кто вправе использовать его данные, нет тайного извлечения выгоды и нет торговли личным, а тот, кто пользуется приложением, сохраняет контроль и в любой момент может увидеть и отозвать то, что происходит. К этому добавляется цифровая прозрачность. Общественные платформы данных делают проекты и решения прослеживаемыми, алгоритмы, касающиеся общей жизни, раскрыты и проверяемы, а контроль лежит у общества, а не в тени, так что каждый гражданин может проследить, как решает общественная процедура распределения. Тем самым цифровая нервная система освобождается от частного господства: нет эксплуатации данных, нет незримого управления, нет техники, господствующей над человеком. Цифровое принадлежит всем, данные принадлежат отдельному человеку, а техника служит человеку, а не власти.
Асимметричная прозрачность
Открытость, на которую опирается этот порядок, несёт в себе опасность. Та же инфраструктура из данных и датчиков, которая делает власть прозрачной, могла бы просвечивать гражданина. Направленная неправильно, прозрачность стала бы паноптикумом. Поэтому SOLIS сознательно переворачивает её направление. Полная видимость относится к власти, к должностям, фондам, алгоритмам, а жизнь отдельного человека находится под защитой частной сферы. Частная сфера есть право, бережливость в данных есть требование, а человек остаётся хозяином данных, которые о нём. Кто осуществляет власть над другими, становится видимым. Кто просто живёт свою жизнь, остаётся скрытым.
Трансгуманизм и сознание
История человечества есть история расширения, от инструмента, который удлиняет руку, до компьютера, который ускоряет мышление. Но теперь мы стоим в новой точке, где технологии меняют уже не только то, чем мы пользуемся, но и то, чем мы являемся: нейронные интерфейсы, импланты, вмешательства в геном, тесно связанные с нами системы-помощники. SOLIS встречает это будущее ни наивно, ни фанатично. Он встречает его с пониманием, что оно одновременно шанс и риск и требует крайней тщательности.
Поэтому технологии, расширяющие тело и ум, проходят строгую этическую проверку, без огульного запрета, но и без наивного восторга. Каждую новую возможность проверяют во многих измерениях, технически и медицински так же, как этически, социально и философски, и вводить её можно, только если она обеспечивает безопасность, уважает достоинство и идентичность и сохраняет справедливость. Имплант, который возвращает слепому зрение, поддерживают. Вмешательство, которое дало бы состоятельному меньшинству умственное превосходство, тормозят, потому что оно цементирует неравенство. Отсюда прямо следует, что не должно быть ни принуждения к расширению, ни двухклассового общества. Участие, достоинство и права никогда не зависят от технических улучшений. Кто не хочет себя расширять, остаётся полноправным членом сообщества. Ни одна профессия и ни один шанс не могут быть привязаны к импланту, и ни один ребёнок не может оказаться в невыгодном положении, потому что его родители отказались от вмешательства. Здесь действует абсолютная почва основных прав. Достоинство стоит впереди любой оптимизации.
Поскольку эти вопросы затрагивают то, как человек понимает себя, свои отношения и свою конечность, философское и этическое размышление сопровождает каждое смещение границы. И исследование вопроса, можно ли оцифровать или продлить сознание, не запрещают догматически, но ведут с величайшим уважением к идентичности и смыслу и привязывают к ясным границам, которые не допускают злоупотребления и отчуждения. Вопрос, следует ли нам что-то делать, при этом всегда принимают так же всерьёз, как вопрос, можем ли мы это сделать. Так человечество может расти на этом пороге, не теряя себя.
Исследование космоса и межпланетная этика
Тысячелетиями человек с тоской смотрит на звёзды, и сегодня этот взгляд больше не мечта. Планируют лунные базы, готовят миссии на Марс, разрабатывают добычу сырья на астероидах. Тем самым встаёт вопрос, как человечество обойдётся с этой новой сценой. SOLIS даёт на это ясный ответ. Космос не принадлежит отдельным нациям или концернам, а есть общее наследие и расширенное жизненное пространство всего человечества. Поэтому исследования в космосе ведутся международно, совместно и мирно. Большие проекты суть общие миссии многих порядков и дисциплин, а не гонки, на первом месте стоят научный обмен и открытое изобретение, а военное использование космоса исключено. Добыча сырья разрешена только по ясным экологическим, этическим и справедливым правилам. Последствия проверяются и ограничиваются, доходы через общие фонды идут на пользу всему человечеству, а не только тем, кто первым схватит, а планетарный уровень обеспечивает разрешение и надзор. Поэтому объединение, которое хочет освоить астероид, должно доказать, что экологического риска нет и что часть доходов возвращается в общие блага.
Космос к тому же больше, чем склад сырья. Он возможное жизненное пространство и, может быть, дом других форм жизни. Поэтому SOLIS заранее продумывает, как обращаться с возможной внеземной жизнью, как предотвратить перенос организмов в обе стороны и как сохранить справедливое участие. Поэтому в исследовательских командах работают и этики, и философы, есть ясные протоколы обращения с неизвестным, а человечество выступает как единая цивилизация, а не как разобщённое множество соперничающих групп. Так оно уходит в космос не как беспощадный завоеватель, а как учащийся и ответственный вид.
Управление рисками и катастрофами
Общество, которое рассчитывает только на хорошие времена, строит на песке. Природные катастрофы, глобальные кризисы, технические опасности и угрозы из космоса принадлежат к действительности связанной и технически сложной цивилизации. SOLIS не принимает это фаталистически. Он действует. Риски никогда нельзя полностью избежать, но к ним можно подготовиться и строить системы, которые прочны, способны учиться и приспосабливаться.
К этому относятся структуры, которые постоянно наблюдают и оценивают риски: междисциплинарные команды из науки, техники и медицины, системы раннего предупреждения, которые в реальном времени обрабатывают большие массивы данных, и систематическое планирование сценариев. Это не упражнение в страхе. Это основа целенаправленной подготовки. Если такая система рано распознаёт необычную угрозу, за несколько часов составляются оценки, объявляются ступени Обороны Земли и перенаправляются средства. Защита от катастроф при этом общее дело, а не национальный эгоизм. Системы раннего предупреждения связаны международно, планы на чрезвычайные случаи есть на всех уровнях, а сети помощи подготовлены, отработаны и оснащены прежде, чем наступит беда. Если солнечная буря угрожает энергосети, распределённое энергоснабжение принимает на себя сбой, а многократно защищённые связи удерживают сообщество вместе.
Но устойчивость больше, чем техника. Она одновременно социальна, душевна и экологична: сильные сообщества и соседства, информированные и собранные люди, а также ландшафты и города, способные смягчать кризисы. Поэтому после катастрофы люди могут опереться на материальную помощь и так же на общественные структуры, которые поддерживают душевно. Так люди чувствуют себя не беспомощными жертвами, а членами устойчивого общества, разделяющими за него ответственность, общества, которое выходит из испытания окрепшим, верное той устойчивости, что принадлежит к основам этого порядка.
Место человечества во вселенной
В конце всей техники и всех систем стоит не только вопрос, что мы можем, но и больший вопрос, кто мы и кем хотим быть: для себя, друг для друга и для вселенной. SOLIS отвечает на него не самонадеянностью, а смирением. Мы не хозяева вселенной и не венец творения. Мы часть неизмеримо большой и во многом ещё неизвестной взаимосвязи. И именно из этого понимания вырастает большая ответственность. В старой логике считалось, что нам принадлежит то, что мы можем взять, и что решает тот, кто сильнее. SOLIS переворачивает эту логику. Там, где мы используем ресурсы за пределами Земли, мы делаем это как бережные управляющие, а не как слепые эксплуататоры. Там, где мы встречаем чужую жизнь, мы выступаем не завоевателями, а внимательными партнёрами. Там, где мы исследуем космос, мы делаем это с сознанием хрупкости всего живого. Наше значение измеряется не властью, а ответственностью, и не тем, что мы берём, а тем, что мы вносим.
Технический прогресс и расширение имеют смысл, только если идут вместе с внутренним ростом, с мудростью, состраданием и внимательностью. Поэтому SOLIS мерит величие не протяжённостью, а зрелостью. Мы не заселяем миры только потому, что можем. Мы прежде спрашиваем, зачем. Мы развиваем технику, которая увеличивает не только наш охват, но и нашу способность к размышлению. Мы строим культуру, которая отличается не величиной, а глубиной. Корабль, который поколениями летит к далёкой звезде, был бы не только техническим приключением, но и вопросом о том, как пронести общность, смысл и человечность через века. Великая цель звучит не так: быстрее, выше, могущественнее, богаче. Она в том, чтобы стать цивилизацией, которая даёт космосу больше, чем берёт у него, которая несёт вовне культуру, красоту и знание, которая учится, а не только завоёвывает, и которая оставляет следы, светящиеся не только технически, но и нравственно. Может быть, мы первый известный вид, который может сознательно решить, как ему вести себя во вселенной. Этот шанс нам не следует упускать.