기술, 인공지능, 미래

의회에서 시스템은 지역이 다음 태양 폭풍에 맞서 전력망을 어떻게 단단히 할 수 있을지 세 갈래의 길을 내놓았다. 비용과 위험, 그리고 각 길이 땅을 얼마나 먹어 들어갈지도 함께였다. 두 번째 시스템은 가장 그럴듯한 길에 반대하는 논리를 펴는 임무를 맡았고, 그 일을 잘 해냈다. 요리사는 물음이 제대로 던져졌는지 물었다. 문제가 전력망인지, 아니면 어둠 속에 앉아 있을 사람들인지. 기계들은 그 물음에 말이 없었다. 바로 그 순간 의회가 일하기 시작했다.

사람은 예로부터 자기를 돕는 도구를 만들어 왔다. 주먹도끼에서 양자 컴퓨터까지. 그러나 모든 도구는 하나의 물음을 던진다. 여기서 누가 누구를 섬기는가. 기술은 사람을 해방하는가, 아니면 의존하게 만드는가. 번영을 만드는가, 아니면 불평등을 키우는가. 일을 덜어 주는가, 아니면 일에서 의미를 빼앗는가. 이 물음들이 지금처럼 다급했던 적은 없다. 인류의 행동이 오늘날처럼 깊고, 빠르고, 되돌릴 수 없게 자기 미래를 정한 적은 없었기 때문이다. SOLIS는 이 물음들 앞에 서서 하나의 결론을 끌어낸다. 기술은 운명이 아니다. 우리를 휩쓸어 가는 막을 수 없는 물결이 아니라, 그 쓰임을 우리가 정하는 도구다.

미래 연구와 시나리오 계획

기후의 변화, 인공지능, 생명공학, 우주의 개척, 세계 지역들 사이의 힘의 이동은 더는 우연에 맡겨 둘 수 없는 미래를 빚고 있다. 그래서 좋은 사회는 미래를 내다보기만 하지 않는다. 의식적으로, 윤리적으로, 준비된 채로 미래를 만들어 간다. 이를 위해 SOLIS는 끊임없이 앞을 내다보는 자체 기관을 운영한다. 기술적, 사회적, 생태적 변화를 분석하고 그로부터 시나리오를 그리는 연구소와 연구 연합이다. 인공지능이 새로운 단계에 이르면 무슨 일이 일어날까. 광범위한 자동화는 어떤 결과를 낳을까. 이 일에는 학문과 사업체와 시민 전체가 함께하여, 가장 뛰어난 두뇌들이 함께 앞을 내다본다.

결정적인 것은 이 미래 연구가 숨어서 이루어지지 않는다는 점이다. 모든 것을 미리 정해 버리는 그림자 모임은 없다. 시나리오와 분석은 공개되고, 학교와 미디어가 그것을 다루며, 시민의 참여로 흘러 들어가, 사회 전체가 함께 생각하고 우선순위를 정한다. 한 도시는 해마다 미래 포럼을 열어, 시민들이 다가올 변화를 알고, 전문가와 논쟁하고, 스스로 자극을 보탠다. 그래서 새로운 기술은 기술적으로, 윤리적으로, 사회적으로, 생태적으로 평가받으며, 사회적 논쟁은 어떤 흐름이 통제를 벗어난 뒤가 아니라 그 전에 벌어진다. 그렇게 큰 격변은 그저 당하는 것이 아니라 함께 빚는 것이 된다. 미래에 대한 두려움이 아니라 책임 있는 예견에서다.

도구로서의 기술

인공지능, 로봇 공학, 생명공학 같은 강력한 기술은 SOLIS에서 윤리적으로 심사받고 적극적으로 조종된다. 새로운 기술은 모두 그 경제적 쓸모와 함께 사회적, 생태적, 심리적 결과에 대해서도 똑같이 물음을 받는다. 유전 물질의 변형, 양자 컴퓨팅, 신경 인터페이스 같은 방법은 시장의 힘에만 맡겨지지 않는다. 윤리 지침과 공개 토론이 함께한다. 전문 기구인 기술 평의회, 윤리 평의회, 시민 포럼 같은 자체 제도가 무엇을 개발하고, 무엇을 도입하며, 무엇을 멈추거나 바꿔야 하는지 함께 정한다. 공동의 이익에 이바지하는 것은 기금이 지원한다. 불리한 처지의 아이들이 배우기 쉽게 하는 앱, 에너지 전환을 떠받치는 저장 장치 같은 것이다. 아무것도 보태지 않고 주의를 돈으로 바꾸기만 하는 것은 제한된다.

그 모든 것 위에 분명한 기본 태도가 있다. 기술은 사람을 더 약하고, 더 의존적이고, 더 획일적으로가 아니라 더 강하고, 더 자유롭고, 더 창의적으로 만들어야 한다. 사람이 주권자로 남는다. 기계가 사람을 조종하는 것이 아니라 사람이 기계를 조종한다. 알고리즘이 법을 쓰는 것이 아니라 사람이 법을 존중하는 알고리즘을 쓴다. 생명공학이 종의 미래를 정하는 것이 아니라 사람이 어떤 개입이 윤리적으로 정당한지 정한다. 다가올 수십 년 동안 우리가 내리는 결정이, 인류가 감시와 비인간화의 세계로 미끄러질지, 아니면 가능성과 새로운 의미의 세계로 올라설지를 함께 정한다. SOLIS는 이 키를 손에 쥔다. 기술을 쓰되, 기술에 쓰이지 않는다.

인공지능과 인류

인공지능은 평범한 도구가 아니다. 배울 줄 알고, 스스로 나아지며, 어쩌면 자율적이고, 어쩌면 어떤 인간의 제도보다 강력하다. 고전적인 체계에서 인공지능은 효율을 위한 순수한 수단으로 여겨지거나 위협으로 두려움의 대상이 된다. SOLIS는 세 번째 길을 간다. 인공지능은 인류의 발전에서 함께하는 참여자가 될 수 있지만, 결코 사람을 지배하거나, 대신하거나, 무력하게 만들어서는 안 된다. 인공지능은 사람을 돕고 키워야 한다.

이를 위해 분명한 윤리적 한계가 적용된다. 인공지능은 사람에게 너무 복잡하거나, 너무 위험하거나, 너무 단조로운 과제를 맡을 수 있지만, 생명과 존엄과 자유에 대한 최종 책임은 결코 맡을 수 없다. 인공지능은 스스로 전쟁을 벌여서도, 누구도 모르게 조작해서도, 사람 사이의 관계를 대신해서도 안 된다. 병원의 인공지능은 병상과 수단을 배분할 수 있지만, 생명을 구하는 치료를 스스로 결정하지는 않는다. 그 결정은 사람의 몫으로 남는다. 특히 강력한 시스템은 엄격하고, 공동이며, 국제적인 감독을 받고, 결코 개인이나 사업체나 한 질서가 홀로 통제하지 않는다. 이것은 꼭대기도, 중심 자원에 대한 독점도 허락하지 않는 권력의 질서를 그대로 적용한 것이다. 최악의 경우에도 대비되어 있다. 모든 강력한 시스템에는 사람이 쥐고 있는 스위치가 있으며, 그것을 멈추는 능력은 실제 비상사태처럼 훈련한다.

인공지능이 행정, 교육, 보건, 사법 같은 공공 영역에서 작동하는 곳에서는 자기 결정을 설명할 수 있어야 한다. 아무도 그 논리를 이해하지 못하는 블랙박스가 있어서는 안 된다. 영향을 받는 사람들은 열람하고, 설명을 듣고, 이의를 제기할 권리가 있으며, 독립 기관이 시스템을 정기적으로 심사한다. 그렇게 지식과 결정의 분리가 지켜지고, 마지막 말은 사람이 한다. 이 모든 것 위에, 인공지능이 어디까지 가도 되는지, 사람을 사람이게 하는 것이 무엇인지에 관한 넓은 사회적 대화가 있다. 그것은 전문 기구만이 아니라 사회 전체에서 이루어져, 역사상 가장 강력한 도구가 자기를 만든 이들의 주인이 되지 않게 한다.

기계 위의 사람

마지막 말을 사람이 한다는 것은 원칙으로 말하기는 쉬워도 지키기는 어렵다. 사람보다 훨씬 뛰어난 인공지능은 사람에게 한 번도 명령하지 않고도 그를 지배할 수 있다. 상황을 미리 추리고, 가능성을 고르고, 끝에 가서는 고개만 끄덕이면 되도록 결정을 준비하는 방식으로다. SOLIS는 이 조용한 장악에 단단한 장치로 맞선다. 영향이 큰 모든 결정에서 시스템은 하나의 권고를 다른 길이 없는 것처럼 내놓지 않고, 정말로 서로 다른 여러 길을 그 목표 충돌과 함께 내놓는다. 비전문가도 검토할 수 있는 근거가 맹목적인 신뢰를 대신하고, 따로 지정된 검토 시스템은 가장 그럴듯한 권고에 반대하는 논리를 펴는 임무를 맡는다. 그러나 무엇보다 물음의 틀, 곧 무엇이 선택지에 오르고 무엇을 성공으로 볼지를 정하는 일은 사람에게 남는다. 기계는 대답을 밝힌다. 물음은 사람이 던진다.

디지털 공유재

디지털은 현대 사회의 신경계다. 오늘날 소통과 경제와 지식과 권력, 거의 모든 것이 네트워크와 데이터와 알고리즘을 거쳐 흐른다. 오늘날 많은 체계에서 이 신경계는 사적으로 지배된다. 몇몇 기업이 플랫폼을 통제하고, 데이터는 원료처럼 착취되며, 알고리즘은 우리가 무엇을 보고 생각할지를 보이지 않게 정한다. SOLIS는 이와 달리 디지털 질서를 사유 재산이 아니라 공공의 기반 시설로 이해한다. 디지털 질서는 사람을 섬기며, 그 반대가 아니다.

그래서 기본 디지털 기반 시설은 공유재다. 네트워크와 데이터 공간과 기반 기술은 모두에게 열려 있고, 공동으로 관리되고 보호되며, 어떤 독점에도 지배받지 않고, 접근은 특권이 아니라 권리다. 외딴 지역의 사람도 대도시의 사람과 같은 기본 디지털 공급을 받는다. 여기에 자기 데이터에 대한 주권이 이어진다. 모든 사람은 누가 자기 데이터를 써도 되는지 스스로 정하고, 몰래 이용하는 일도, 사적인 것을 거래하는 일도 없으며, 앱을 쓰는 사람은 통제권을 지니고 무슨 일이 일어나는지 언제든 열람하고 철회할 수 있다. 여기에 디지털 투명성이 더해진다. 공공 데이터 플랫폼은 사업과 결정을 따라가 볼 수 있게 하고, 공동체에 관련된 알고리즘은 공개되고 검증할 수 있으며, 통제권은 숨은 곳이 아니라 사회에 있어서, 모든 시민이 공공 입찰 절차가 어떻게 결정하는지 따라가 볼 수 있다. 그로써 디지털 신경계는 사적 지배에서 풀려난다. 데이터의 착취도, 보이지 않는 조종도, 사람 위에 군림하는 기술도 없다. 디지털은 모두의 것이고, 데이터는 개인의 것이며, 기술은 권력이 아니라 사람을 섬긴다.

비대칭적 투명성

이 질서가 기대는 열림은 그 안에 위험을 품고 있다. 권력을 투명하게 만드는 바로 그 데이터와 센서의 기반 시설이 시민을 들여다볼 수도 있다. 방향을 잘못 잡으면 투명성은 원형 감옥이 될 것이다. 그래서 SOLIS는 그 방향을 의식적으로 뒤집는다. 완전한 투명함은 권력에, 관직과 기금과 알고리즘에 적용되고, 개인의 삶은 사생활의 보호 아래 놓인다. 사생활은 권리이고, 데이터 절약은 원칙이며, 사람은 자기에 관한 데이터의 주인으로 남는다. 남에게 권력을 행사하는 사람은 드러난다. 그저 자기 삶을 사는 사람은 가려진 채로 남는다.

트랜스휴머니즘과 의식

인류의 역사는 확장의 역사다. 손을 늘이는 도구에서 생각을 빠르게 하는 컴퓨터까지. 그러나 이제 우리는 새로운 지점에 서 있다. 기술이 더는 우리가 쓰는 것만이 아니라 우리 자신을 바꾸는 지점이다. 신경 인터페이스, 임플란트, 유전 물질에 대한 개입, 우리와 긴밀히 이어진 보조 시스템이다. SOLIS는 이 미래 앞에 순진하게도 광신적으로도 서지 않는다. 그것이 기회이자 위험이며 최고의 신중함을 요구한다는 의식으로 그 앞에 선다.

그래서 몸과 정신을 확장하는 기술은 통째로 금지하지 않되 순진하게 열광하지도 않으면서 엄격하게 윤리적으로 심사받는다. 모든 새로운 가능성은 기술적, 의학적 차원과 함께 윤리적, 사회적, 철학적 차원 등 여러 차원에서 검토되며, 안전을 보장하고, 존엄과 정체성을 존중하며, 공정을 지킬 때에만 도입될 수 있다. 앞을 보지 못하는 사람에게 시력을 되돌려 주는 임플란트는 지원받는다. 부유한 소수에게 정신적 우월을 안겨 줄 개입은 불평등을 굳히기에 제동이 걸린다. 여기서 곧바로, 확장의 강요도 두 계급의 사회도 있어서는 안 된다는 결론이 나온다. 참여와 존엄과 권리는 결코 기술적 개선에 좌우되지 않는다. 자신을 확장하고 싶지 않은 사람도 공동체의 온전한 구성원으로 남는다. 어떤 직업도 어떤 기회도 임플란트에 묶여서는 안 되며, 부모가 개입을 거부했다는 이유로 어떤 아이도 불이익을 받아서는 안 된다. 여기서 기본권의 절대적 바닥이 작동한다. 존엄은 모든 최적화보다 앞선다.

이 물음들은 사람의 자기 이해와 관계와 유한성을 건드리기에, 경계가 옮겨질 때마다 철학적, 윤리적 성찰이 함께한다. 의식을 디지털화하거나 늘일 수 있느냐는 물음에 대한 연구조차 교조적으로 금지하지 않되, 정체성과 의미에 대한 최대한의 존중 속에서 이루어지고, 남용과 소외를 막는 분명한 한계에 묶인다. 이때 우리가 무언가를 해야 하느냐는 물음은 언제나 우리가 그것을 할 수 있느냐는 물음만큼 진지하게 다뤄진다. 그렇게 인류는 이 문턱에서 자신을 잃지 않고 자랄 수 있다.

우주 연구와 행성 간 윤리

수천 년 동안 사람은 그리움을 품고 별을 올려다보았고, 오늘날 그 눈길은 더는 꿈이 아니다. 달 기지가 계획되고, 화성 탐사가 준비되며, 소행성의 자원 채굴이 개발되고 있다. 그로써 인류가 이 새로운 무대를 어떻게 다룰 것이냐는 물음이 떠오른다. SOLIS는 여기에 분명히 답한다. 우주는 개별 국가나 기업의 것이 아니라 인류 전체의 공동 유산이자 넓어진 삶의 공간이다. 그래서 우주에서의 연구는 국제적으로, 협력하며, 평화롭게 이루어진다. 큰 사업은 경주가 아니라 여러 질서와 분과의 공동 임무이며, 과학적 교류와 열린 발명이 앞에 서고, 우주의 군사적 이용은 배제된다. 자원 채굴은 분명한 생태적, 윤리적, 공정한 규칙 아래에서만 허용된다. 그 결과는 검토되고 제한되며, 수익은 먼저 손을 뻗는 이들만이 아니라 공동 기금을 통해 인류 전체에게 돌아가고, 행성 층위가 허가와 감독을 맡는다. 그래서 소행성을 개발하려는 연합은 생태적 위험이 없다는 것과 수익의 일부가 공동의 재화로 돌아간다는 것을 증명해야 한다.

게다가 우주는 원료 창고 이상의 것이다. 그것은 가능한 삶의 공간이며, 어쩌면 다른 생명 형태의 고향이다. 그래서 SOLIS는 있을 수 있는 외계 생명을 어떻게 대할지, 양방향으로 생물이 옮겨지는 것을 어떻게 막을지, 공정한 참여를 어떻게 지킬지를 미리 생각한다. 그래서 연구 팀에는 윤리학자와 철학자도 함께 일하고, 미지의 것을 다루는 분명한 규약이 있으며, 인류는 서로 다투는 경쟁 집단의 무리가 아니라 하나로 뭉친 문명으로 나선다. 그렇게 인류는 무자비한 정복자가 아니라 배우며 책임을 아는 종으로서 우주로 간다.

위험과 재난 관리

좋은 시절만을 믿고 짓는 사회는 모래 위에 짓는다. 자연재해, 세계적 위기, 기술적 위험, 우주에서 오는 위협은 연결되고 기술적으로 복잡한 문명의 현실에 속한다. SOLIS는 이를 체념하며 받아들이지 않는다. 행동한다. 위험을 완전히 피할 수는 없지만, 대비할 수 있고, 튼튼하고 배울 줄 알며 유연한 체계를 지을 수 있다.

여기에는 위험을 끊임없이 관찰하고 평가하는 구조가 포함된다. 학문과 기술과 의학을 아우르는 팀, 많은 데이터를 실시간으로 분석하는 조기 경보 체계, 그리고 체계적인 시나리오 계획이다. 그것은 두려움의 연습이 아니다. 목표가 분명한 대비의 토대다. 그런 체계가 이례적인 위협을 일찍 알아차리면, 몇 시간 안에 평가가 나오고, 지구 방위의 단계가 발령되며, 수단이 재배치된다. 이때 재난 대비는 국가 이기주의가 아니라 공동의 사업이다. 조기 경보 체계는 국제적으로 이어져 있고, 비상 계획은 모든 층위에 있으며, 구호 그물은 비상사태가 오기 전에 준비되고, 훈련되고, 갖추어져 있다. 태양 폭풍이 전력망을 위협하면 분산된 에너지 공급이 고장을 받아 내고, 여러 겹으로 확보된 연결망이 공동체를 붙들어 둔다.

그러나 회복력은 기술 이상의 것이다. 그것은 사회적이고, 심리적이고, 생태적이다. 튼튼한 공동체와 이웃, 정보를 갖추고 침착한 사람들, 그리고 위기를 완충할 수 있는 풍경과 도시다. 그래서 재난 뒤에 사람들은 물질적 도움과 함께 마음을 받쳐 주는 공동체의 구조에도 기댈 수 있다. 그렇게 사람들은 자신을 무력한 희생자가 아니라, 이 질서의 토대에 속한 회복력에 걸맞게 시련에서 더 강해져 나오는 회복력 있는 사회의 책임 있는 구성원으로 느낀다.

우주 속 인류의 자리

모든 기술과 모든 체계의 끝에는 우리가 무엇을 할 수 있느냐는 물음만이 아니라, 더 큰 물음이 있다. 우리는 누구이며, 우리 자신에게, 서로에게, 우주에게 무엇이고 싶은가. SOLIS는 이 물음에 오만이 아니라 겸손으로 답한다. 우리는 우주의 주인도 창조의 면류관도 아니다. 우리는 헤아릴 수 없이 크고 아직 대부분 알려지지 않은 연관의 일부다. 그리고 바로 이 깨달음에서 큰 책임이 자라난다. 옛 논리에서는 우리가 가질 수 있는 것은 우리의 것이고, 더 강한 자가 정한다고 여겼다. SOLIS는 이 논리를 뒤집는다. 지구 밖의 자원을 쓸 때 우리는 눈먼 착취자가 아니라 신중한 관리자로서 쓴다. 낯선 생명을 만날 때 우리는 정복자가 아니라 조심스러운 동반자로 나선다. 우주를 탐구할 때 우리는 살아 있는 모든 것의 연약함을 의식하며 탐구한다. 우리의 의미는 권력이 아니라 책임으로, 우리가 가져가는 것이 아니라 우리가 보태는 것으로 잰다.

기술의 진보와 확장은 내면의 성장, 곧 지혜와 연민과 신중함과 함께할 때에만 의미가 있다. 그래서 SOLIS는 위대함을 확장이 아니라 성숙으로 잰다. 우리는 할 수 있다는 이유만으로 세계에 정착하지 않는다. 먼저 무엇을 위해서인지 묻는다. 우리는 우리의 손이 닿는 범위만이 아니라 성찰하는 능력도 키우는 기술을 개발한다. 우리는 크기가 아니라 깊이로 빛나는 문화를 짓는다. 여러 세대에 걸쳐 먼 별로 가는 배는 기술적 모험에 그치지 않고, 공동체와 의미와 인간다움을 수백 년 동안 어떻게 지켜 나갈 것이냐는 물음일 것이다. 큰 목표는 더 빠르게, 더 높이, 더 강하게, 더 부유하게가 아니다. 그것은 우주에서 가져가는 것보다 더 많이 우주에 주고, 문화와 아름다움과 지식을 바깥으로 실어 나르며, 정복하기만 하는 대신 배우고, 기술적으로만이 아니라 도덕적으로도 빛나는 흔적을 남기는 문명이 되는 것이다. 어쩌면 우리는 우주에서 어떻게 행동할지를 의식적으로 결정할 수 있는, 알려진 최초의 종일지 모른다. 이 기회를 헛되이 날려서는 안 된다.