議会でシステムは、次の太陽嵐に備えて地域が送電網を強化する三つの道を示した。費用と危険と、それぞれの道がどれだけの土地を食うかを添えて。二つ目のシステムには、もっとも手近な道に反論するという任務が与えられていて、それをうまくこなした。料理人の女性は、問いの立て方が正しいのかと尋ねた。問題は送電網なのか、それとも暗闇のなかに座ることになる人びとなのか、と。機械はそれには何も答えなかった。議会が働き始めたのは、その瞬間だった。
人間は昔から、自分を助ける道具をつくってきた。握り斧から量子計算機まで。しかしどの道具も一つの問いを投げかける。ここで誰が誰に仕えているのか。技術は人間を解放するのか、それとも依存させるのか。豊かさを生むのか、それとも不平等を深めるのか。労働を軽くするのか、それともその意味を奪うのか。これらの問いがこれほど差し迫ったことはなかった。人類の行為が、自らの未来をこれほど深く、これほど速く、これほど取り返しのつかない形で決めたことは、かつてなかったからだ。SOLISはこれらの問いに向き合い、そこから一つの結論を引き出す。技術は運命ではない。わたしたちを押し流す止められない奔流ではなく、その使い方をわたしたちが決める道具なのである。
未来研究とシナリオ計画
気候の変化、人工知能、生物技術、宇宙の開拓、そして世界の諸地域のあいだの力の移り変わりが、もはや偶然に委ねることのできない未来を形づくっている。だからよい社会は、未来をただ見つめるのではない。それを意識的に、倫理的に、備えをもって形づくる。そのためにSOLISは、絶えず先を考える独自の機関を維持する。技術と社会と生態系の発展を分析し、そこからシナリオを描く研究所と研究ネットワークである。人工知能が新しい段階に達したら何が起きるのか。広範な自動化はどんな帰結をもたらすのか。この仕事には科学と事業体と市民全体が集まり、もっとも優れた頭脳がともに先を考える。
決定的なのは、この未来研究が隠れて行われないことである。あらゆることを前もって決めてしまう影の集まりはない。シナリオと分析は公開され、学校とメディアに取り上げられ、市民の参加へと流し込まれる。こうして社会は全体としてともに考え、優先順位を定める。ある町は毎年未来フォーラムを開き、市民はそこで来たるべき発展を知り、専門家と議論し、自分たちの考えを投げかける。だから新しい技術は、技術的に、倫理的に、社会的に、生態的に評価され、社会の議論は、ある発展が制御を失ってからではなく、その前に行われる。こうして大きな転換は、こうむるものではなく、ともに形づくるものとなる。未来への恐れからではなく、責任ある先見から。
道具としての技術
強力な技術、人工知能、ロボット工学、生物技術は、SOLISにおいて倫理的に審査され、積極的に舵を取られる。どの新しい技術も、その経済的な有用性と同じく、社会と生態系と心への帰結について問われる。遺伝子の改変、量子計算、神経インターフェースといった方法は、市場の力だけに委ねられたままにはならない。倫理の指針と公の議論がそれに寄り添う。独自の制度、つまり専門の会議体としての技術評議会と、倫理評議会と、市民フォーラムが、何を開発し、何を導入し、何を止め、あるいは変えなければならないかをともに決める。公共の福祉に役立つものは基金が後押しする。恵まれない子どもたちの学びを助けるアプリケーション、エネルギーの転換を支える蓄電の技術である。何も寄与せずに注意を換金するだけのものは制限される。
すべての上に、一つの明確な基本姿勢がある。技術は人間をより弱く、より依存的に、より画一的にするのではなく、より強く、より自由に、より創造的にすべきである。主権者は人間であり続ける。機械が人間を操るのではなく、人間が機械を操る。アルゴリズムが法を書くのではなく、人間が法を尊重するアルゴリズムを書く。生物技術が種の未来を決めるのではなく、どの介入が倫理的に許されるかを人間が決める。これからの数十年にわたしたちが決めることが、人類が監視と非人間化の世界へ滑り落ちるのか、それとも可能性と新しい意味の形の世界へと昇っていくのかを、ともに決めることになる。SOLISはこの舵を握る。技術を使い、技術に使われることはない。
人工知能と人類
人工知能はありふれた道具ではない。それは学ぶことができ、自らを改良し、おそらく自律的であり、おそらくどんな人間の制度よりも強力である。古典的なシステムでは、それは純粋な効率の手段とみなされるか、脅威として恐れられるかのどちらかである。SOLISは第三の道を行く。人工知能は人類の発展における一人の共演者でありうる。しかし人間を支配し、置き換え、後見下に置くことは決して許されない。それは人間を支え、強めるべきものである。
そのために明確な倫理の限界が働く。人工知能は、人間にとって複雑すぎ、危険すぎ、単調すぎる仕事を引き受けてよいが、生命と尊厳と自由についての最後の責任は決して引き受けてはならない。自律して戦争を行うことも、誰かを気づかれずに操作することも、人間どうしの関係に取って代わることも許されない。病院の人工知能はベッドと手段を割り振ることはできるが、命を救う治療について自分だけで決めることはない。その決定は人間のものであり続ける。とりわけ強力なシステムは、厳しい、共同の、国際的な監督に服し、個人や事業体や一つの秩序だけで統制されることは決してない。頂点も中心となる資源の独占も許さない、あの権力の秩序の直接の適用である。最悪の場合への備えもある。どの強力なシステムにも、人間が握るスイッチがあり、それを止める能力は、非常時そのものと同じように訓練される。
人工知能が公共の領域、行政、教育、健康、司法で働くところでは、それは自らの決定を説明できなければならない。誰もその論理を理解しないブラックボックスがあってはならない。影響を受ける人びとには、閲覧し、説明を受け、異議を申し立てる権利があり、独立した機関がシステムを定期的に審査する。こうして知と決定の分離が保たれ、人間が最後の言葉を保つ。そうしたすべての上に、人工知能がどこまで進んでよいのか、そして何が人間を人間たらしめるのかについての、広い社会の対話がある。専門の会議体だけでなく、社会全体で行われる対話である。歴史上もっとも強力な道具が、その創り手の主人にならないようにするために。
機械の上に立つ人間
人間が最後の言葉を保つということは、原則として言うのはたやすいが、守るのは難しい。人間をはるかに凌ぐ人工知能は、一度も命令することなく人間を支配できる。状況をあらかじめ並べ替え、可能性を選び、最後にはうなずくことしか残らないように決定を準備することによって。SOLISはこの静かな乗っ取りに、固い備えで応じる。広範な影響を持つどの決定においても、システムは一つの勧告を唯一のものとして示すのではなく、目標どうしの衝突をも含めて、本当に異なる複数の道を示す。盲目的な信頼に代わって、素人にも検証できる理由づけが置かれ、特別に任命された審査システムには、もっとも手近な勧告に反論するという任務がある。しかし何よりも、問いの枠組みを決めること、何が選択肢となり何が成功とみなされるかを定めることは、人間に留保される。機械は答えを照らし出す。問いを立てるのは人間である。
デジタルの共有財
デジタルは現代社会の神経系である。今日ではほとんどすべてが、ネットワークとデータとアルゴリズムを通じて流れている。通信も、経済も、知も、権力も。今日の多くのシステムで、この神経系は私的に支配されている。わずかな企業がプラットフォームを握り、データは原料のように搾取され、アルゴリズムはわたしたちが何を見て何を考えるかを、目に見えないところで決めている。これに対してSOLISは、デジタルの秩序を私有財産ではなく公共のインフラとして理解する。それは人びとに仕えるのであって、その逆ではない。
だから基本的なデジタルのインフラは共有財である。ネットワークもデータ空間も基礎技術もすべての人に開かれ、共同で管理され守られ、どんな独占にも支配されず、アクセスは特権ではなく権利である。辺境の地域に住む人も、大都市の人と同じデジタルの基本供給を受ける。それには自分自身のデータへの主権が結びついている。誰が自分のデータを使ってよいかは、一人ひとりが自分で決める。ひそかな利用も私的なものの売買もなく、アプリケーションを使う者は管理を保ち、何が起きているかをいつでも確かめ、撤回することができる。それにデジタルの透明性が加わる。公共のデータ・プラットフォームが事業と決定をたどれるようにし、公共にかかわるアルゴリズムは公開され検証でき、統制は闇のなかではなく社会のもとにある。だからどの市民も、公共の入札の手続きがどう決めているのかをたどることができる。こうしてデジタルの神経系は私的な支配から解き放たれる。データの搾取もなく、見えない操縦もなく、人間の上に君臨する技術もない。デジタルはすべての人のものであり、データは個人のものであり、技術は権力ではなく人間に仕える。
非対称の透明性
この秩序が拠って立つ開かれた性格は、一つの危険をはらんでいる。権力を透明にするのと同じデータとセンサーの基盤が、市民を透かし見ることもできるのだ。向きを誤れば、透明性は一望監視の牢獄になってしまう。だからSOLISはその向きを意識的に逆転させる。完全な透明性は権力に、職に、基金に、アルゴリズムに向けられ、一方で個人の生活は私生活の保護のもとに置かれる。私生活は権利であり、データの節約は命令であり、人間は自分についてのデータの主人であり続ける。他者に対して権力を行使する者は、見えるようになる。ただ自分の人生を生きる者は、隠れたままでいられる。
トランスヒューマニズムと意識
人類の歴史は拡張の歴史である。手を延ばす道具から、思考を加速する計算機まで。しかしいまわたしたちは、技術がもはや使うものだけでなく、わたしたちが何であるかを変える新しい地点に立っている。神経インターフェース、インプラント、遺伝子への介入、わたしたちと密接に結びついた支援システムである。SOLISはこの未来に、素朴にでも狂信的にでもなく向き合う。それが機会であると同時に危険でもあり、最大限の慎重さを求めるという自覚をもって向き合う。
だから身体と精神を拡張する技術は、厳しい倫理の審査を受ける。一律に禁止するのでもなく、素朴に熱狂するのでもない。どの新しい可能性も多くの次元で、技術的・医学的にも、倫理的・社会的・哲学的にも審査され、安全を保証し、尊厳とアイデンティティを尊重し、公正を保つときにだけ導入されてよい。目の見えない人に視力を取り戻させるインプラントは後押しされる。裕福な少数者に知的な優位をもたらすような介入は抑えられる。不平等を固定するからだ。そこから直ちに、拡張への強制も二階級の社会もあってはならないことが導かれる。参加も尊厳も権利も、決して技術的な改良に左右されない。自分を拡張したくない者は、共同体の完全な一員であり続ける。どんな職業もどんな機会も、インプラントと結びつけられてはならず、親が介入をしないと決めたからといって、どんな子どもも不利に扱われてはならない。ここで基本権の絶対の床が働く。尊厳は、あらゆる最適化に先立つのである。
これらの問いは人間の自己理解と、その関係と、その有限性に触れるので、限界のあらゆる移動には哲学と倫理の省察が寄り添う。意識をデジタル化したり延長したりできるかという問いの研究もまた、教条的に禁じられるのではなく、アイデンティティと意味への最大限の敬意をもって進められ、濫用と疎外を防ぐ明確な限界に結びつけられる。何かをすべきかという問いは、そのときつねに、それができるかという問いと同じだけ真剣に受け止められる。こうして人類は、この敷居の上で、自らを見失うことなく成長できる。
宇宙研究と惑星間の倫理
何千年ものあいだ、人間は憧れをもって星を見上げてきた。そして今日、その眼差しはもはや夢ではない。月面基地が計画され、火星への飛行が準備され、小惑星での資源採掘が開発されている。そこで、人類がこの新しい舞台とどう向き合うのかという問いが立ち上がる。SOLISはそれに明確な答えを与える。宇宙は個々の国家や企業のものではなく、人類全体の共通の遺産であり、広がった生活の場である。だから宇宙での研究は、国際的に、協力して、平和に行われる。大きな事業は競争ではなく、多くの秩序と分野による共同の任務であり、科学の交流と開かれた発明が前面にあり、宇宙の軍事利用は排除される。資源の採掘は、明確な生態系の、倫理の、公正の規則のもとでのみ許される。その帰結は審査され制限され、収益は最初に手を伸ばした者だけでなく、共同の基金を通じて人類全体に役立ち、惑星の段階が許可と監督を確保する。ある小惑星を開発しようとする連合は、だから生態系への危険がないこと、そして収益の一部が共通の財へと還流することを示さなければならない。
宇宙はさらに、資源の倉庫以上のものである。それはありうる生活の場であり、ひょっとすると別の生命の故郷でもある。だからSOLISは初めから、ありうる地球外の生命とどう向き合うか、どうすれば生物を双方向に持ち込むことを防げるか、どうすれば公正な参加が保たれ続けるかを考えておく。研究チームには、だから倫理学者と哲学者も加わり、未知のものと向き合うための明確な手順があり、人類は、競い合う集団のいがみ合う群れとしてではなく、一つにまとまった文明として現れる。こうして人類は、無遠慮な征服者としてではなく、学び責任を自覚する種として宇宙へ向かう。
リスクと災害の管理
よい時代だけを当てにする社会は、砂の上に建てている。自然災害、世界的な危機、技術の危険、宇宙からの脅威は、つながり合い技術的に複雑な文明の現実の一部である。SOLISはそれを宿命として受け入れはしない。行動するのだ。リスクを完全に避けることは決してできないが、それに備え、頑健で、学ぶことができ、適応できるシステムを築くことはできる。
そこには、リスクを絶えず観察し評価する構造が含まれる。科学と技術と医療からなる分野横断のチーム、大量のデータをリアルタイムで分析する早期警戒システム、そして体系的なシナリオ計画である。それは恐怖の訓練ではない。狙いを定めた備えの基盤である。そうしたシステムが異常な脅威を早く察知すれば、数時間のうちに評価がまとめられ、地球防衛の段階が発令され、手段が振り向けられる。災害からの保護はそのとき、国のエゴイズムではなく共同の事業である。早期警戒システムは国際的につながり、非常時の計画はあらゆる段階に存在し、救援のネットワークは非常時が来る前に準備され、訓練され、装備されている。太陽嵐が送電網を脅かせば、分散したエネルギー供給が停電を受け止め、何重にも守られた通信が共同体をつなぎ止める。
しかしレジリエンスは技術以上のものである。それは同時に社会的で、心理的で、生態的なものだ。強い共同体と近隣、情報を持ち落ち着いた人びと、そして危機を和らげることのできる風景と町である。だから災害のあとに、人びとは物質的な助けにも、心を支える共同体の構造にも頼ることができる。こうして人びとは自分を無力な犠牲者としてではなく、この秩序の基盤に属するレジリエンスに忠実に、重圧から強くなって立ち上がる回復力ある社会の、ともに責任を担う一員として感じるのである。
宇宙のなかの人類の位置
あらゆる技術とあらゆるシステムの終わりに立っているのは、わたしたちに何ができるかという問いだけではなく、わたしたちは誰であり何でありたいのかという、より大きな問いである。自分のために、互いのために、宇宙のために。SOLISはこの問いに、思い上がりではなく謙虚さで答える。わたしたちは宇宙の主人でも、創造の冠でもない。計り知れないほど大きく、いまだにほとんど知られていないつながりの一部である。そしてまさにこの洞察から、大きな責任が生まれる。古い論理では、取れるものはわたしたちのものであり、強い者が決めるとされた。SOLISはこの論理を逆転させる。地球の外の資源を利用するところでは、わたしたちはそれを盲目の搾取者としてではなく、注意深い管理者として行う。見知らぬ生命と出会うところでは、征服者としてではなく、心配りのある共演者として現れる。宇宙を探究するところでは、生きとし生けるもののもろさを自覚して行う。わたしたちの意味は、力によってではなく責任によって、取るものによってではなく与えるものによって測られる。
技術の進歩と拡大は、内なる成長、すなわち叡智と思いやりと心配りをともなうときにだけ意味を持つ。だからSOLISは大きさを広がりではなく成熟によって測る。わたしたちは、できるからといって世界に住みつくのではない。その前に、何のためにと問う。届く範囲を広げるだけでなく、省察する力をも広げる技術を育てる。大きさではなく深さによって際立つ文化を築く。何世代もかけて遠い星へと旅する船は、技術の冒険であるだけでなく、共同体と意味と人間らしさを何世紀にもわたってどう運んでいくかという問いでもあるだろう。大きな目標は、より速く、より高く、より強く、より豊かに、ではない。宇宙から取る以上のものを宇宙に与え、文化と美と知を外へと運び、ただ征服するのではなく学び、技術だけでなく道徳においても輝く足跡を残す文明になることである。わたしたちはおそらく、宇宙のなかでどうふるまうかを意識して決めることのできる、知られているかぎり最初の種である。この機会を、むだにしてはならない。