Tại nghị viện, hệ thống đưa ra ba con đường để vùng có thể gia cố lưới điện trước trận bão mặt trời kế tiếp, kèm chi phí, rủi ro và diện tích đất mà mỗi con đường sẽ ngốn. Một hệ thống thứ hai được giao nhiệm vụ lập luận chống lại con đường dễ thấy nhất, và nó làm việc đó rất tốt. Bà đầu bếp hỏi liệu câu hỏi có được đặt đúng không: vấn đề là lưới điện hay là những con người sẽ phải ngồi trong bóng tối. Các cỗ máy im lặng trước câu hỏi ấy. Đó là khoảnh khắc nghị viện bắt đầu làm việc.
Từ xưa con người đã chế tạo những công cụ để giúp mình, từ chiếc rìu đá đến máy tính lượng tử. Nhưng mọi công cụ đều đặt ra một câu hỏi: ở đây ai phục vụ ai? Công nghệ giải phóng con người, hay làm con người lệ thuộc? Nó tạo ra thịnh vượng, hay làm bất bình đẳng thêm gay gắt? Nó làm nhẹ công việc, hay lấy đi ý nghĩa của công việc? Chưa bao giờ những câu hỏi này cấp bách như vậy, vì chưa bao giờ hành động của nhân loại định đoạt tương lai của chính mình sâu sắc, nhanh chóng và không thể đảo ngược như hôm nay. SOLIS đối diện với chúng và rút ra một kết luận. Công nghệ không phải là định mệnh. Nó không phải một dòng thác không thể cản cuốn ta theo, mà là một công cụ mà chúng ta quyết định cách sử dụng.
Nghiên cứu tương lai và hoạch định kịch bản
Sự biến đổi khí hậu, trí tuệ nhân tạo, công nghệ sinh học, việc khai phá vũ trụ và sự dịch chuyển cán cân lực lượng giữa các khu vực trên thế giới đang định hình một tương lai không thể phó mặc cho ngẫu nhiên nữa. Vì vậy một xã hội tốt không chỉ nhìn về tương lai. Nó kiến tạo tương lai một cách có ý thức, có đạo đức và có chuẩn bị. Vì thế SOLIS duy trì những thiết chế riêng liên tục suy nghĩ trước: các viện và mạng lưới nghiên cứu phân tích những diễn biến kỹ thuật, xã hội và sinh thái và từ đó phác thảo các kịch bản. Điều gì xảy ra nếu trí tuệ nhân tạo đạt tới một nấc mới? Một sự tự động hóa sâu rộng sẽ có những hệ quả gì? Trong công việc này, khoa học, doanh nghiệp và toàn thể công dân gặp nhau, để những bộ óc giỏi nhất cùng nhau nghĩ trước.
Điều quyết định là việc nghiên cứu tương lai này không diễn ra trong bóng tối. Không có những nhóm ngầm định đoạt mọi thứ từ trước. Các kịch bản và phân tích được công khai, được trường học và truyền thông đưa vào, và được đưa vào sự tham gia của công dân, để xã hội như một tổng thể cùng suy nghĩ và đặt ưu tiên. Một thành phố mỗi năm tổ chức một diễn đàn tương lai, nơi công dân làm quen với những diễn biến sắp tới, tranh luận với các chuyên gia và tự đưa ra những gợi ý. Vì vậy các công nghệ mới được đánh giá về kỹ thuật, đạo đức, xã hội và sinh thái, và cuộc tranh luận xã hội được tiến hành trước khi một diễn biến vượt khỏi tầm kiểm soát, chứ không phải sau đó. Như vậy những biến chuyển lớn không phải bị gánh chịu, mà được cùng định hình: từ sự nhìn xa có trách nhiệm chứ không từ nỗi sợ tương lai.
Công nghệ như một công cụ
Những công nghệ quyền năng, trí tuệ nhân tạo, robot, công nghệ sinh học, trong SOLIS được thẩm định về đạo đức và được chủ động điều hướng. Mỗi công nghệ mới đều được đặt câu hỏi về lợi ích kinh tế, và cũng như vậy về hệ quả xã hội, sinh thái và tâm lý của nó. Những phương pháp như can thiệp vào vật liệu di truyền, tính toán lượng tử hay giao diện thần kinh không bị phó mặc cho riêng các lực lượng thị trường. Những hướng dẫn đạo đức và cuộc tranh luận công khai đi kèm chúng. Những thiết chế riêng, các hội đồng công nghệ như những cơ quan chuyên môn, các hội đồng đạo đức và các diễn đàn công dân, cùng quyết định điều gì được phát triển, điều gì được đưa vào sử dụng và điều gì phải dừng lại hay thay đổi. Những gì phục vụ lợi ích chung được các quỹ hỗ trợ: một ứng dụng giúp trẻ em thiệt thòi học dễ dàng hơn, một kho lưu trữ nâng đỡ cuộc chuyển đổi năng lượng. Những gì chỉ khai thác sự chú ý mà không đóng góp gì thì bị giới hạn.
Trên tất cả là một thái độ căn bản rõ ràng. Công nghệ phải làm cho con người mạnh mẽ hơn, tự do hơn và sáng tạo hơn, chứ không yếu đuối hơn, lệ thuộc hơn và đồng dạng hơn. Con người vẫn là chủ thể tối cao. Không phải máy móc điều khiển con người, mà con người điều khiển máy móc. Không phải thuật toán viết ra luật, mà con người viết ra những thuật toán tôn trọng luật. Không phải công nghệ sinh học quyết định tương lai của giống loài, mà con người quyết định những can thiệp nào có thể chấp nhận về đạo đức. Những gì chúng ta quyết định trong những thập niên tới sẽ góp phần định đoạt nhân loại trượt vào một thế giới của giám sát và phi nhân hóa, hay vươn lên một thế giới của những khả năng và những hình thức ý nghĩa mới. SOLIS nắm lấy tay lái ấy. Nó sử dụng công nghệ mà không để công nghệ sử dụng mình.
Trí tuệ nhân tạo và nhân loại
Trí tuệ nhân tạo không phải là một công cụ thông thường. Nó biết học, tự cải thiện, có thể tự chủ và có thể mạnh hơn mọi thiết chế của con người. Trong các hệ thống cổ điển, nó hoặc được coi thuần túy là phương tiện của hiệu quả, hoặc bị e sợ như một mối đe dọa. SOLIS đi con đường thứ ba. Trí tuệ nhân tạo có thể là một người cùng chơi trong sự phát triển của nhân loại, nhưng nó không bao giờ được thống trị, thay thế hay tước quyền tự quyết của con người. Nó phải hỗ trợ và làm con người mạnh lên.
Vì thế áp dụng những giới hạn đạo đức rõ ràng. Trí tuệ nhân tạo được phép đảm nhận những nhiệm vụ quá phức tạp, quá nguy hiểm hay quá đơn điệu đối với con người, nhưng không bao giờ nhận trách nhiệm sau cùng về sự sống, phẩm giá và tự do. Nó không được tự mình tiến hành chiến tranh, không được thao túng ai mà người đó không hay biết và không được thay thế một mối quan hệ giữa người với người. Một trí tuệ nhân tạo trong bệnh viện có thể phân bổ giường bệnh và nguồn lực, nhưng không tự mình quyết định về một phương pháp chữa trị cứu sống. Quyết định ấy vẫn thuộc về con người. Những hệ thống đặc biệt mạnh chịu sự giám sát nghiêm ngặt, chung và quốc tế, và không bao giờ do riêng cá nhân, doanh nghiệp hay từng trật tự đơn lẻ kiểm soát, một sự áp dụng trực tiếp trật tự của quyền lực vốn không cho phép có đỉnh và không cho phép độc quyền trên một nguồn lực trung tâm. Trường hợp xấu nhất cũng đã được lo liệu. Mỗi hệ thống mạnh đều có một chiếc công tắc nằm trong tay con người, và khả năng dừng nó lại được diễn tập như chính tình huống nguy cấp.
Ở đâu trí tuệ nhân tạo hoạt động trong các lĩnh vực công, trong hành chính, giáo dục, y tế hay tư pháp, nó phải giải thích được các quyết định của mình. Không được có hộp đen nào mà không ai hiểu được logic của nó. Những người chịu ảnh hưởng có quyền được xem, được giải thích và được khiếu nại, và những cơ quan độc lập định kỳ kiểm tra các hệ thống. Như vậy sự tách biệt giữa tri thức và quyết định được giữ gìn, và con người giữ lời nói sau cùng. Trên tất cả là một cuộc trò chuyện xã hội rộng rãi về chuyện trí tuệ nhân tạo được phép đi xa đến đâu và điều gì làm nên con người, diễn ra trong toàn xã hội chứ không chỉ trong các cơ quan chuyên môn, để công cụ quyền năng nhất của lịch sử không trở thành ông chủ của những người đã tạo ra nó.
Con người đứng trên cỗ máy
Việc con người giữ lời nói sau cùng là một nguyên tắc dễ nói mà khó bảo đảm. Một trí tuệ nhân tạo vượt xa con người có thể thống trị con người mà không bao giờ ra lệnh: bằng cách sắp xếp trước tình hình, chọn lọc các khả năng và chuẩn bị quyết định sao cho cuối cùng chỉ còn một cái gật đầu. SOLIS đối phó với sự thâu tóm lặng lẽ ấy bằng những biện pháp phòng ngừa cố định. Với mỗi quyết định có tầm ảnh hưởng lớn, hệ thống không đưa ra một khuyến nghị như thể không có lựa chọn nào khác, mà đưa ra nhiều con đường thật sự khác nhau kèm theo những mâu thuẫn mục tiêu của chúng. Một lời giải trình mà cả người không chuyên cũng kiểm tra được thay cho lòng tin mù quáng, và những hệ thống kiểm tra được chỉ định riêng có nhiệm vụ lập luận chống lại khuyến nghị dễ thấy nhất. Nhưng trên hết, việc đặt khung cho câu hỏi vẫn dành cho con người, tức việc xác định điều gì nằm trong lựa chọn và điều gì được coi là thành công. Cỗ máy soi sáng câu trả lời. Câu hỏi do con người đặt ra.
Của chung số
Thế giới số là hệ thần kinh của xã hội hiện đại. Ngày nay gần như mọi thứ đều chạy qua mạng lưới, dữ liệu và thuật toán: giao tiếp, kinh tế, tri thức và quyền lực. Trong nhiều hệ thống ngày nay, hệ thần kinh ấy bị chi phối bởi tư nhân. Một số ít tập đoàn kiểm soát các nền tảng, dữ liệu bị khai thác như nguyên liệu, và thuật toán vô hình quyết định những gì chúng ta thấy và nghĩ. Ngược lại, SOLIS hiểu trật tự số là hạ tầng công cộng chứ không phải tài sản tư nhân. Nó phục vụ con người, chứ không ngược lại.
Vì vậy hạ tầng số cơ bản là một của chung. Mạng lưới, không gian dữ liệu và các công nghệ nền tảng mở cho tất cả, được quản lý và bảo vệ chung, không bị độc quyền nào chi phối, và quyền tiếp cận là một quyền chứ không phải đặc ân. Một người ở vùng xa xôi nhận được cùng sự cung ứng số cơ bản như một người ở thành phố lớn. Gắn liền với đó là quyền làm chủ dữ liệu của chính mình. Mỗi người tự quyết định ai được phép dùng dữ liệu của mình, không có việc khai thác lén lút và không có việc mua bán đời tư, và ai dùng một ứng dụng vẫn giữ quyền kiểm soát và bất cứ lúc nào cũng có thể xem và rút lại những gì đang diễn ra. Thêm vào đó là sự minh bạch số. Các nền tảng dữ liệu công khai giúp theo dõi được các dự án và quyết định, những thuật toán liên quan đến cộng đồng được công khai và có thể kiểm tra, và quyền kiểm soát nằm ở xã hội chứ không nằm trong bóng tối, để mọi công dân đều có thể theo dõi một thủ tục đấu thầu công quyết định ra sao. Như vậy hệ thần kinh số được giải thoát khỏi sự chi phối tư nhân: không khai thác dữ liệu, không điều khiển vô hình, không có công nghệ thống trị con người. Thế giới số thuộc về tất cả, dữ liệu thuộc về cá nhân, và công nghệ phục vụ con người chứ không phục vụ quyền lực.
Sự minh bạch bất đối xứng
Sự cởi mở mà trật tự này dựa vào mang trong mình một mối nguy. Chính cái hạ tầng dữ liệu và cảm biến làm cho quyền lực trở nên trong suốt cũng có thể soi rọi công dân. Nếu bị định hướng sai, sự minh bạch sẽ trở thành một nhà tù toàn thị. Vì vậy SOLIS cố ý đảo ngược hướng của nó. Sự trong suốt trọn vẹn dành cho quyền lực, cho các chức vụ, các quỹ, các thuật toán, trong khi đời sống của cá nhân được quyền riêng tư che chở. Quyền riêng tư là một quyền, sự tiết kiệm dữ liệu là một điều răn, và con người vẫn là chủ của những dữ liệu nói về mình. Ai thực thi quyền lực đối với người khác thì phải hiện rõ. Ai chỉ sống cuộc đời của mình thì được ẩn mình.
Siêu nhân học và ý thức
Lịch sử nhân loại là lịch sử của sự mở rộng, từ công cụ nối dài bàn tay đến máy tính làm nhanh việc suy nghĩ. Nhưng giờ đây chúng ta đứng ở một điểm mới, nơi công nghệ không còn chỉ thay đổi những gì ta sử dụng, mà thay đổi chính con người ta: giao diện thần kinh, vật cấy ghép, can thiệp vào vật liệu di truyền, những hệ thống trợ giúp gắn chặt với ta. SOLIS đối diện với tương lai ấy không ngây thơ cũng không cuồng tín. Nó đối diện với ý thức rằng tương lai ấy vừa là cơ hội vừa là rủi ro và đòi hỏi sự cẩn trọng tột bậc.
Vì vậy những công nghệ mở rộng thân thể và trí óc được thẩm định nghiêm ngặt về đạo đức, không cấm đoán một cách vơ đũa cả nắm, nhưng cũng không hồ hởi ngây thơ. Mỗi khả năng mới được xem xét trên nhiều chiều, kỹ thuật và y học cũng như đạo đức, xã hội và triết học, và chỉ được đưa vào nếu nó bảo đảm an toàn, tôn trọng phẩm giá và bản sắc và giữ gìn sự công bằng. Một vật cấy ghép trả lại thị lực cho người mù được hỗ trợ. Một can thiệp mang lại ưu thế trí tuệ cho một thiểu số giàu có sẽ bị phanh lại, vì nó làm bất bình đẳng thêm bền chặt. Từ đó suy ra trực tiếp rằng không được có sự cưỡng ép mở rộng và không được có xã hội hai hạng. Sự tham dự, phẩm giá và các quyền không bao giờ phụ thuộc vào những cải tiến kỹ thuật. Ai không muốn mở rộng bản thân vẫn là thành viên trọn vẹn của cộng đồng. Không nghề nghiệp và không cơ hội nào được gắn với một vật cấy ghép, và không đứa trẻ nào được phép bị thiệt thòi vì cha mẹ đã quyết định không can thiệp. Ở đây nền tuyệt đối của các quyền cơ bản phát huy tác dụng. Phẩm giá đứng trước mọi sự tối ưu hóa.
Vì những câu hỏi này chạm đến cách con người tự hiểu mình, các mối quan hệ và sự hữu hạn của con người, một sự suy ngẫm triết học và đạo đức đồng hành với mỗi lần dịch chuyển ranh giới. Cả việc nghiên cứu câu hỏi liệu ý thức có thể được số hóa hay kéo dài hay không cũng không bị cấm một cách giáo điều, mà được tiến hành với sự tôn trọng tột bậc đối với bản sắc và ý nghĩa, và gắn với những ranh giới rõ ràng ngăn chặn lạm dụng và tha hóa. Ở đây câu hỏi liệu chúng ta có nên làm một điều gì đó luôn được coi trọng ngang với câu hỏi liệu chúng ta có thể làm được hay không. Như vậy nhân loại có thể lớn lên ở ngưỡng cửa này mà không đánh mất chính mình.
Nghiên cứu vũ trụ và đạo đức liên hành tinh
Hàng nghìn năm nay con người khắc khoải nhìn lên các vì sao, và hôm nay cái nhìn ấy không còn là giấc mơ. Những căn cứ trên Mặt Trăng đang được lên kế hoạch, những sứ mệnh lên Sao Hỏa đang được chuẩn bị, việc khai thác nguyên liệu trên các tiểu hành tinh đang được phát triển. Từ đó nảy ra câu hỏi nhân loại sẽ đối xử ra sao với sân khấu mới này. SOLIS đưa ra một câu trả lời rõ ràng. Vũ trụ không thuộc về từng quốc gia hay tập đoàn, mà là một di sản chung và một không gian sống mở rộng của toàn nhân loại. Vì vậy việc nghiên cứu trong vũ trụ được tiến hành theo cách quốc tế, hợp tác và hòa bình. Những dự án lớn là sứ mệnh chung của nhiều trật tự và nhiều ngành, chứ không phải cuộc chạy đua, trao đổi khoa học và phát minh mở được đặt lên hàng đầu, và việc sử dụng vũ trụ cho mục đích quân sự bị loại trừ. Việc khai thác nguyên liệu chỉ được phép theo những quy tắc sinh thái, đạo đức và công bằng rõ ràng. Hệ quả được xem xét và giới hạn, lợi tức thông qua những quỹ chung đến với toàn nhân loại chứ không chỉ với những ai ra tay trước, và cấp hành tinh bảo đảm việc cấp phép và giám sát. Vì vậy một liên minh muốn khai thác một tiểu hành tinh phải chứng minh rằng không có rủi ro sinh thái nào và một phần lợi tức sẽ quay về những của chung.
Hơn nữa, vũ trụ còn là hơn một kho nguyên liệu. Nó là một không gian sống khả dĩ và có lẽ là quê hương của những dạng sống khác. Vì vậy SOLIS ngay từ đầu đã tính đến cách đối xử với sự sống ngoài Trái Đất có thể có, cách ngăn chặn việc mang các sinh vật đi theo cả hai chiều và cách giữ cho sự tham dự công bằng được bảo đảm. Vì vậy trong các nhóm nghiên cứu có cả những nhà đạo đức học và triết học cùng làm việc, có những quy trình rõ ràng để ứng xử với điều chưa biết, và nhân loại xuất hiện như một nền văn minh thống nhất chứ không như một đám đông chia rẽ gồm những nhóm cạnh tranh nhau. Như vậy nó bước vào vũ trụ không phải như một kẻ chinh phạt bất chấp, mà như một giống loài biết học hỏi và có trách nhiệm.
Quản lý rủi ro và thảm họa
Một xã hội chỉ xây dựng trên những thời kỳ tốt đẹp là xây trên cát. Thiên tai, khủng hoảng toàn cầu, những mối nguy kỹ thuật và những mối đe dọa từ vũ trụ thuộc về thực tại của một nền văn minh nối mạng và phức tạp về kỹ thuật. SOLIS không chấp nhận điều đó một cách cam chịu. Nó hành động. Rủi ro không bao giờ có thể tránh hoàn toàn, nhưng có thể chuẩn bị cho chúng và xây dựng những hệ thống vững chắc, biết học hỏi và thích ứng được.
Thuộc về đó là những cấu trúc liên tục theo dõi và đánh giá rủi ro: những nhóm liên ngành gồm khoa học, kỹ thuật và y học, những hệ thống cảnh báo sớm phân tích khối lượng dữ liệu lớn theo thời gian thực, và một sự hoạch định kịch bản có hệ thống. Đó không phải là bài tập để sợ hãi. Đó là nền tảng của sự chuẩn bị có chủ đích. Nếu một hệ thống như vậy sớm phát hiện một mối đe dọa bất thường, trong vòng vài giờ các bản đánh giá được lập ra, các cấp phòng vệ Trái Đất được ban bố và nguồn lực được điều chuyển. Ở đây phòng chống thảm họa là một dự án chung chứ không phải sự ích kỷ quốc gia. Các hệ thống cảnh báo sớm được nối mạng quốc tế, kế hoạch khẩn cấp có ở mọi cấp, và các mạng lưới cứu trợ đã được chuẩn bị, diễn tập và trang bị trước khi tình huống nguy cấp xảy ra. Nếu một trận bão mặt trời đe dọa lưới điện, nguồn cung năng lượng phân tán đỡ được sự cố, và những đường liên lạc được bảo đảm nhiều lớp giữ cho cộng đồng gắn kết.
Nhưng sức chống chịu còn hơn cả kỹ thuật. Nó đồng thời mang tính xã hội, tinh thần và sinh thái: những cộng đồng và khu dân cư vững mạnh, những con người có thông tin và bình tĩnh, cũng như những cảnh quan và thành phố có thể giảm chấn cho khủng hoảng. Vì vậy sau một thảm họa, con người có thể trông vào sự trợ giúp vật chất và cũng như vậy vào những cấu trúc cộng đồng nâng đỡ về tinh thần. Như vậy con người không cảm thấy mình là những nạn nhân bất lực, mà là những thành viên cùng chịu trách nhiệm của một xã hội có sức chống chịu, bước ra khỏi áp lực mạnh mẽ hơn, trung thành với sức chống chịu vốn thuộc về những nền tảng của trật tự này.
Vị trí của nhân loại trong vũ trụ
Ở tận cùng của mọi công nghệ và mọi hệ thống không chỉ là câu hỏi chúng ta làm được gì, mà là câu hỏi lớn hơn: chúng ta là ai và muốn trở thành gì, cho chính mình, cho nhau và cho vũ trụ. SOLIS trả lời câu hỏi ấy không bằng sự ngạo mạn, mà bằng sự khiêm nhường. Chúng ta không phải là chủ nhân của vũ trụ và không phải là đỉnh cao của tạo hóa. Chúng ta là một phần của một mối liên hệ rộng lớn vô tận và phần lớn còn chưa được biết đến. Và chính từ nhận thức ấy nảy sinh một trách nhiệm lớn lao. Trong logic cũ, cái gì ta lấy được thì thuộc về ta, và kẻ mạnh hơn thì quyết định. SOLIS đảo ngược logic ấy. Ở đâu ta sử dụng tài nguyên bên ngoài Trái Đất, ta làm điều đó như những người quản lý cẩn trọng chứ không như những kẻ khai thác mù quáng. Ở đâu ta gặp sự sống xa lạ, ta không xuất hiện như kẻ chinh phạt, mà như những người cùng chơi biết lưu tâm. Ở đâu ta khám phá vũ trụ, ta làm điều đó với ý thức về sự mong manh của mọi sự sống. Ý nghĩa của chúng ta không được đo bằng quyền lực, mà bằng trách nhiệm, không phải bằng những gì ta lấy đi, mà bằng những gì ta đóng góp.
Tiến bộ kỹ thuật và sự bành trướng chỉ có ý nghĩa khi chúng đi cùng sự trưởng thành bên trong, cùng minh triết, lòng trắc ẩn và sự lưu tâm. Vì vậy SOLIS không đo sự vĩ đại bằng sự bành trướng, mà bằng sự chín chắn. Chúng ta không khai khẩn những thế giới chỉ vì ta có thể. Trước đó ta hỏi để làm gì. Chúng ta phát triển công nghệ không chỉ mở rộng tầm với của ta, mà cả khả năng suy ngẫm của ta. Chúng ta xây dựng một nền văn hóa không nổi bật vì sự to lớn, mà vì chiều sâu của nó. Một con tàu du hành qua nhiều thế hệ đến một ngôi sao xa xôi sẽ không chỉ là một cuộc phiêu lưu kỹ thuật, mà là câu hỏi làm sao gánh vác cộng đồng, ý nghĩa và tình người qua nhiều thế kỷ. Mục tiêu lớn không phải là: nhanh hơn, cao hơn, mạnh hơn, giàu hơn. Mà là trở thành một nền văn minh trao cho vũ trụ nhiều hơn những gì nó lấy đi, mang văn hóa, cái đẹp và tri thức ra ngoài kia, biết học hỏi thay vì chỉ chinh phục, và để lại những dấu vết sáng lên không chỉ về kỹ thuật, mà cả về đạo đức. Có lẽ chúng ta là giống loài đầu tiên được biết đến có thể quyết định một cách có ý thức mình sẽ hành xử ra sao trong vũ trụ. Chúng ta không nên để lỡ cơ hội ấy.