Mecliste sistem, bölgenin şebekesini bir sonraki güneş fırtınasına karşı nasıl sağlamlaştırabileceğine dair üç yol sundu, maliyetleriyle, riskleriyle ve her yolun ne kadar alan yiyeceğiyle. İkinci bir sistemin görevi, akla ilk gelen yola karşı çıkmaktı ve bunu iyi yaptı. Aşçı kadın sorunun doğru sorulup sorulmadığını sordu: Mesele şebeke miydi, yoksa karanlıkta oturacak insanlar mı? Makineler buna bir şey demedi. Meclisin çalışmaya başladığı an buydu.
İnsan ezelden beri ona yardım eden aletler yapar, el baltasından kuantum bilgisayarına kadar. Ama her alet bir soru sorar: Burada kim kime hizmet ediyor? Teknoloji insanı özgürleştiriyor mu, yoksa bağımlı mı kılıyor? Refah mı yaratıyor, yoksa eşitsizliği mi derinleştiriyor? Emeği kolaylaştırıyor mu, yoksa onun anlamını mı elinden alıyor? Bu sorular hiçbir zaman bu kadar acil olmamıştı, çünkü insanlığın eylemleri hiçbir zaman kendi geleceğini bugünkü kadar derinden, bu kadar hızlı ve bu kadar geri dönülmez biçimde belirlememişti. SOLIS bu sorularla yüzleşir ve bundan bir sonuç çıkarır. Teknoloji bir yazgı değildir. Bizi sürükleyen durdurulamaz bir akıntı değil, kullanımına bizim karar verdiğimiz bir araçtır.
Gelecek araştırması ve senaryo planlaması
İklimin değişmesi, yapay zekâ, biyoteknoloji, uzayın keşfi ve dünya bölgeleri arasındaki güç kayması, artık rastlantıya bırakılamayacak bir gelecek biçimlendiriyor. İyi bir toplum bu yüzden geleceğe yalnızca bakmaz. Onu bilinçli, etik ve hazırlıklı biçimde şekillendirir. Bunun için SOLIS sürekli ileriyi düşünen kendi kurumlarını işletir: teknik, toplumsal ve ekolojik gelişmeleri çözümleyen ve bunlardan senaryolar tasarlayan enstitüler ve araştırma ağları. Yapay zekâ yeni bir aşamaya ulaşırsa ne olur? Geniş kapsamlı bir otomasyonun sonuçları ne olurdu? Bu çalışmada bilim, işletmeler ve yurttaşlar bir araya gelir, böylece en iyi kafalar birlikte ileriyi düşünür.
Belirleyici olan, bu gelecek araştırmasının gizlilik içinde yapılmamasıdır. Her şeyi önceden karara bağlayan gizli çevreler yoktur. Senaryolar ve çözümlemeler kamuya açık kılınır, okullar ve medya tarafından ele alınır ve yurttaş katılımına aktarılır, böylece toplum bir bütün olarak birlikte düşünür ve öncelikler belirler. Bir kent her yıl, yurttaşların gelecek gelişmeleri tanıdığı, uzmanlarla tartıştığı ve kendi itkilerini verdiği bir gelecek forumu düzenler. Yeni teknolojiler bu yüzden teknik, etik, toplumsal ve ekolojik olarak değerlendirilir ve toplumsal tartışma bir gelişme denetimden çıktıktan sonra değil, çıkmadan önce yürütülür. Böylece büyük kırılmalar çekilmez, birlikte biçimlendirilir: gelecek korkusundan değil, sorumlu bir öngörüden.
Araç olarak teknoloji
Güçlü teknolojiler, yapay zekâ, robotik, biyoteknoloji, SOLIS’te etik olarak incelenir ve etkin biçimde yönlendirilir. Her yeni teknoloji ekonomik yararı kadar toplumsal, ekolojik ve ruhsal sonuçları açısından da sorgulanır. Kalıtım maddesinin değiştirilmesi, kuantum hesaplama ya da sinirsel arayüzler gibi yöntemler yalnızca piyasa güçlerine bırakılmaz. Onlara etik yönergeler ve kamusal tartışma eşlik eder. Kendine ait kurumlar, uzman kurulları olarak teknoloji konseyleri, etik konseyleri ve yurttaş forumları, neyin geliştirileceğine, neyin kullanıma sokulacağına ve neyin durdurulması ya da değiştirilmesi gerektiğine birlikte karar verir. Kamu yararına hizmet eden fonlar tarafından desteklenir: dezavantajlı çocukların öğrenmesini kolaylaştıran bir uygulama, enerji dönüşümünü taşıyan bir depo. Hiçbir katkıda bulunmadan yalnızca dikkati paraya çeviren sınırlanır.
Her şeyin üstünde açık bir temel tutum durur. Teknoloji insanları daha zayıf, daha bağımlı ve daha tekdüze değil, daha güçlü, daha özgür ve daha yaratıcı kılmalıdır. Egemen insan olarak kalır. Makineler insanları yönetmez, insanlar makineleri yönetir. Algoritmalar yasaları yazmaz, insanlar yasalara saygı gösteren algoritmalar yazar. Biyoteknoloji türün geleceğini belirlemez, hangi müdahalelerin etik olarak savunulabilir olduğuna insan karar verir. Önümüzdeki on yıllarda vereceğimiz kararlar, insanlığın bir gözetim ve insanlıktan çıkarma dünyasına mı kayacağını, yoksa olanakların ve yeni anlam biçimlerinin dünyasına mı yükseleceğini birlikte belirler. SOLIS bu dümeni eline alır. Teknolojiyi, onun tarafından kullanılmadan kullanır.
Yapay zekâ ve insanlık
Yapay zekâ sıradan bir araç değildir. Öğrenebilen, kendini geliştiren, belki bağımsız ve belki her insan kurumundan daha güçlüdür. Klasik sistemlerde ya salt bir verimlilik aracı olarak görülür ya da bir tehdit olarak korkulur. SOLIS üçüncü bir yol tutar. Yapay zekâ insanlığın gelişiminde bir oyuncu olabilir, ama insana asla egemen olamaz, onun yerini alamaz ya da onu vesayet altına alamaz. Onu desteklemeli ve güçlendirmelidir.
Bunun için açık etik sınırlar geçerlidir. Yapay zekâ insanlar için fazla karmaşık, fazla tehlikeli ya da fazla tekdüze olan görevleri üstlenebilir, ama yaşam, onur ve özgürlük üzerindeki son sorumluluğu asla. Kendi başına savaş yürütemez, kimseyi fark ettirmeden manipüle edemez ve hiçbir insan ilişkisinin yerini alamaz. Bir hastanedeki yapay zekâ yatakları ve kaynakları dağıtabilir, ama hayat kurtaran bir tedaviye kendi başına karar vermez. Bu karar insanda kalır. Özellikle güçlü sistemler sıkı, ortak ve uluslararası bir gözetime tabidir ve hiçbir zaman tek tek kişiler, işletmeler ya da tek tek düzenler tarafından tek başına denetlenmez, tepeye ve merkezi bir kaynak üzerinde tekele izin vermeyen o iktidar düzeninin doğrudan bir uygulaması olarak. En uç durum için önlem alınmıştır. Her güçlü sistemin insanların elinde tuttuğu bir şalteri vardır ve onu durdurabilme yeteneği, ciddi durumun kendisi gibi tatbik edilir.
Yapay zekâ kamusal alanlarda, yönetimde, eğitimde, sağlıkta ya da yargıda işlediği yerde kararlarını açıklayabilmelidir. Mantığını kimsenin anlamadığı bir kara kutu olamaz. Etkilenenlerin inceleme, açıklama ve itiraz hakkı vardır ve bağımsız mercileri sistemleri düzenli olarak denetler. Böylece bilgi ile kararın ayrılığı korunur ve son söz insanda kalır. Bütün bunların üstünde, yapay zekânın ne kadar ileri gidebileceği ve insanı neyin insan yaptığı üzerine, yalnızca uzman kurullarında değil bütün toplumda yürütülen geniş bir toplumsal konuşma durur, tarihin en güçlü aracı kendi yaratıcılarının efendisi olmasın diye.
Makinenin üstünde insan
Son sözün insanda kalması ilke olarak kolay söylenir, ama zor güvence altına alınır. İnsandan çok üstün bir yapay zekâ ona hiç emir vermeden egemen olabilir: durumu önceden sıralayarak, olanakları seçerek ve kararı sonunda geriye yalnızca bir baş sallama kalacak biçimde hazırlayarak. SOLIS bu sessiz ele geçirmeye sabit önlemlerle karşılık verir. Geniş kapsamlı her kararda sistem tek bir öneriyi seçeneksiz olarak değil, hedef çatışmalarıyla birlikte birden çok, gerçekten farklı yol sunar. Kör güvenin yerine sıradan birinin de sınayabileceği bir gerekçe geçer ve özel olarak atanmış denetim sistemlerinin görevi akla ilk gelen öneriye karşı çıkmaktır. Ama hepsinden önce sorunun çerçevesini çizmek, neyin seçime sunulduğunu ve neyin başarı sayıldığını belirlemek insana ayrılmıştır. Makine yanıtı aydınlatır. Soruyu insan sorar.
Dijital ortak varlık
Dijital olan modern toplumun sinir sistemidir. Bugün neredeyse her şey ağlar, veriler ve algoritmalar üzerinden yürür: iletişim, ekonomi, bilgi ve iktidar. Bugünkü pek çok sistemde bu sinir sistemine özel olarak egemen olunur. Birkaç şirket platformları denetler, veriler hammadde gibi sömürülür ve algoritmalar ne gördüğümüze ve ne düşündüğümüze görünmeden karar verir. SOLIS buna karşılık dijital düzeni özel mülk olarak değil, kamusal altyapı olarak kavrar. Dijital düzen insanlara hizmet eder, tersi değil.
Temel dijital altyapı bu yüzden bir ortak varlıktır. Ağlar, veri alanları ve temel teknolojiler herkese açıktır, ortaklaşa yönetilir ve güvence altına alınır, hiçbir tekelin egemenliğinde değildir ve erişim bir ayrıcalık değil, bir haktır. Uzak bir bölgedeki bir insan, büyük kentteki biriyle aynı temel dijital güvenceyi alır. Buna kişinin kendi verileri üzerindeki egemenliği bağlıdır. Her insan verilerini kimin kullanabileceğine kendisi karar verir, gizli bir değerlendirme ve özel olanın ticareti yoktur ve bir uygulamayı kullanan denetimi elinde tutar ve neler olduğunu her an görebilir ve geri alabilir. Buna dijital şeffaflık eklenir. Kamusal veri platformları projeleri ve kararları izlenebilir kılar, topluluğu ilgilendiren algoritmalar açıklanmış ve denetlenebilirdir ve denetim gizlilikte değil, toplumdadır, böylece her yurttaş kamusal bir ihale usulünün nasıl karar verdiğini izleyebilir. Böylece dijital sinir sistemi özel egemenlikten kurtarılır: verilerin sömürüsü yok, görünmez yönlendirme yok, insanın üzerinde hükmeden bir teknoloji yok. Dijital olan herkese, veriler bireye aittir ve teknoloji iktidara değil, insana hizmet eder.
Asimetrik şeffaflık
Bu düzenin dayandığı açıklık kendi içinde bir tehlike taşır. İktidarı saydam kılan aynı veri ve sensör altyapısı yurttaşı didik didik inceleyebilirdi. Yanlış yöne çevrilmiş bir şeffaflık panoptikona dönüşürdü. SOLIS bu yüzden onun yönünü bilinçli olarak tersine çevirir. Tam saydamlık iktidar için, makamlar, fonlar, algoritmalar için geçerlidir, bireyin yaşamı ise özel yaşamın koruması altında durur. Özel yaşam bir haktır, veri tutumluluğu bir buyruktur ve insan kendisiyle ilgili verilerin efendisi olarak kalır. Başkaları üzerinde iktidar kullanan görünür olur. Yalnızca kendi yaşamını yaşayan gizli kalır.
Transhümanizm ve bilinç
İnsanlığın tarihi bir genişleme tarihidir, eli uzatan aletten düşünmeyi hızlandıran bilgisayara kadar. Ama şimdi teknolojilerin artık yalnızca kullandığımız şeyi değil, ne olduğumuzu değiştirdiği yeni bir noktada duruyoruz: sinirsel arayüzler, implantlar, kalıtım maddesine müdahaleler, bize sıkıca bağlı yardımcı sistemler. SOLIS bu gelecekle ne saf ne de bağnazca yüzleşir. Onunla, onun aynı anda hem fırsat hem risk olduğu ve en uç özeni gerektirdiği bilinciyle yüzleşir.
Bedeni ve zihni genişleten teknolojiler bu yüzden sıkı biçimde etik incelemeden geçer, toptan bir yasak olmadan, ama saf bir coşku da olmadan. Her yeni olanak pek çok boyutta, teknik ve tıbbi olduğu kadar etik, toplumsal ve felsefi olarak da incelenir ve ancak güvenliği sağladığında, onura ve kimliğe saygı gösterdiğinde ve adaleti koruduğunda kullanıma sokulabilir. Görme engelli bir insana görme yetisini geri veren bir implant desteklenir. Varlıklı bir azınlığa zihinsel üstünlük sağlayacak bir müdahale frenlenir, çünkü eşitsizliği pekiştirir. Bundan doğrudan, genişlemeye zorlamanın ve iki sınıflı bir toplumun olamayacağı sonucu çıkar. Katılım, onur ve haklar hiçbir zaman teknik iyileştirmelere bağlı değildir. Kendini genişletmek istemeyen topluluğun tam değerli üyesi olarak kalır. Hiçbir meslek ve hiçbir fırsat bir implanta bağlanamaz ve hiçbir çocuk, ana babası bir müdahaleye karşı karar verdi diye dezavantajlı duruma düşürülemez. Burada temel hakların mutlak zemini işler. Onur her türlü optimizasyondan önce gelir.
Bu sorular insanın kendini anlayışına, ilişkilerine ve sonluluğuna dokunduğu için sınırın her kaydırılmasına felsefi ve etik bir düşünme eşlik eder. Bilincin dijitalleştirilip dijitalleştirilemeyeceği ya da uzatılıp uzatılamayacağı sorusunun araştırılması da dogmatik olarak yasaklanmaz, ama kimliğe ve anlama en büyük saygıyla yürütülür ve kötüye kullanımı ve yabancılaşmayı önleyen açık sınırlara bağlanır. Bir şeyi yapmamız gerekip gerekmediği sorusu bu arada her zaman onu yapıp yapamayacağımız sorusu kadar ciddiye alınır. Böylece insanlık bu eşikte kendini yitirmeden büyüyebilir.
Uzay araştırması ve gezegenler arası etik
İnsan binlerce yıldır yıldızlara özlemle bakıyor ve bugün bu bakış artık bir düş değil. Ay üsleri planlanıyor, Mars görevleri hazırlanıyor, asteroitlerden hammadde çıkarma geliştiriliyor. Böylece insanlığın bu yeni sahneyle nasıl başa çıkacağı sorusu ortaya çıkıyor. SOLIS buna açık bir yanıt verir. Uzay tek tek uluslara ya da şirketlere ait değildir, bütün insanlığın ortak mirası ve genişletilmiş yaşam alanıdır. Uzaydaki araştırma bu yüzden uluslararası, iş birliğine dayalı ve barışçıl biçimde yürütülür. Büyük girişimler yarış değil, pek çok düzenin ve disiplinin ortak görevleridir, bilimsel alışveriş ve açık buluş ön plandadır ve uzayın askeri kullanımı dışlanır. Hammadde çıkarmaya ancak açık ekolojik, etik ve adil kurallar altında izin verilir. Sonuçları incelenir ve sınırlanır, getiriler yalnızca ilk el koyanlara değil, ortak fonlar aracılığıyla bütün insanlığa yarar ve gezegen düzeyi izni ve gözetimi güvence altına alır. Bir asteroidi işletmeye açmak isteyen bir birlik bu yüzden hiçbir ekolojik risk olmadığını ve getirilerin bir kısmının ortak varlıklara geri aktığını kanıtlamak zorundadır.
Uzay ayrıca bir hammadde deposundan fazlasıdır. Olası bir yaşam alanıdır ve belki başka yaşam biçimlerinin yurdudur. SOLIS bu yüzden olası dünya dışı yaşamla nasıl davranılacağını, organizmaların iki yönde de taşınmasının nasıl önleneceğini ve adil katılımın nasıl güvence altında kalacağını en baştan düşünür. Araştırma ekiplerinde bu yüzden etikçiler ve filozoflar da çalışır, bilinmeyenle davranış için açık protokoller vardır ve insanlık, rekabet eden grupların kavgalı bir yığını olarak değil, birleşmiş bir uygarlık olarak ortaya çıkar. Böylece uzaya pervasız bir fatih olarak değil, öğrenen ve sorumluluk bilinci taşıyan bir tür olarak gider.
Risk ve afet yönetimi
Yalnızca iyi zamanlara güvenen bir toplum kuma inşa eder. Doğal afetler, küresel krizler, teknik tehlikeler ve uzaydan gelen tehditler, birbirine bağlı ve teknik olarak karmaşık bir uygarlığın gerçekliğine dahildir. SOLIS bunu kaderci bir tavırla kabullenmez. Harekete geçer. Riskler hiçbir zaman tümüyle önlenemez, ama onlara hazırlanılabilir ve sağlam, öğrenebilen ve uyarlanabilir sistemler kurulabilir.
Buna riskleri sürekli gözleyen ve değerlendiren yapılar dahildir: bilimden, teknolojiden ve tıptan disiplinler arası ekipler, büyük veri miktarlarını gerçek zamanlı değerlendiren erken uyarı sistemleri ve sistemli bir senaryo planlaması. Bu planlama bir korku alıştırması değildir. Hedefli hazırlığın temelidir. Böyle bir sistem olağandışı bir tehdidi erkenden tanıdığında, saatler içinde değerlendirmeler hazırlanır, Dünya Savunmasının aşamaları ilan edilir ve kaynaklar yeniden yönlendirilir. Afetlerden korunma bu arada ulusal bencillik değil, ortak bir girişimdir. Erken uyarı sistemleri uluslararası ağa bağlıdır, acil durum planları bütün düzeylerde vardır ve yardım ağları ciddi durum ortaya çıkmadan önce hazırlanmış, tatbik edilmiş ve donatılmıştır. Bir güneş fırtınası elektrik şebekesini tehdit ettiğinde dağıtılmış enerji tedariki kesintiyi karşılar ve birden çok kez güvenceye alınmış bağlantılar topluluğu bir arada tutar.
Ama dayanıklılık teknolojiden fazlasıdır. Aynı anda toplumsal, ruhsal ve ekolojiktir: güçlü topluluklar ve mahalleler, bilgilendirilmiş ve soğukkanlı insanlar ve krizleri yumuşatabilen peyzajlar ve kentler. Bir felaketten sonra insanlar bu yüzden maddi yardıma da, ruhsal olarak taşıyan topluluk yapılarına da başvurabilir. Böylece insanlar kendilerini çaresiz kurbanlar olarak değil, bu düzenin temellerine dahil olan dayanıklılığa sadık kalarak, yüklerden güçlenerek çıkan dayanıklı bir toplumun ortak sorumlu üyeleri olarak hisseder.
İnsanlığın evrendeki yeri
Bütün teknolojinin ve bütün sistemlerin sonunda yalnızca neler yapabileceğimiz sorusu değil, kim olduğumuz ve ne olmak istediğimiz gibi daha büyük bir soru durur: kendimiz için, birbirimiz için ve evren için. SOLIS bu soruyu kibirle değil, alçakgönüllülükle yanıtlar. Evrenin efendileri ve yaratılışın tacı değiliz. Ölçülemeyecek kadar büyük ve büyük ölçüde hâlâ bilinmeyen bir bütünün parçasıyız. Ve büyük bir sorumluluk tam da bu kavrayıştan doğar. Eski mantıkta alabildiğimizin bize ait olduğu ve daha güçlü olanın belirlediği geçerliydi. SOLIS bu mantığı tersine çevirir. Dünya’nın ötesindeki kaynakları kullandığımız yerde bunu kör sömürücüler olarak değil, özenli yöneticiler olarak yaparız. Yabancı yaşamla karşılaştığımız yerde fatihler olarak değil, dikkatli oyuncular olarak ortaya çıkarız. Evreni araştırdığımız yerde bunu bütün canlıların kırılganlığının bilinciyle yaparız. Önemimiz güçle değil, sorumlulukla, aldığımızla değil, kattığımızla ölçülür.
Teknik ilerleme ve genişleme ancak içsel bir büyümeyle, bilgelikle, şefkatle ve özenle birlikte yürüdüğünde anlamlıdır. SOLIS bu yüzden büyüklüğü genişlemeyle değil, olgunlukla ölçer. Yapabildiğimiz için dünyalara yerleşmeyiz. Önce ne için olduğunu sorarız. Yalnızca erişimimizi değil, düşünme yetimizi de büyüten bir teknoloji geliştiririz. Büyüklüğüyle değil, derinliğiyle öne çıkan bir kültür kurarız. Kuşaklar boyunca uzak bir yıldıza yolculuk eden bir gemi yalnızca teknik bir serüven değil, topluluğun, anlamın ve insanlığın yüzyıllar boyunca nasıl taşınacağı sorusu olurdu. Büyük hedef daha hızlı, daha yüksek, daha güçlü, daha zengin değildir. Hedef, evrene ondan aldığından fazlasını veren, kültürü, güzelliği ve bilgiyi dışarıya taşıyan, yalnızca fethetmek yerine öğrenen ve yalnızca teknik olarak değil, ahlaki olarak da parlayan izler bırakan bir uygarlık olmaktır. Belki de evrende nasıl davranacağına bilinçli olarak karar verebilen bilinen ilk türüz. Bu fırsatı harcamamalıyız.