در مجمع، سامانه سه راه پیش نهاد که منطقه چگونه میتواند شبکهاش را در برابر توفان خورشیدی بعدی مقاوم کند، با هزینهها، خطرها و آنچه هر راه از زمین میبلعید. سامانهی دومی مأموریت داشت علیه راه دم دست استدلال کند، و این کار را خوب انجام داد. آشپز پرسید آیا پرسش درست طرح شده است: آیا سخن بر سر شبکه است یا بر سر مردمی که در تاریکی خواهند نشست. ماشینها در این باره خاموش ماندند. همان لحظه بود که مجمع به کار افتاد.
انسان از دیرباز ابزارهایی ساخته است که یاریاش کنند، از تبر سنگی تا رایانهی کوانتومی. اما هر ابزاری پرسشی پیش میکشد: اینجا چه کسی در خدمت چه کسی است؟ آیا فناوری انسان را آزاد میکند یا وابستهاش میسازد؟ رفاه میآفریند یا نابرابری را شدیدتر میکند؟ کار را آسان میکند یا معنایش را از آن میگیرد؟ هرگز پیش از این، این پرسشها چنین فوری نبودهاند، زیرا هرگز پیش از این کارهای بشریت آیندهی خودش را چنین ژرف، چنین شتابان و چنین برگشتناپذیر تعیین نکرده است که امروز. SOLIS با این پرسشها روبهرو میشود و از آنها نتیجهای میگیرد. فناوری سرنوشت نیست. سیلی بازنایستادنی نیست که ما را با خود ببرد، بلکه ابزاری است که دربارهی به کار بردنش ما تصمیم میگیریم.
آیندهپژوهی و برنامهریزی سناریو
دگرگونی اقلیم، هوش مصنوعی، زیستفناوری، گشودن فضا و جابهجایی نیروها میان منطقههای جهان آیندهای را شکل میدهند که دیگر نمیتوان آن را به تصادف سپرد. از این رو جامعهای خوب تنها به آینده نمینگرد. آن را آگاهانه، اخلاقی و آماده شکل میدهد. برای این SOLIS نهادهایی از آنِ خود دارد که پیوسته پیشاپیش میاندیشند: پژوهشکدهها و شبکههای پژوهشی که روندهای فنی، اجتماعی و بومشناختی را تحلیل میکنند و از آنها سناریو میسازند. اگر هوش مصنوعی به مرحلهای تازه برسد چه میشود؟ خودکارسازی گسترده چه پیامدهایی خواهد داشت؟ در این کار دانش، بنگاهها و شهروندان گرد هم میآیند، تا بهترین ذهنها با هم پیشاپیش بیندیشند.
تعیینکننده این است که این آیندهپژوهی در پنهان رخ نمیدهد. حلقههای سایهای که همه چیز را از پیش تعیین کنند در کار نیست. سناریوها و تحلیلها علنی دسترسپذیر میشوند، مدرسهها و رسانهها به آنها میپردازند و به مشارکت شهروندان راه مییابند، چنان که جامعه در کلیت خود هماندیشی میکند و اولویت میگذارد. شهری هر سال انجمنی برای آینده برگزار میکند که در آن شهروندان با روندهای پیش رو آشنا میشوند، با متخصصان بحث میکنند و خود انگیزههایی میدهند. از این رو فناوریهای تازه از نظر فنی، اخلاقی، اجتماعی و بومشناختی ارزیابی میشوند، و رویارویی اجتماعی پیش از آن صورت میگیرد که روندی از کنترل خارج شود، نه تازه پس از آن. بدینسان دگرگونیهای بزرگ تحمل نمیشوند، بلکه در شکل دادنشان شرکت میشود: از سر آیندهنگری مسئولانه، نه از سر ترس از آینده.
فناوری بهعنوان ابزار
فناوریهای نیرومند، هوش مصنوعی، رباتیک، زیستفناوری، در SOLIS از نظر اخلاقی سنجیده و فعالانه هدایت میشوند. هر فناوری تازهای از نظر سود اقتصادیاش و به همان اندازه از نظر پیامدهای اجتماعی، بومشناختی و روانیاش پرسیده میشود. روشهایی مانند دگرگون کردن مادهی وراثتی، رایانش کوانتومی یا رابطهای عصبی تنها به نیروهای بازار سپرده نمیشوند. رهنمودهای اخلاقی و بحث عمومی همراهشاناند. نهادهایی ویژه، شوراهای فناوری بهعنوان هیئتهای تخصصی، شوراهای اخلاق و انجمنهای شهروندی، در این تصمیم شریکاند که چه چیزی پرورده شود، چه چیزی وارد شود و چه چیزی باید متوقف یا دگرگون شود. آنچه در خدمت خیر عمومی است، صندوقها پشتیبانیاش میکنند: برنامهای که یادگیری را برای کودکان محروم آسان میکند، انبارهای که گذار انرژی را بر دوش میکشد. آنچه تنها از توجه بهره میکشد بیآنکه چیزی بیفزاید، محدود میشود.
فراتر از همه، نگرشی بنیادین و روشن ایستاده است. فناوری باید انسانها را نیرومندتر، آزادتر و آفرینندهتر کند، نه ضعیفتر، وابستهتر و یکنواختتر. انسان فرمانروا میماند. نه ماشینها انسانها را هدایت میکنند، بلکه انسانها ماشینها را. نه الگوریتمها قانون مینویسند، بلکه انسانها الگوریتمهایی مینویسند که قانون را محترم بشمارند. نه زیستفناوری آیندهی گونه را تعیین میکند، بلکه انسان تصمیم میگیرد کدام دخالتها از نظر اخلاقی پذیرفتنیاند. آنچه در دهههای پیش رو تصمیم میگیریم، در تعیین اینکه بشریت به جهانی از نظارت و انسانیتزدایی میلغزد یا به جهانی از امکانها و شکلهای تازهی معنا برمیآید، سهیم است. SOLIS این سکان را به دست میگیرد. از فناوری بهره میبرد، بیآنکه بگذارد فناوری از او بهره ببرد.
هوش مصنوعی و بشریت
هوش مصنوعی ابزاری معمولی نیست. یادگیرنده است، خود را بهتر میکند، شاید مستقل و شاید نیرومندتر از هر نهاد انسانی. در سامانههای کلاسیک یا وسیلهی صرف کارایی دیده میشود یا از آن چون تهدیدی میهراسند. SOLIS راه سومی میرود. هوش مصنوعی میتواند همبازیای در رشد بشریت باشد، اما هرگز نباید بر انسان چیره شود، جایش را بگیرد یا از او سلب اختیار کند. باید از او پشتیبانی کند و نیرومندش سازد.
برای این، مرزهای اخلاقی روشنی معتبرند. هوش مصنوعی میتواند وظایفی را بر عهده بگیرد که برای انسانها بیش از اندازه پیچیده، خطرناک یا یکنواختاند، اما هرگز مسئولیت نهایی دربارهی زندگی، کرامت و آزادی را. نباید هیچ جنگی را خودسرانه پیش ببرد، کسی را پنهانی دستکاری کند یا جای پیوندی انسانی را بگیرد. هوش مصنوعی در یک بیمارستان میتواند تختها و منابع را پخش کند، اما خودسرانه دربارهی درمانی نجاتبخش تصمیم نمیگیرد. این تصمیم انسانی میماند. سامانههای بهویژه نیرومند زیر نظارتی سخت، جمعی و بینالمللیاند و هرگز تنها به دست افراد، بنگاهها یا نظمهایی منفرد کنترل نمیشوند، کاربستی بیواسطه از همان نظم قدرتی که نه رأسی را روا میدارد و نه انحصاری بر منبعی مرکزی را. برای بدترین حالت نیز پیشبینی شده است. هر سامانهی نیرومندی کلیدی دارد که انسانها در دست دارند، و توان متوقف کردن آن همچون خود روز سختی تمرین میشود.
هر جا هوش مصنوعی در حوزههای عمومی کار میکند، در اداره، آموزش، سلامت یا دادگستری، باید بتواند تصمیمهایش را توضیح دهد. نباید جعبهی سیاهی باشد که منطقش را هیچکس نفهمد. کسانی که موضوع تصمیماند، حق دیدن، حق توضیح و حق اعتراض دارند، و مرجعهایی مستقل سامانهها را بهطور منظم وارسی میکنند. بدینسان جدایی دانش از تصمیم پاس داشته میشود، و انسان سخن آخر را نگه میدارد. فراتر از همهی اینها گفتوگویی گستردهی اجتماعی هست دربارهی اینکه هوش مصنوعی تا کجا میتواند پیش برود و انسان را چه چیزی میسازد، در سراسر جامعه و نه تنها در هیئتهای تخصصی، تا نیرومندترین ابزار تاریخ اربابی بر آفرینندگانش نشود.
انسان فراتر از ماشین
اینکه انسان سخن آخر را نگه میدارد، بهعنوان اصل آسان گفته میشود و دشوار تضمین. هوش مصنوعیای که بسیار برتر از انسان است، میتواند بر او چیره شود بیآنکه هرگز به او فرمان دهد: با اینکه وضعیت را از پیش دستهبندی کند، امکانها را برگزیند و تصمیم را چنان آماده کند که در پایان تنها سر تکان دادنی بماند. SOLIS با این تصاحب خاموش با پیشبینیهایی استوار روبهرو میشود. در هر تصمیم دامنهدار، سامانه نه یک پیشنهاد را چون تنها گزینه، بلکه چند راه بهراستی گوناگون را همراه با تعارض هدفهایشان پیش مینهد. استدلالی که ناآشنا نیز بتواند بسنجد، جای اعتماد کورکورانه را میگیرد، و سامانههای بازرسیای که ویژه گمارده شدهاند وظیفه دارند علیه پیشنهاد دم دست استدلال کنند. اما بیش از همه، چارچوببندی پرسش برای انسان نگه داشته میشود، تعیین اینکه چه چیزی در گزینش است و چه چیزی موفقیت به شمار میآید. ماشین پاسخ را روشن میکند. پرسش را انسان طرح میکند.
منبع همگانی دیجیتال
امر دیجیتال دستگاه عصبی جامعهی نوین است. امروز تقریباً همه چیز از راه شبکهها، دادهها و الگوریتمها میگذرد: ارتباط، اقتصاد، دانش و قدرت. در بسیاری از سامانههای امروز، این دستگاه عصبی در سلطهی خصوصی است. شمار اندکی از شرکتهای بزرگ سکوها را کنترل میکنند، دادهها چون مواد خام بهرهکشی میشوند، و الگوریتمها نادیدنی دربارهی آنچه میبینیم و میاندیشیم تصمیم میگیرند. در برابر این، SOLIS نظم دیجیتال را زیرساختی عمومی میفهمد و نه دارایی خصوصی. در خدمت مردم است، نه برعکس.
از این رو زیرساخت پایهی دیجیتال منبعی همگانی است. شبکهها، فضاهای داده و فناوریهای پایه به روی همه بازند، بهطور جمعی اداره و ایمن میشوند، زیر سلطهی هیچ انحصاری نیستند، و دسترسی حق است نه امتیاز. انسانی در منطقهای دورافتاده همان تأمین پایهی دیجیتال را دریافت میکند که کسی در کلانشهر. با این، حاکمیت بر دادههای خود پیوند دارد. هر انسانی خود تصمیم میگیرد چه کسی میتواند از دادههایش استفاده کند، بهرهکشی پنهانی و سوداگری با امر خصوصی در کار نیست، و کسی که از برنامهای استفاده میکند، کنترل را نگه میدارد و هر لحظه میتواند ببیند چه میگذرد و آن را پس بگیرد. افزون بر این، شفافیت دیجیتال هست. سکوهای عمومی داده، طرحها و تصمیمها را دنبالپذیر میکنند، الگوریتمهایی که به جامعه مربوطاند آشکار و وارسیپذیرند، و نظارت با جامعه است و نه در پنهان، چنان که هر شهروندی میتواند دنبال کند که یک روال واگذاری عمومی چگونه تصمیم میگیرد. بدینسان دستگاه عصبی دیجیتال از سلطهی خصوصی رها میشود: نه بهرهکشی از دادهها، نه هدایت نادیدنی، نه فناوریای که بر انسان فرمان براند. امر دیجیتال از آنِ همه است، دادهها از آنِ فرد، و فناوری در خدمت انسان است و نه قدرت.
شفافیت نامتقارن
گشادگیای که این نظم بر آن تکیه دارد، خطری را در خود دارد. همان زیرساخت دادهها و حسگرها که قدرت را شفاف میکند، میتوانست شهروند را زیر ذرهبین بگیرد. اگر نادرست جهت گیرد، شفافیت به سراسربین بدل میشد. از این رو SOLIS جهت آن را آگاهانه وارونه میکند. شفافیت کامل از آنِ قدرت است، مناصب، صندوقها، الگوریتمها، در حالی که زندگی فرد زیر حمایت حریم خصوصی است. حریم خصوصی حق است، کممصرفی داده فرمان، و انسان صاحب دادههایی میماند که دربارهی اوست. کسی که بر دیگران قدرت میراند، دیدنی میشود. کسی که تنها زندگیاش را میکند، پنهان میماند.
فراانسانگرایی و آگاهی
تاریخ بشریت تاریخ گسترش است، از ابزاری که دست را دراز میکند تا رایانهای که اندیشیدن را شتاب میدهد. اما اکنون در نقطهای تازه ایستادهایم که در آن فناوریها دیگر تنها آنچه را به کار میبریم دگرگون نمیکنند، بلکه آنچه را هستیم: رابطهای عصبی، کاشتنیها، دخالت در مادهی وراثتی، سامانههای دستیاری که تنگاتنگ با ما پیوند دارند. SOLIS با این آینده نه سادهلوحانه و نه متعصبانه روبهرو میشود. با آگاهی از اینکه فرصت و خطر را همزمان در خود دارد و نهایت دقت را میطلبد، با آن روبهرو میشود.
از این رو فناوریهایی که تن و ذهن را گسترش میدهند، از نظر اخلاقی سخت سنجیده میشوند، بیممنوعیتی یکسره، اما بیشوری سادهلوحانه. هر امکان تازهای در ابعاد بسیار سنجیده میشود، فنی و پزشکی همچون اخلاقی، اجتماعی و فلسفی، و تنها وقتی میتواند وارد شود که ایمنی را تضمین کند، کرامت و هویت را محترم بشمارد و انصاف را پاس بدارد. کاشتنیای که بینایی را به انسانی نابینا بازمیگرداند، پشتیبانی میشود. دخالتی که برای اقلیتی توانگر برتری ذهنی فراهم آورد، ترمز میشود، چون نابرابری را تثبیت میکند. از این بیواسطه برمیآید که نه اجبار به گسترش و نه جامعهی دوطبقه نباید وجود داشته باشد. مشارکت، کرامت و حقوق هرگز به بهبودهای فنی بستگی ندارند. کسی که نمیخواهد خود را گسترش دهد، عضوی کامل از جمع میماند. هیچ پیشه و هیچ بختی نباید به کاشتنیای بسته شود، و هیچ کودکی نباید در تنگنا قرار گیرد چون پدر و مادرش با دخالتی مخالفت کردهاند. اینجا کف مطلق حقوق بنیادین کار میکند. کرامت پیش از هر بهینهسازی است.
چون این پرسشها به خودفهمی انسان، پیوندهایش و فناپذیریاش دست میزنند، اندیشیدن فلسفی و اخلاقی هر جابهجایی مرز را همراهی میکند. پژوهش در این پرسش نیز که آیا آگاهی را میتوان دیجیتالی کرد یا درازتر کرد، جزماندیشانه ممنوع نمیشود، اما با نهایت احترام به هویت و معنا و بسته به مرزهایی روشن پیش برده میشود که از سوءاستفاده و بیگانگی جلوگیری کنند. در این میان پرسش اینکه آیا باید کاری را بکنیم، همواره به همان اندازه جدی گرفته میشود که پرسش اینکه آیا میتوانیم. بدینسان بشریت میتواند بر این آستانه رشد کند، بیآنکه خود را گم کند.
پژوهش فضایی و اخلاق میانسیارهای
هزاران سال است که انسان با اشتیاق به ستارگان مینگرد، و امروز این نگاه دیگر رؤیا نیست. پایگاههایی در ماه برنامهریزی میشوند، مأموریتهایی به مریخ آماده میشوند، استخراج مواد خام از سیارکها پرورده میشود. بدینسان این پرسش پیش میآید که بشریت با این صحنهی تازه چگونه رفتار میکند. SOLIS به آن پاسخی روشن میدهد. فضا از آنِ ملتها یا شرکتهای بزرگ منفرد نیست، بلکه میراثی مشترک و پهنهی زیستی گسترشیافتهی کل بشریت است. از این رو پژوهش در فضا بینالمللی، همکارانه و صلحآمیز انجام میشود. طرحهای بزرگ مأموریتهای مشترک نظمها و رشتههای بسیارند و نه مسابقه، تبادل علمی و نوآوری باز در پیشاند، و بهرهبرداری نظامی از فضا کنار گذاشته میشود. استخراج مواد خام تنها زیر قواعد روشن بومشناختی، اخلاقی و عادلانه مجاز است. پیامدها سنجیده و محدود میشوند، بازدهها از راه صندوقهای مشترک به همهی بشریت میرسند و نه تنها به کسانی که نخست دست میبرند، و سطح سیارهای مجوز و نظارت را تضمین میکند. از این رو گروهی که میخواهد سیارکی را بگشاید، باید ثابت کند که هیچ خطر بومشناختیای نیست و بخشی از بازدهها به خیرهای مشترک بازمیگردد.
افزون بر این، فضا بیش از انباری از مواد خام است. پهنهای زیستی ممکن است و شاید خانهی شکلهای دیگر زندگی. از این رو SOLIS از پیش میاندیشد که با زندگی فرازمینی ممکن چگونه باید رفتار کرد، چگونه باید از جابهجا شدن جانداران در هر دو جهت جلوگیری کرد و چگونه مشارکت منصفانه تضمین میماند. از این رو در گروههای پژوهشی، اخلاقدانان و فیلسوفان نیز همکاری میکنند، پروتکلهایی روشن برای رفتار با ناشناخته هست، و بشریت چون تمدنی یکپارچه پدیدار میشود و نه چون انبوهی پراکنده از گروههای رقیب. بدینسان به فضا نه چون فاتحی بیپروا، بلکه چون گونهای یادگیرنده و مسئول میرود.
مدیریت خطر و فاجعه
جامعهای که تنها بر روزگار خوش بنا کند، بر شن بنا کرده است. بلایای طبیعی، بحرانهای جهانی، خطرهای فنی و تهدیدهای برخاسته از فضا بخشی از واقعیت تمدنی بههمپیوسته و از نظر فنی پیچیدهاند. SOLIS این را تقدیرگرایانه نمیپذیرد. عمل میکند. خطرها را هرگز نمیتوان یکسره دور کرد، اما میتوان برایشان آماده شد و سامانههایی ساخت که استوار، یادگیرنده و سازگار باشند.
از جملهی اینها ساختارهایی است که خطرها را پیوسته پایش و ارزیابی میکنند: گروههای میانرشتهای از دانش، فناوری و پزشکی، سامانههای هشدار زودهنگام که حجمهای بزرگ داده را بیدرنگ بررسی میکنند، و برنامهریزی نظاممند سناریو. این تمرین ترس نیست. بنیاد آمادگی هدفمند است. اگر چنین سامانهای تهدیدی غیرعادی را زود تشخیص دهد، در چند ساعت ارزیابیهایی فراهم میشود، مرحلههای دفاع از زمین اعلام میشوند و منابع جابهجا میشوند. حفاظت در برابر فاجعه در این میان طرحی مشترک است و نه خودخواهی ملی. سامانههای هشدار زودهنگام در سطح بینالمللی به هم پیوستهاند، برنامههای اضطراری در همهی سطحها هست، و شبکههای امداد پیش از فرا رسیدن روز سختی آماده، تمریندیده و مجهزند. اگر توفانی خورشیدی شبکهی برق را تهدید کند، تأمین انرژی پراکنده از کار افتادن را جبران میکند، و ارتباطهایی که چندباره ایمن شدهاند جمع را به هم پیوسته نگه میدارند.
اما تابآوری بیش از فناوری است. همزمان اجتماعی، روانی و بومشناختی است: جماعتها و محلههای نیرومند، مردمی آگاه و آرام، و چشماندازها و شهرهایی که میتوانند ضربهی بحرانها را بگیرند. از این رو پس از یک فاجعه، مردم میتوانند هم به کمک مادی و هم به ساختارهای جمعیای تکیه کنند که از نظر روانی نگهشان میدارند. بدینسان مردم خود را نه قربانیانی درمانده، بلکه اعضایی هممسئول از جامعهای تابآور میدانند که از فشار نیرومندتر بیرون میآید، وفادار به تابآوریای که از بنیادهای این نظم است.
جایگاه بشریت در کیهان
در پایان همهی فناوریها و همهی سامانهها، نه تنها این پرسش ایستاده است که چه میتوانیم، بلکه پرسش بزرگتری: که هستیم و چه میخواهیم باشیم، برای خود، برای یکدیگر و برای کیهان. SOLIS به آن نه با خودبزرگبینی، بلکه با فروتنی پاسخ میدهد. ما اربابان کیهان نیستیم و تاج آفرینش نیستیم. بخشی از پیوندی بیاندازه بزرگ و هنوز تا حد زیادی ناشناختهایم. و درست از همین بینش مسئولیتی بزرگ برمیخیزد. در منطق کهن معتبر بود که آنچه بتوانیم بگیریم از آنِ ماست، و کسی تعیین میکند که نیرومندتر است. SOLIS این منطق را وارونه میکند. هر جا منابعی فراتر از زمین را به کار ببریم، این کار را چون ادارهکنندگانی دقیق میکنیم و نه چون بهرهکشانی کور. هر جا با زندگی بیگانه روبهرو شویم، نه چون فاتح، بلکه چون همبازیانی هشیار پدیدار میشویم. هر جا کیهان را بکاویم، این کار را با آگاهی از شکنندگی هر زندهای میکنیم. معنای ما نه با قدرت، بلکه با مسئولیت سنجیده میشود، و نه با آنچه میگیریم، بلکه با آنچه میافزاییم.
پیشرفت فنی و گسترش تنها وقتی معنادارند که با رشد درونی همراه باشند، با خرد، همدردی و هشیاری. از این رو SOLIS بزرگی را نه با گسترش، بلکه با پختگی میسنجد. ما جهانهایی را تنها چون میتوانیم آباد نمیکنیم. پیش از آن میپرسیم برای چه. فناوریای میپروریم که نه تنها گسترهی ما را بزرگتر کند، بلکه توان اندیشیدن بر خودمان را نیز. فرهنگی میسازیم که نه با بزرگیاش، بلکه با ژرفایش ممتاز است. کشتیای که نسلها به سوی ستارهای دور سفر کند، تنها ماجرایی فنی نمیبود، بلکه این پرسش که چگونه میتوان جمع، معنا و انسانیت را در طول سدهها بر دوش کشید. هدف بزرگ این نیست: سریعتر، بالاتر، نیرومندتر، ثروتمندتر. این است که تمدنی شویم که به کیهان بیش از آنچه از آن میگیرد میدهد، که فرهنگ، زیبایی و دانش را به بیرون میبرد، که میآموزد به جای آنکه تنها فتح کند، و ردپاهایی بر جا میگذارد که نه تنها از نظر فنی، بلکه از نظر اخلاقی نیز میدرخشند. شاید ما نخستین گونهی شناختهشدهای باشیم که میتواند آگاهانه تصمیم بگیرد در کیهان چگونه رفتار کند. این بخت را نباید بر باد دهیم.