SOLIS通往未来之路
ZH
第 10 章

技术、人工智能与未来

在议会里,系统提出了三条道路,说明地区可以怎样加固电网以应对下一场太阳风暴,附上了每条道路的成本、风险和要占用多少土地。第二个系统受命反驳最显而易见的那条路,而且反驳得很好。女厨师问,问题是不是问对了:要紧的是电网,还是会坐在黑暗里的那些人。机器们对此沉默了。正是在那一刻,议会开始工作了。

人类自古就在制造帮助自己的工具,从手斧到量子计算机。然而每一件工具都提出一个问题:在这里,谁为谁服务?技术是解放人,还是让人依附?它创造财富,还是加剧不平等?它让劳动变轻松,还是夺走劳动的意义?这些问题从未像今天这样紧迫,因为人类的行为从未像今天这样深刻、迅速而不可逆转地决定着自己的未来。SOLIS直面这些问题,并从中得出一个结论。技术不是命运。它不是一股把我们卷走的不可阻挡的洪流,而是一件由我们决定如何使用的工具。

未来研究与情景规划

气候变化、人工智能、生物技术、对太空的开发,以及世界各地区之间力量的转移,正在塑造一个再也不能听凭偶然的未来。因此,一个好的社会不只是展望未来。它有意识地、合乎伦理地、有准备地塑造未来。为此,SOLIS设有自己的机构,持续地向前思考:研究所和研究联合体,分析技术、社会和生态的发展,并由此拟订情景。如果人工智能达到新的阶段,会发生什么?大范围的自动化会带来哪些后果?在这项工作中,科学界、企业和全体公民汇聚一堂,好让最聪明的头脑一起向前思考。

关键在于,这种未来研究不是在暗处进行的。没有事先决定一切的影子圈子。情景和分析向公众公开,被学校和媒体采用,并输入公民参与之中,让整个社会一起思考、确定优先事项。一座城市每年举办一次未来论坛,市民在会上了解即将到来的发展,与专家争论,并提出自己的建议。因此,新技术要从技术、伦理、社会和生态几方面加以评估,社会上的讨论要在一种发展失控之前进行,而不是在那之后。这样,重大的变革不是被动承受的,而是被共同塑造的:出于负责任的预见,而不是出于对未来的恐惧。

作为工具的技术

强大的技术,人工智能、机器人技术、生物技术,在SOLIS中要接受伦理审查,并被积极地引导。每一项新技术都要被追问它的经济效用,同样也要被追问它对社会、生态和心理的后果。改变遗传物质、量子计算或神经接口这样的方法,不只交给市场力量。伦理准则和公开辩论伴随着它们。专门的机构,作为专业机构的技术委员会、伦理委员会和公民论坛,一同决定什么要开发,什么要引入,什么必须叫停或改变。服务于公共福祉的东西由各基金扶持:一款让处境不利的孩子更容易学习的应用,一种支撑能源转型的储能装置。只是榨取注意力价值、却毫无贡献的东西,则受到限制。

在一切之上,有一种清楚的基本态度。技术应当让人更强大、更自由、更有创造力,而不是更软弱、更依附、更千篇一律。人始终是主权者。不是机器操控人,而是人操控机器。不是算法书写法律,而是人书写尊重法律的算法。不是生物技术决定物种的未来,而是人决定哪些干预在伦理上站得住脚。我们在未来几十年里作出的决定,将参与决定人类是滑向一个监视和非人化的世界,还是上升到一个充满可能和新的意义形式的世界。SOLIS把这个舵握在手中。它利用技术,却不让自己被技术利用。

人工智能与人类

人工智能不是普通的工具。它能够学习,能够自我改进,可能具有自主性,也可能比任何人类机构都更强大。在传统体系中,它要么被看作纯粹的效率手段,要么被当作威胁来畏惧。SOLIS走第三条路。人工智能可以成为人类发展中的同路人,但它永远不得统治人、取代人或剥夺人的自主。它应当支持人、加强人。

为此有清楚的伦理界限。人工智能可以承担对人来说过于复杂、过于危险或过于单调的任务,但永远不承担对生命、尊严和自由的最终责任。它不得自主地进行战争,不得不知不觉地操纵任何人,也不得取代人与人之间的关系。医院里的人工智能可以分配病床和资源,但它不会自主地决定一项挽救生命的治疗。这个决定始终属于人。特别强大的系统受到严格的、共同的、国际的监督,从不由个人、企业或单个秩序独自控制,这是那种不允许有顶端、不允许垄断中心资源的权力秩序的直接应用。最极端的情况也已有准备。每一个强大的系统都有一个由人握着的开关,而让它停下来的能力,要像演练紧急情况本身一样加以演练。

凡是人工智能在公共领域发挥作用的地方,在行政、教育、卫生或司法中,它都必须能够解释自己的决定。不能有一个谁也不懂其逻辑的黑箱。受影响的人有权查阅、有权得到解释、有权提出异议,独立的部门定期检查这些系统。这样,知识与决定的分离得以保持,最后的话语权仍在人手中。在这一切之上,还有一场关于人工智能可以走多远、什么构成了人的广泛的社会对话,它在整个社会中进行,而不只是在专业机构里进行,好让历史上最强大的工具不至于变成它的创造者的主人。

人在机器之上

人保有最后的话语权,作为原则说起来容易,保障起来却难。一种远远胜过人的人工智能,可以不发一道命令就统治人:预先整理局面,筛选可能性,把决定准备得最后只剩点头。SOLIS用固定的防范措施来对付这种无声的俘获。在每一个影响深远的决定上,系统都不会把一个建议当作别无选择的方案提出来,而是提出几条真正不同的道路,连同它们之间的目标冲突。取代盲目信任的,是一种外行也能检验的论证,而专门任命的审查系统负责反驳最显而易见的那个建议。但最重要的是,问题如何设定始终留给人:决定哪些东西摆上台面供人选择,什么算作成功。机器照亮答案。问题由人提出。

数字公共财产

数字领域是现代社会的神经系统。今天,几乎一切都通过网络、数据和算法进行:交流、经济、知识和权力。在今天的许多体系中,这个神经系统被私人掌控。少数几家大公司控制着平台,数据像原材料一样被剥削,算法悄无声息地决定我们看到什么、想什么。与此相对,SOLIS把数字秩序理解为公共基础设施,而不是私有财产。它为人服务,而不是反过来。

因此,数字基础设施是公共财产。网络、数据空间和基础技术向所有人开放,由共同体管理和保护,不受任何垄断支配,接入是一项权利,而不是特权。住在偏远地区的人,得到和住在大城市的人一样的数字基本供给。与此相连的是对自己数据的主导权。每个人自己决定谁可以使用他的数据,没有偷偷的利用,没有对私密之事的买卖,使用一个应用的人保有控制权,随时可以查看并撤回正在发生的事。此外还有数字透明。公共数据平台让项目和决定可以追溯,涉及共同体的算法是公开、可检验的,控制权在社会手中而不在暗处,这样,每个公民都能弄清一项公共分配程序是怎样作出决定的。这样,数字神经系统就从私人掌控中解脱出来:不剥削数据,不进行看不见的操控,没有凌驾于人之上的技术。数字领域属于所有人,数据属于个人,技术服务于人而不是权力。

不对称的透明

这个秩序所依赖的开放,本身包含着一种危险。让权力变得透明的那套数据和传感器基础设施,也可能把公民照得通透。方向一旦弄错,透明就会变成全景监狱。因此,SOLIS有意把它的方向倒转过来。完全的透明属于权力,属于职务、基金和算法,而个人的生活处在私人领域的保护之下。私人领域是一项权利,数据节约是一条要求,人始终是关于他自己的数据的主人。对别人行使权力的人会被看见。只是过自己日子的人则保持隐蔽。

超人类主义与意识

人类的历史是一部延伸的历史,从延长手臂的工具,到加速思维的计算机。可是如今我们站到了一个新的点上,技术改变的不再只是我们使用的东西,而是我们自身:神经接口、植入物、对遗传物质的干预、与我们紧密相连的辅助系统。SOLIS面对这个未来,既不天真,也不狂热。它面对它时清楚地知道,这个未来既是机会也是风险,需要极度的审慎。

因此,扩展身体和心智的技术要接受严格的伦理审查,没有一刀切的禁令,也没有天真的热情。每一种新的可能都要在多个维度上检验,在技术和医学上,同样在伦理、社会和哲学上,只有当它保障安全、尊重尊严和身份、维护公平时,才可以引入。一种让盲人重见光明的植入物会得到扶持。一种会让富裕少数人获得智力优势的干预会被遏制,因为它固化不平等。由此直接得出,不得有扩展自身的强制,也不得有两级社会。参与、尊严和权利永远不取决于技术上的改进。不想扩展自己的人,依然是共同体的完整成员。任何职业、任何机会都不得与一个植入物挂钩,任何孩子都不得因为父母拒绝了某项干预而处于不利地位。这里起作用的是基本权利那条绝对的底线。尊严先于任何优化。

因为这些问题触及人对自身、对自身关系和对自身有限性的理解,每一次界限的移动,都伴随着哲学和伦理的反思。对意识能否被数字化或延续的研究也不会被教条地禁止,但要以对身份和意义的最大尊重来进行,并受到清楚界限的约束,以防止滥用和异化。我们是否应当做某件事,这个问题始终和我们能否做到它一样被认真对待。这样,人类可以在这道门槛上成长,而不失去自己。

太空探索与星际伦理

几千年来,人们一直满怀憧憬地仰望星空,而今天,这种目光已不再是梦。月球基地正在规划,火星任务正在准备,在小行星上开采原料正在研发。由此提出的问题是,人类将如何对待这个新的舞台。SOLIS对此给出明确的回答。太空不属于某些国家或大公司,而是全人类共同的遗产和扩展了的生存空间。因此,太空中的研究以国际的、合作的、和平的方式进行。大型项目是许多秩序和学科共同的任务,而不是竞赛,科学交流和开放的发明居于首位,对太空的军事利用被排除在外。开采原料只有在清楚的生态、伦理和公平规则下才被允许。后果要经过审查和限制,收益通过共同基金惠及全人类,而不只是惠及抢先下手的人,行星层级保障审批和监督。因此,一个想开发某颗小行星的联合体,必须证明不存在生态风险,并且有一部分收益会回流到共同的财产中去。

此外,太空不只是原料仓库。它是一个可能的生存空间,也许还是其他生命形式的家园。因此,SOLIS预先考虑如何对待可能存在的地外生命,如何防止生物在两个方向上被带来带去,以及如何保障公平的参与。因此,研究团队里也有伦理学家和哲学家参与工作,有对待未知事物的清楚规程,人类以一个统一的文明出现,而不是以一群相互竞争、彼此不和的团体出现。这样,人类进入太空,不是作为肆无忌惮的征服者,而是作为一个不断学习、有责任意识的物种。

风险与灾害管理

一个只指望好时光的社会,是建在沙子上的。自然灾害、全球危机、技术风险和来自太空的威胁,都是一个相互联结、技术复杂的文明的现实。SOLIS不以宿命的态度接受这一点。它采取行动。风险永远无法完全避免,但人可以为它作好准备,建立稳健、能学习、能适应的系统。

这包括持续观察和评估风险的结构:由科学、技术和医学人员组成的跨学科团队,实时分析海量数据的预警系统,以及系统的情景规划。它不是一种制造恐惧的演习。它是有针对性的准备的基础。一旦这样的系统及早发现一种不寻常的威胁,几个小时之内就会作出评估,宣布地球防卫的各个等级,并调拨资源。灾害防护在这里是一项共同的事业,而不是国家利己主义。预警系统在国际上联网,各个层级都有应急预案,救援网络在紧急情况发生之前就已准备好、演练过、装备好。如果一场太阳风暴威胁电网,分散的能源供给会接住这次故障,多重保障的通信会让共同体保持联系。

然而韧性不只是技术。它同时是社会的、心理的和生态的:强大的共同体和社区,消息灵通、沉着镇定的人,以及能够缓冲危机的地貌和城市。因此,在一场灾难之后,人们既可以求助于物质援助,也可以求助于在心理上给人支撑的共同体结构。这样,人们不会觉得自己是无助的受害者,而会觉得自己是一个有韧性的社会中共同负责的成员,这个社会会在重压之下变得更加强大,忠于属于这个秩序之基础的那种韧性。

人类在宇宙中的位置

在一切技术和一切系统的尽头,站着的不只是我们能做什么的问题,还有一个更大的问题:我们是谁,想成为什么,为了自己,为了彼此,也为了宇宙。SOLIS回答它,用的不是狂妄,而是谦卑。我们不是宇宙的主人,也不是造物的冠冕。我们是一个无比巨大、大部分仍然未知的整体关联中的一部分。正是从这种认识中,生出一种巨大的责任。在旧的逻辑里,我们能拿走的就归我们,谁更强谁说了算。SOLIS把这种逻辑颠倒过来。在我们利用地球以外的资源的地方,我们是作为谨慎的管理者,而不是盲目的掠夺者。在我们遇到异样生命的地方,我们不是以征服者的身份出现,而是以审慎的同伴的身份出现。在我们探索宇宙的地方,我们心中记着一切生命的脆弱。我们的意义不以权力来衡量,而以责任来衡量,不以我们拿走了什么来衡量,而以我们贡献了什么来衡量。

技术进步和扩张,只有与内在的成长相伴,与智慧、同情和审慎相伴,才有意义。因此,SOLIS衡量伟大,不看扩张,而看成熟。我们不会只因为能够就去殖民别的世界。我们会先问为了什么。我们发展的技术,扩大的不只是我们的触及范围,还有我们反思的能力。我们建设的文化,不以庞大见长,而以深度见长。一艘历经数代驶向遥远恒星的飞船,不只是一场技术冒险,还是一个问题:如何把共同体、意义和人性带着穿越几个世纪。伟大的目标不是:更快,更高,更强大,更富有。而是成为这样一种文明:它给宇宙的比从宇宙拿走的更多,它把文化、美和知识带出去,它学习而不只是征服,它留下的痕迹不只在技术上闪光,也在道德上闪光。也许我们是已知的第一个能够有意识地决定自己在宇宙中如何行事的物种。这个机会,我们不应该错过。

转发出去

SOLIS只在读者之间口口相传。如果这一章让你有所思考,就把它发给一个应该读一读的人。

◄ 返回目录