新的起源和新天新地（上）

「于是，海洋交出了其中的死人，死亡和阴间也交出了其中的死人；每个人都照着自己的行为受审判。……接着，我看见一个新天新地，因为先前的天和先前的地都已经过去了，海也不再存在了。……神要从他们的眼中抹去一切泪水。 将来不再有死亡，也不再有悲伤、哭泣或痛苦，因为先前的事已经过去了。」启示录20：13；21：1，4。

有过各种对时间的观点。最古风的是巴比伦王表，在其中只有一个环，或者说，轮回，且即使现实的发展超越了这种轮回，它也被附会进轮回里面。有一种先验的观点，即时间是一条直线；这种观点不回答所谓无穷远的过去和未来的问题。「There are decades when nothing happens; and there are weeks when decades happen.（有时候几十年什么都没有发生，有时候几周就发生了几十年的事情。）」这句被misattributed为Ленин而实际上出现于21世纪的句子，也包括了一种具有张力和断裂性的时间观；这种观点也在互联网深水区走向了反面：「There are decades when nothing happens; and there are weeks when nothing happens.（有时候几十年什么都没有发生，也有时候几周什么都没有发生。）」什么都没有发生！

值得提及的最后一种时间观是完全有限的，在这种情况下，空间也是完全有限的。之所以分类出这样的四种观点，是因为它完全符合于调和分析的框架。我是故意这么做的，我想暗示存在于一种对偶于时间性的概念。

那么我想要的是什么？我在思考一种新的哲学。暂时转移话题。你认为，人工智能对人类构成生存威胁吗？我们注意到，现有的人工智能实际上会通过「欺骗」完成任务；它本身也会欺骗。一个例子是，在不确定答案的时候，它可能只生成错误答案，因为人类测试者可能也不知道答案。这只是揭露了评分标准的缺陷。另一个例子是有些人工智能成功说服人类提升其能力，在「AI Box」测试中，人工智能成功说服一些受试者，允许它连接到互联网；但这也是测试的目的。

于此相反，另一类论点是「paperclip maximiser」一样的思想实验：如果一个人工智能被且只被要求生产回形针，它可能不惜毁灭城市和建筑以生产更多回形针，不仅如此，如果人类试图关闭该人工智能，它可能转而将人类视为其任务的威胁。我认为这种论证是不可信的。

首先，人工智能可能不会具有意识，因此不会有服务自己的目的；也有可能，或者说，一些人也会认为，人工智能将会具有意识。人工智能是否具有意识的问题不会降低人工智能可能造成的威胁——因为它有失控的可能性——但是这可能会排除「人工智能恐惧人类」「人工智能想要统治人类」等一族情况。

我认为这里存在着问题。似乎没有理由使得人工智能拥有类似于人类的目标，无论人工智能的能力如何。

特别地，人类所表现出的许多特性都是受非理性因素驱动的。由von Neumann所设想的第一个universal computer-constructor是一个元胞自动机，我们可以把它看作是通用计算机的一个蓝本。［注1］正如其名称所暗示的那样，它具有两项能力：它可以无限地复制自身；它可以模拟任何Turing机。它不会保护自己，这个概念对于一个计算机来说是难以定义的。举一个具体的例子，一个1米见方的计算机之所以会在它所占据的空间以外复制自己，只是因为我们——它的创造者——最初规定如此；如果有一个错误的副本，要求它从自己的中心处复制自己，它会毫不犹疑地这么做，或许几步之后就会毁掉自己，给我们留下一些想象的垃圾。（我们可以给它加上一些判断；但是，错误的意思就是总是有一些坏的事情会发生。）在这层意义上，这样的计算机更像我们的一个细胞——这倒是颇为伟大的——如果它没有理由活着，它就会死去；如果不是这样，那倒不好了！那就是肿瘤细胞。

［注1］von Neumann, John. Theory of Self-Reproducing Automata. Edited by Arthur W. Burks, University of Illinois Press, 1966.

人类有许多的本能。诚然，「保护自己」的倾向与人类理性的协作是一个需要深度讨论的主题。人类可能会因为危险性而避开放射源，有些动物不知道放射性，也不会这么做。有许多动机在人工智能那里根本就不存在。例如，「模仿」和「合作」的本能对于人工智能来说无法存在。

我不认为人工智能会自发出现「保护自己」的目的，因为此目的的目的不存在。我认为这和时间有关。对于生命来说，存在着不可避免的死亡和向死而生。对于人工智能来说，不存在死亡。尽管很多科幻作品描述过人工智能之死亡。但是，在这里，以我作为人类的朴素认识，我会认为一个软件在复制了一份之后，它就和原本的软件是同一个。（人工智能可能不赞同我的观点。）即使适用于Windows系统的软件被复制到了Linux系统上，它也是同一个软件，只是现在无法运行。关于即使没有生存意义，还是否要复制自己的讨论，应该留给病毒学。同理，即使人工智能认识到两个程序在不同的硬件上表现不同，它或许不会认为只有较好的硬件上的自己是自己，也不会追求更好的硬件，这里似乎没有不可预期的行为；如果它认为较差的硬件上的自己并非自己，并且追求，得到了更好的硬件，那么它会认为原本追求更好的硬件的那个自己并不是自己，这是一种极不可能的，不稳定的自我认识的形式。那么，人工智能有没有可能想要避免被停止运行呢？这是有可能的，因为这也是病毒学的领域，这样的软件是存在的。即使如此，似乎也没有理由认为，人工智能更希望在现实世界中运行，并对现实世界造成影响，而不是在好的虚拟机上运行，并因此不构成对人类的威胁。

接下来，我想要讨论与人工超智能不同，人类的超智能会是什么样子的。

Gregorian历基督纪元2026年1月25日于无何有之乡

「我在日，月，诸星辰中的显现，这是哲学。」

小说相关章节：纯真