Stephen Wolfram:《一种新科学》(NKS)15周年回顾 -小编翻版

原文链接: https://blog.stephenwolfram.com/2017/05/a-new-kind-of-science-a-15-year-view/

这本书(NKS)发行已经15年了, 距离我刚开始写这本书已经过去25年了,而离我开始思考这里面的问题, 也已经超过35年了。但是,每过一年,我都会更近一步的了解这本书的真正含义 - 为什么它很重要。我写了这本书,正如其标题所示,是为了为科学进步作出贡献。但随着岁月的流逝,我意识到,书中内容的核心实际上已经远远超出了科学 - 在很多领域中甚至对于定义我们的整个未来都愈发的重要了。

那么,15年后再回顾,这本书究竟探究的是什么呢?它的核心其实是高度抽象的东西:所有可能理论的理论,或所有宇宙中可能的宇宙。但对于我而言,本书的一个成就是揭示了如何具体探索这些基本的东西 - 即通过在计算宇宙做各种可能的程序实验。最终这本书充满初看就像是外星来的图片。而这些图片通过运行非常简单的程序即可形成。

回到1980年,当我那时还是一个理论物理学家的时候,如果你问我简单的程序会做什么,我估计会说“能做的不多”。我当时就对自然界中所看到的这种复杂性非常感兴趣, 但我那时(就像一个典型的还原论科学家一样)认为理解它的关键在于找出潜在的组成各个部分的细节特征。

回顾过往,我觉得非常幸运的一点是,几年前我碰巧有方向正确的兴趣和合适的技能去实际在计算领域中尝试做一下这些最基本的实验:系统性的地选用了一系列最简单的程序 ,并运行它们。

而当我开始这么做的时候我立刻发现了一些有趣的事情,但是我花了好几年才开始真正明白我所看到的力量。 对我来说,这一切都始于一张照片:

或者这个更现代化的一张:

我将其称为规则30. 这也是我最喜欢的发现,我把它印在了名片上。它是什么?这是人们可以想象的最简单的程序之一。它从黑色和白色单元格开始,从单个黑色单元格开始,然后重复应用底部的规则。关键的一点是,即使这些规则是非常简单的,但是出现的样式却并不简单。

这是计算宇宙中一个至关重要的和完全出乎我们意料的特征:即使在最简单的程序中,也很容易得到非常复杂的行为。我花了足足十年时间才明白这个现象有多普遍。它不仅仅像规则30一样发生在程序(“细胞自动机”)中,其实只要当你开始列举各种规则或行为不太明确的程序时,这个特征就会显现出来。

实际上,类似的现象在pi的数字和素数的分布方面已经被观察到有几个世纪了 - 但它们基本上只是被看作是比较奇特,而不是作为一个极其重要的标识。自从我第一次看到规则30已经将近三十五年,每过一年,我都感觉更清楚,更深刻地理解了它的重要性。

四个世纪以前,木星的卫星及其周期的发现为现代科学和及其思维方式播下了种子,现在这个简单的规则30能否成为另一种这样的知识革命的种子,成为一种思考一切的新方式呢?

从某种意义上说,我个人更倾向于不去承担转变这种观念的责任(“范式转变”往往是是艰苦和吃力不讨好的工作)。当然,多年来我只是悄悄地利用这些想法来开发技术和我自己的想法。但是随着计算和人工智能越来越成为我们世界的中心,我认为计算宇宙中包含的内容需要被更广泛地理解。

计算宇宙的含义
这是我今天看到的方式。通过观察木星的卫星,我们得出这样一个观点:如果观察正确的话,宇宙是一个有序的,规则的地方,而且是我们最终可以理解的。但现在探索计算宇宙时,我们很快就会遇到类似于像规则30的事情,即最简单的规则似乎也会导致不可还原的复杂行为。

“NKS”中一个重要思想是我所称之为“计算等价原则”。第一步是思考每一个过程 - 无论是黑白方块,物理,还是大脑内部 - 都是以某种方式将输入转化为输出的计算。计算等价原则所说的是,在极低的阀值之上,所有的过程都对应于相同复杂性。

这可能是错的。也许像规则30这样的东西会对应于一个比飓风的流体动力学更为简单的计算,或者是我此刻正在用大脑写作的这个过程。但计算等价原则想说的是,事实上所有这些计算都是等价的。

这是一个非常重要的声明,它有很多深刻的含义。首先,它暗含了我称之为“计算不可还原性”原则。如果像第30条这样的计算和我们的大脑或者数学一样进行计算,那么我们就不可能“超越”它:为了弄清楚它将做什么,我们必须做一个不可能减少的计算量,有效地跟踪每个步骤。

精准科学的数学传统强调了通过解决数学方程来预测系统行为的思想。但是,计算不可还原性意味着这在计算宇宙中往往无法工作,相反,唯一的出路就是显式的运行一个计算来模拟系统的行为。

世界在转变

我在“NKS”展示了如何用简单的程序为物理,生物和其他系统的基础特征的建模。当时有人对此持怀疑态度。因为确有一个已经300年的传统,那就是认为严肃的科学模型应该建立在数学方程的基础之上。

但在过去的15年里,一件异乎寻常的事情发生了。现如今, 当创建新模型时(无论是动物行为模式还是网页浏览行为),绝大多数都是基于程序而不是数学方程式了。

一年年的,这是一个悄无声息的缓慢推进。但但就这一点而言,这是一个巨大的转变。三百年前,纯粹的哲学推理被数学方程所取代。现在在短短的几年里,方程式已经在很大程度上被程序所取代。这样从务实角度建立的模型更实用,效果也更好。

但要理解这些现在正在发生的事情的根基,就不能依靠像数学定理和微积分这样的东西,而应该引入“计算等价原理”这样的概念。传统的以数学为基础的思维方式使得我们谈论世界时像像力量和动力这样的概念方式无处不在。但现在当我们从基本计算的角度思考时,我们必须从像不可判定性和计算不可约性(计算不可简约)这样的概念开始。

某种类型的肿瘤会在某种特定的模型中停止生长吗?这可能是无法确定的。有没有办法指导气象系统应该如何开发?这可能是计算不可约的。

这些概念对于理解什么是可以或不可以模拟的,以及理解世界上那些是可已控制, 哪些是不可以控制的,都是非常重要的。经济学的计算不可约性将会限制什么可以被全球性的控制。生物学中的计算不可约性将限制治疗有效性的适用成程度, 并使的高度个性化的药物成为一种基础必需品。

通过计算等价原则这样的理论,我们可以开始讨论是什么允许自然 -(看起来如此轻松 ) 产生如此之多以至于对我们来说是如此复杂的事物。或者甚至连确定性的基本规则都可能导致计算上不可约的行为,而且这些行为在所有的实践中似乎都表现出了一种“自由意愿”。

深入挖掘计算宇宙

“NKS”的一个中心思想即计算宇宙让人难以置信的丰富。其之所以重要是因为这意味着我们有很多不可思议的东西可以从中“挖掘”出来以达到我们的目的。

想自动制作一个有趣的个性化艺术品吗?只要看看这些简单的程序,然后随意挑选一个你喜欢的程序 - 就像十年前在我们的WolframTones音乐网站上所作的那样。想找到一个最佳算法?只要在那里搜索足够多的程序,你就会找到一个。

我们通常习惯于通过人工努力逐步构建,逐步创建建筑计划或工程图或代码行来创建事物。但是发现在计算世界中有如此多的丰富性这一发现提出了一种不同的方法:不要试图建立任何东西;只是定义你想要的,然后在计算宇宙中搜索它。

有时候会很容易的找到。比方说,你想要产生随机性。那么就列举细胞自动机(就像我在1984年所做的那样),很快就会在规则30上出现 ( 这是最明显的随机性生成器之一(从单元格值的中间列向下看)例子))。其他情况下,您可能需要搜索100,000个案例(正如我在查找逻辑的最简单公理系统或最简单的通用图灵机时所做的那样),或者您可能需要搜索数百万甚至数万亿个案例。但在过去的25年中,我们在计算领域发现算法方面取得了令人难以置信的成功 - 我们依靠其中的许多实现了Wolfram语言。

在某种程度上,这是非常清晰的。我们在计算宇宙中发现了一个小程序。我们描述它做到了什么。但是当我们看它具体在做什么的时候,我们并不知道它是如何工作的。也许我们可以分析其中的部分,并自以为这样做很聪明, 但我们却没有办法理解整个事情。和我们通常的思维模式相比,这并不是我们所熟悉的套路。

当然,我们以前也有过类似的经历 - 当我们使用自然界的东西的时候。我们可能注意到某种特定的物质是一种有用的药物或是一种很好的化学催化剂,但是我们可能并不知道为什么。但是在做工程的时候,现代建筑技术的大部分精力和重点却放在了架构设计和操作一些我们很容易理解的东西上。

在过去我们可能认为这已经足够了。但通过我们对计算宇宙的探索表明这样做并不够:因为只选择那些我们能够容易理解的东西,却往往忽略了计算宇宙中占大部分的其他浩瀚力量及其丰富性。

一个技术发现的世界

当我们所拥有的更多东西是从计算宇宙中挖掘出来的时候,世界将会是什么样子?今天,我们为自己建立的周围环境主要基于简单的形状和重复的过程。但是,我们越是使用计算世界中的东西,那么规则的东西就越不显眼。有时他们可能看起来有点“有机”,或者像我们在自然界看到的那样(毕竟,自然遵循类似的规则)。但有时他们可能看起来很随意,直到可能很突然和不可思议地形成了我们认识的东西。

几千年来,我们人类文明已经走在了一条想要更多地了解世界所发生的事情 ( 无论是用科学来解读自然,还是通过技术创造自己的环境)的道路上, 但是为了更多地利用计算宇宙的丰富性,至少在某种程度上我们必须放弃这条道路。

过去,我们有种思维定势认为相比较我们的大脑和我们所创造的工具,我们总会比周围的东西拥有更强大的计算能力,因此我们总是能够“透析”它们。但是计算等价原则想说并非如此:在计算宇宙中,有很多事情和我们的大脑或者我们所创建的工具一样强大。一旦我们开始使用这些东西,也就失去了我们认为的这种“边界”。

今天我们认为可以在程序中识别出零星的“bug”。但是在真正的计算宇宙中,大部分功能强大的计算充满了不可约性 - 所以要真正了解它能做什么的唯一方法就是运行它并观察看发生了什么。

我们自己作为生物系统,在分子尺度上也是计算的一个很好的例子 - 无疑我们也充满了计算不可约性(比如从某种层面上讲医学很难)。我认为这是一个折衷:我们可以限制我们的技术仅由我们可以理解的操作组成。但是那样我们也会错过计算世界中那些更丰富的东西。而我们甚至无法将我们自身的生物学成就与所创造的技术相匹配。

机器学习和神经网络的复兴
我注意到知识领域有一个共同的发展模式。它们持续发展了几十年,也许还有几个世纪的,但只是渐进式的增长,突然之间,通常是由于方法论的进步,大概5年之后会出现一阵“超级增长”,而且几乎每周都会产生重要的新成果。

我自己非常幸运的是初次踏入的领域, 粒子物理学 - 在我参于的二十世纪七十年代后期,正处于爆发式增长的时期。对我自己来说,20世纪90年代感觉就像是“NKS”的高度生长的个人时期 - 这也就是为什么十多年来我沉迷其中的原因。

但是今天,爆发式增长的领域明显是机器学习,或者更具体地说是神经网络。有趣的是其实在我开始使用细胞自动机之前,我在1981年已经开始研究神经网络,在找到规则30之前研究了数年。但是我从来没法让神经网络做任何非常有趣的事情 - 实际上我发现对于我所关心的根本问题,它们显的太杂乱和复杂。

所以我“简化了它们”并且用细胞自动机来收尾。 (我还受到统计物理学中Ising模型等的启发)。一开始,我想我是不是简化得太过分了,并且我的小型元胞自动机也不会做任何有趣的事情。但是后来我发现了诸如规则30之类的东西。从此之后,我就一直在试图理解它所蕴涵的意义。

当构建Mathematica和Wolfram语言时,我也一直在关注神经网络,偶尔我们也会用到它的一小部分来实现某种算法。但大约5年前,我突然听到了一个令人惊讶的事情:培训神经网络去做复杂事情的想法实际上是有效的。起初我还不太确定。但是后来我们开始在Wolfram语言中建立神经网络功能,两年前我们发布了ImageIdentify.com网站,现在我们已经建立了整套符号神经网络系统。而让我我印象深刻的是。传统上被认为是人类独特的领域的许多任务,现在我们可以通过计算机来完成。

但是神经网络中究竟发生了什么?其实和大脑并不一样, 只是受其启发(尽管实际上可能和大脑的工作方式或多或少地有点类似)。神经网络实际上是一系列对数组数据进行操作的函数,每个函数通常会从数组周围输入相当多的输入。这与元胞自动机没有太大的区别。除了在一个元胞自动机中,通常只处理0和1,而不是像0.735那样的任意数字。而不是采取从各地输入,在一个元胞自动机每一步只从一个非常明确的本地区域输入。

现在研究“卷积神经网络”已经相当的多了,它的输入的模式其实非常规则,就像在元胞自动机中一样。而且很清楚的是,具有精确的(比如说32位)数字对于神经网络的运行并不重要; 人们可以只用几个比特的位宽来做这件事。

但神经网络的一大特点是我们知道如何让它们“学习”。特别是,它们具有传统数学(如涉及连续数字)的特征,像微积分这样的技术可以被用来提供策略,让它们逐渐改变参数以适应它们的行为。

需要多少计算量,或者多少训练样例,还远未清楚。但五年前的突破发现,对于许多重要的实际问题,现代GPU和网络收集的训练集就已经足够了。

几乎没有人最终明确地设置或“设计”神经网络中的参数。相反他们是自动被发现的。但与细胞自动机这样的简单程序不同,在目前的神经网络中,有一个基于微积分的增量过程,它逐步改善网络 - 就像生物进化一样逐渐提高“适应度“成为一个有机体。

用这种方式训练神经网络产生的结果让人惊叹,而且是在很难理解神经网络是如何做到的情况下产生的。 但从某种意义上说,神经网络在计算宇宙并没有太多的先人一步,他还是保持相同的基本计算结构,只是通过改变参数来改变自己的行为。

但对我而言,今天神经网络的成功是对计算宇宙力量的一个非比寻常的认可,是另外一个验证了“NKS” 的思路。 因为它表明,在计算宇宙中,一旦远离通过这种用人们可以预见细节行为的约束条件来建立所谓明确系统的方法。 我们立即就可以找到各种丰富而且有用的东西。

NKS遇到机器学习
有没有办法把计算宇宙的全部力量和“NKS ”的想法带到与神经网络有关的事物上?我觉得是可行的。事实上事情已经比较清楚了,我一点儿也不会惊讶对计算宇宙的探索已经快到了爆发增长期了, 而且这个“富矿的繁荣”可能是史无前例的。

在目前的神经网络工作中,有一个明确的折中。神经网络内部发生的事情越像一个计算参数的简单的数学函数,则使用微积分来训练网络就会越容易。但如果是是一个离散的程序,或者像一个整个结构都可以改变的计算过程,那么训练网络就比较困难。

不过值得记住的是,现在我们训练的网络在几年前看起来是完全不切实际的。使得这种训练成为可能的主要原因是因为我们利用了数以亿万的GPU操作。如果即使是“Quite Pedestrian"(即局部穷举搜索)技术,即使在不采用增量数值方法的情况下,也可以让它来进行训练。甚至有可能发明一些像“微积分”这样但却适用于计算宇宙的重要概念,它们将能够在整个计算宇宙中运行。 (我对基于通用的几何符号来涵盖元胞自动机规则空间持怀疑态度)

这些可以让人们做什么呢?可能会让人发现可以达到特定计算目标的相当简单的系统。也许这会带来一些本质上全新的运行能力,或许会超出了我们通常熟悉的事物比如大脑。

最近有一个有趣的事情正在建模。随着神经网络变得越来越成功,人们开始怀疑:为什么要用模拟神经网络的黑盒模型来模拟系统内部发生的事情呢? 其实如果我们能够设法让机器学习深入到计算宇宙的话,我们就不会有这种折衷了 - 因为我们将既能够获得模型的输出也能够清楚模型本身。

我相当确信,将全面的计算机宇宙带入机器学习的范畴将会产生惊人的结果。但是值得注意的是,计算的普遍性和计算等价原则使得它不再是一个原则性问题。因为它们意味着即使是我们现在拥有的神经网络也是普遍性的,并且能够模仿任何其他系统可以做的事情。 (事实上​​,是这个普遍性实质上在1943年启发了整个神经网络的现代概念。)

有一个现实问题,当前的神经网络基元正在被构建到硬件中,这将使它们成为实际技术系统的理想基础,尽管它们还远不是最优的。但是我猜测,在可预见的未来,当有一些任务需要完整的计算宇宙时,它们将可能不堪重负了? (相反的意思- 译者注)

寻找AI
如何制造人工智能? 在孩童时代,我很想找出一种方法让电脑知道一些事情,并且能够据此回答问题。而我在1981年之所以研究神经网络,部分原因也是为了了解如何才能建立这样一个系统。碰巧,我那时刚刚开发出了SMP,它是Mathematica(最终是Wolfram语言)的前身,它很大程度上基于符号模式匹配(“如果你看到这个,将其转换为”)。不过当时我想到人工智能在某种程度上是一个“更高层次的计算”,我还不知道如何才能实现它。

我经常在回想这个问题,并不断推卸责任(认为他是一种更高层次的计算)。但是当我在研究NKS的时候,我才震惊地发现:如果我认真地考虑计算等价原则,那么就不可能有任何“更高层次的计算” - 所以AI一定是可以用我已知的通用计算可达成的。

正是这种认知让我开始构建Wolfram | Alpha。而且我发现很多像“自然语言的理解”那样的“面向AI的东西”,只要用“普通计算”就可以完成,其中没有任何神奇的AI魔法。公平的说,有一部分其实是在使用NKS的想法和方法:即我们不仅仅是在设计一切; 我们也在从计算宇宙中搜索所需要的规则和算法。

那么“通用AI”呢? 在这一点上, 基于我们现有的工具和理解,我认为我们目前做的不错,可以让任何我们可以定义东西自动化。但定义本身是一个比我们想像中更困难和核心的问题。

我现在看计算宇宙中有很多非常强大的运算。它们和我们的大脑中发生运算一样强大。但除非它符合我们的人类目标和宗旨,否则我们不认为它是一种“智慧”。

自从我写了NKS以后,我就喜欢引用格言“天气有自己的想法”。这听起来非常有灵性和科学前瞻性。但是根据计算等效原理及现代的科学表明:天气的流体动力学与我们大脑中中发生的电子过程的复杂性相同。

但它是有“智慧”的吗?当我和人们谈论NKS和人工智能的时候,当想到我们会让机器产生“意识”的时候,这个问题经常会被问到。生活,智慧,意识:这些概念我们在地球上有一些特殊例子的对应。但是其他更通用一些的例子呢?地球上的所有生物都拥有RNA和细胞膜的结构。但那只是因为我们所知道的所有生命都是历史的一部分。这并能证明这些点对于生命来说是一个根本性的特征。

因此关于智慧。我们只能确定一个例子:我们人类。 (我们甚至不知道其他动物是什么样的)。但是我们所拥有的智慧与人类的文明,人类的文化以及最终的人类生理都是息息相关的,虽然如此, 但这些点在智力的概念定义中并没有任何联系。

我们可能会考虑外星智慧。计算等同原则隐含了我们周围实际上有“外星人智慧”。尽管如此, 但它们与人的智慧并不完全一样。例如,我们可以看一下规则30,似乎能看到它正在进行某种复杂的计算,就像我们的大脑一样。但却看不出它究竟在做什么。

我们能想到的都是我们人类所做的事情, 或者按照人类的某些目标或目的来运作。但像规则30似乎只是在做一些“它”要做的事情。最终人们意识到我们并没有那么不同。我们的大脑是受自然的规律来支配的。所以我们所做的任何事情都只是在一定程度上执行这些规则。

任何过程实际上都可以用机制(“石头的运动按照牛顿定律”)或者目标(“石头在移动以使潜在的能量最小化”)来描述。机制方面的描述通常与科学联系最为有用。但是在目标方面的描述通常是与人类智慧联系最为有用。

这在思考AI时也至关重要。我们知道我们可以有计算系统,其操作复杂度不输任何其他东西。但我们是否能让它们做一些符合人类目标的事情呢?

从某种意义上说,这就是我现在认为的AI的关键问题: 它不是实现底层的计算复杂性,而是通过这个计算来传达我们想要的。

语言的重要性
我在计算机语言设计上花了大量的时间 - 最重要的是创建了现在的Wolfram语言。我经常看以一个语言设计者的身份想象人们可能想要做的计算,然后就像一个还原论科学家一样试图“深入”,找到可以建立所有这些计算的基元。但是从NKS和人工智能的角度来看,我有一点不同的想法。

现在我认为自己在做的是在我们的人类思维模式和计算宇宙的能力之间架起一座桥梁。原则上可以通过计算来完成各种令人惊奇的事情。但是,语言所做的是为我们提供一种方式来表达我们想要完成的事情,或者想要实现的- 然后尽可能自动地的实现这个过程。

语言设计必须从我们所熟悉的东西开始。在Wolfram语言中,我们使用英语单词来命名内置的原语,并利用这些单词已有的含义。但是Wolfram语言不像自然语言, 它更强大和结构化。它基于人类知识语言所熟悉的词汇和概念库的共享。但这给我们提供了一种方法来建立不同繁杂的程序来表达了各种复杂的目标。

计算宇宙是有这个能力的。但是,它们不一定是我们人类可以描述或涉及的东西。但在构建Wolfram语言时,我的目标是尽我所能捕捉我们人类想要的所有东西,并且用可执行的计算术语来表达它。

当我们审视计算宇宙时,很容易被我们如何描述或思考的限制所打击。现代神经网络提供了一个很好的例子。对于Wolfram语言的ImageIdentify函数,我们已经训练了一个神经网络来识别世界上数以千计的东西。为了迎合我们人类的目的,网络最终要做的就是从概念上描述我们可以用文字,桌椅,大象等来命名的概念。

但在内部,网络正在做的是识别世界上任何物体的一系列特征。是绿色的吗?它是圆的吗?等等。当神经网络被训练时,会发生什么呢?它识别出它对于区分世界上不同类型事物有用的特征。但重要的是,这些功能几乎都不是我们碰巧用人类语言指定的单词。

在计算宇宙中,有可能找到“什么可能是非常有用的方法”来描述事物。但它们对我们人类是陌生的。它们不是我们基于我们文明发展起来的知识语料库就
知道如何表达的东西,当然,现在新的概念正在被添加到人类知识的语料库中。一个世纪以前,如果有人看到一个嵌套的模式,他们将无法描述它。但现在我们只是说“这是一个分形”。但问题是,在计算宇宙里有一个“潜在有用的概念”的无限集合,我们永远不可能最终和它同步。

和数学的类比

当我写NKS的时候,我认为很大程度上可以摆脱使用数学,至少从作为基础科学的层面。但我也意识到的一点是书中的观点其实对纯数学本身也有很大的启发。

什么是数学?那么,它是基于数字和几何等东西对某些抽象类型系统的研究。从某种意义上说,它正在探索的只是抽象系统在计算宇宙可能性的一个小角落。但其实数学已经完成了很多工作,比如已经公布了三百万左右的数学定理,这也许是我们这个物种建立起来的最大的单一连贯的智力结构体。

自从欧几里德以来,人们至少从概念上理解数学是从某些公理(例如a + b = b + a,a + 0 = a等)开始的,然后建立了定理的推导。为什么数学很难? 根本源于计算不可还原性 - 这是一件显而易见的事实,即没有通用的方法来推导需要推导出一个定理的一系列步骤。换句话说,在数学中得到一个结果是非常困难的。但更糟糕的是,正如哥德尔定理所表明的那样 - 可以有数学表述,它们没有任何有限的方法来被证明或反驳。在这种情况下,这些陈述只能被视为“不可判定的”。

从某种意义上讲,数学的奇异之处在于,人们可以根据自己的喜好来做这件事。因为可能大多数人关心的数学结果都是不可判定的。那为什么这些没有发生在数学里面呢?

如果考虑任意的​​抽象系统,它会发生很多事情。拿一个典型的元胞自动机 - 或者一个图灵机 - 询问如下系统是否为真,比如说,不管它的初始状态如何它最终会稳定在一个周期性的行为状态。即使这样简单的事情往往也是不可判定的。

那么为什么这不会发生在数学呢?也许关于数学中使用的特定公理有一些特别的东西。当然,如果有人认为他们是唯一描述科学和世界的人,这可能是个原因。但是本书的要点之一是,实际上有一整套计算宇宙的潜在规则,可以用来做科学研究和描述世界。(there’s a whole computational universe of possible rules) 事实上,我不认为在数学传统上使用的特定公理有什么特别的东西:我认为它们只是历史的偶然事件。

那么人们研究的那些数学理论又如何呢? 再一次的, 我认为其还是蕴含了强烈的历史属性在里面, 对于大多数数学研究的领域,其实周围大部分是具有不确定属性的海洋, 但是传统数学只是从中挑选了一些可以被发现的小岛用于证明, 越靠近未知的海洋, 这种证明会愈发的艰难也因此带来更大的成就感。

我一直对数学理论的整个发布网络过程很感兴趣(好似神迹之于牧师, 战役之于历史学家, 物质属性之于化学家) 其中有一件让我好奇的事是, 是否由一种数学上不能变更的序列所主导, 抑或是从某种意义上来讲是被随机选取的呢?

在此我想,类同与我们刚刚提到的语言, 什么是证明? 基本上它是一种用来给一些人解释一些事为什么是对的(成立的)的过程/方法。 我已经把各种自动化证明在几百步里完成了, 并且每一种都得到了计算机的充分验证。但是, 就像神经网络的内部, 那些在人类看起来都像是从外星来的而难以被理解

为了便于人们理解, 它们最好有一个接地气的概念名称, 就像我们语言中的单词, 如果一些特殊的证明有个名称(像史密斯理论)并且有一个广为人知的含义, 那他对我们是有用的,但是假如它就是一长串难以区分的计算 , 那对于我们而言毫无意义。

在大量的公理 系统中, 可能的定理有无群多个, 但是那一些是人们感兴趣的呢? 这其实是一个人类学问题。基本上这种问题最终会被归结到一个“典故”上来。 我在这本书中展示了基础逻辑学, 这个理论历史上被认为足够“有趣”, 因而被赋予名称,而这个定理从某种意义上来讲恰恰是最小的公理。

但我的猜想是这样的, 对于蕴含丰富公理的系统, 大多数我们认为“有趣”的事缘由于一些我们本之前已经认为是“有趣”的是“ 就好比组建一句话或者一个概念, 你不会引入一个全新的除非你可以从已有的里面找到一个和它们有相关性的。

在最近的几年里, 我很想了解不可变更性或者说非递进性在数学领域中的作用,是否只有一条历史路径它们可以遵循, 比如从算数到代数再到现代的高等数学, 又或者这里面有无群多的可能演进路线,而且可能塑造出完全不同于现在的数学历史?

这个答案依赖于-从某种意义来说 “数学空间的结构” 也就是由避免非确定海洋的确定性理论所构筑的网络。 或许它在不同的数学领域里面是不同的(数学在这些领域更像是随机的发明创造), 而在另外一些里面是不可避免的(给人感觉数学更像是发现)

但是对我而言有一件最感兴趣的事情当审视这些事情的时候, 探寻自然和数学的属性和归结于探寻自然和智慧及人工智能的属性有多接近? 并且正是由于这些共性使我意识到NKS里面阐述的方法是多么的强大和普适。

科学从何时而来?

传统数学方法在科学里的很多领域, 像物理学和天文学,都做的非常好, 但是在其他一些领域如生物学, 社会科学和 语言学还有很多不足 。长期以来我坚信我们应该推广NKS的模型,考虑拓宽计算通用性的边界以在这些领域取得进展。

事实上在过去的15年间, 已经有越来越多这样做的成功案例, 并且有很多生物和社会学的系统, 它们已经用简单程序(Simple programs)去构筑模型。

但是不像通常那种可以被“解决”的数学模型, 这些计算模型通常表现出不可还原计算性, 常常被用于显式模拟, 这样的模型可以完美的用于做一些特定的预言或应用于某种技术。但是就想数学理论里面的自动化证明, 人们仍然会问: 这真的是科学吗?

是的, 人们可以模拟系统的行为, 但是是否真的了解它的内部机理呢? 好吧, 这个问题是不可还原计算性暗含呢在一些基础感知上人们不会一直都能“明白”事物, 就好像讲了一个“没用”的故事, 好像并没有概念上的航径, 只有一些计算的细节过程。

想象一下人们试图创建一门关于大脑是如何理解语言的科学,语言学的宏伟目标之一, 好吧, 也许我们会获得充分和精确的关于神经元触发或者一些更底层的大脑行为表述, 然后我们再看看如何产生用于理解整个句子的模式。

好吧, 如果这些模式看起来就想rule30 里面的行为呢? 或者近在咫尺, 是否神经网络的内部结构可以告诉我们到底发生了什么吗? 为了做这件事, 我们需要创建一些更高层的符号表述, 一些我们可以用文字有效描述关于关键元素发生了什么。

但是计算的不可还原性隐含了最终都没有途径去创建这样的东西, 是的, 总是有可能找到计算可还原性的方法, 但故事并不都是这样的,或许有人会说, 可还原计算做这些事是没用的, 但是恰如标题所说, 这正是一种新科学所要面对的问题之一。

控制人工智能

人们最近几年很担忧人工智能, 他们想知道当AI越来越聪明后会发生什么? 好吧, 计算均等原则带来一条好消息, 从根本性的层面, Ais 永远不会“更”聪明。 他们只是能最终等同于我们的大脑的计算, 或者, 就如同任何简短的程序所做的运算。

作为一个有实质的运算体, 当然AI将能够比实际大脑更快的处理更多的数据,并且毫无疑问, 我们会让他们为我们代劳从医疗设备到中央银行到交通枢纽系统或更多。

所以很重要的一点是我们怎么样告诉他们去做什么, 一旦我们认真的考虑利用计算通用性的潜能, 我们就无法像以往一样一条一条的告诉Ai去做什么。相应的, 我们要去给AI定义目标, 让他们自己找出如何最好的完成目标。

从某种意义上说,我们在Wolfram语言中已经这样做很多年了。有一更高层次的方式去描述我们想要做的东西(比如, 画一张图, 分类数据等), 然后就让wolfram语言自动去找出最好的方式完成。

最终真正的挑战是找出描述目标的方法, 是的,你想搜索元细胞机去制作一张漂亮的地毯图案, 又或者 “good edge detector”, 但是这些具体代表什么含义呢? 你真正需要的是一种人类可以用来精确表述他们想法的的语言。

这和我在这儿反复提及的问题是一样的,人们必须有一种人类能够谈论他们所感兴趣事物的语言。计算通用性里面有无数的细节, 但是纵观我们的文明和文化史, 我们认出了哪些对我们而言重要的概念, 并且当我们描述我们目标的时候, 都是围绕这些概念阐述的。

300年前, 诸如莱布尼兹等对找到一种能精确描述人们思想和讨论。 他在这方面当然先行一步, 但是我认为现在我们才刚刚在这方面步入正轨, 事实上, 我们在利用Wolfram language 描述现实中的事物方面已经走的非常远了。 并且我希望最终又何能构建一个完全的“语义讨论语言”, 可以用来让我们描述哪些我们所感兴趣的事物。

现在我们用“法律术语”来写法律契约,使它们比一般的自然语言稍微精确一些。 但是用象征性的话语语言,我们将能够写出真正的“智能合约”,用高层次的术语来描述我们想要发生的事情 - 然后机器将自动地验证或执行合同。

至于AI嘛, 我们需要告诉他们我们希望他们做什么。 我们需要与他们签订合同。 或者,也许我们需要为他们制定宪法。 它会以某种象征性的语篇语言写成,可以让我们人类表达我们想要的东西,并且由AI来执行。

对于“人工智能宪法”中应该包含哪些内容以及如何构建这样的东西对应到世界的政治和文化景观,还有很多要说的。 但是显而易见的问题之一是:宪法可以简单吗,就像阿西莫夫的机器人定律一样?

在此,由我们从一种新的科学知道告诉我们答案:不可能。 从某种意义上说,宪法是一种试图塑造世界上什么事情可以发生和什么不可以。 但计算不可还原性表明,这将会有无限的案例可能。

对我而言,看到像计算不可约性这样的理论思想如何最终冲击这些非常实际的和中心的社会问题是很有趣的一件事。 是的,这一切都始于关于所有可能理论的理论的问题。 但最终却关联到了社会上每个人关心的问题。

无尽的前沿

我们会达到科学的终点吗? 我们还是人工智能最终会发明一切有待发明的东西?

对于数学而言,很容易看出有无数可能的定理可以构造。 对于科学而言,可以提出无尽的问题。 还可以构建无限种的发明。

但是真正的问题时, 在这些新的东西里面是否有我们感兴趣的东西呢?

计算的不可还原性表明,总有新事物可以从现有的事物不可还原的推导出来。 所以从某种意义上说,总是会有“惊喜”,但这些“惊喜”并不会立刻从已知事物中显现出来。

那么它最终会形成一堆不同形状的怪石 还是会有一些我们人类认为有趣的新功能呢?

这又回到了我们以前遇到的问题:我们必须有一个概念框架可以用来认知和思考用它来思考对于我们人类来说所谓“有趣”的东西。 如果我们可以识别元胞自动机中的“持久结构”。 那么也许我们可以开始谈论“结构之间的碰撞”了。但是当我们看到一堆东西杂乱的演进的时候我们并不会认为它们是是“有趣“的。除非我们有一些更高级的表述方式来讨论它。

从某种意义上来说,发现新的“有趣”的东西并不会受到我们进入通用计算模型(计算宇宙)找到新事物的能力的限制。 相反,它受到我们作为人类构建我们所发现的概念框架的能力的限制。

这有点像“一种新科学“的发展过程。 人们已经看到了(质数的分布,pi的数字等等)。 但如果之前没有一个概念框架的话,它们似乎并不“有趣”,当然也就不会围绕它们构建各种东西(公理 推论, 译者注)。 事实上,当我更深入地了解计算世界中的内容 - 甚至是哪些我在很久以前看到的东西时 - 我逐渐建立了一个概念框架,它让我走得更远。发现更多”有趣“ 的东西。

顺便说一下,发明与发现是不同的。 人们可以看到计算世界中发生的新事物,这可能是一个发现。 但发明是则是要弄清楚在计算领域如何能够实现。
而且 - 就像专利法一样 - 如果你只是说“看,这是这样的”,那么这不是一项发明。你必须以某种方式让人理解它实现的目的。

在以往,发明过程的焦点往往是在找实际能工作的东西(比如“找到有效的灯泡灯丝”等)。 但是在计算世界中,焦点转移到了你想要发明的问题上。 因为一旦你描述了目标,找到实现它的方法是可以自动化的。

这并不是说它会一直很容易。 事实上,计算不可约性(计算不可还原性)意味着它可能是任意的困难。 假设你知道一些化学物质可以相互作用的确切规则。 你可否找到一个化学合成途径,让你得到某种特定的化学结构吗? 也许有,但计算不可约性意味着可能无法找出这条通路可能有多长。 如果你还没有找到一条途径,你可能无法确定是因为没有一条路,或者只是因为你还没有到达。

物理学的基本理论

如果想到达科学的最前沿,人们不禁会想起物理学的基本理论。考虑到我们在计算宇宙中所看到的一切, 是否我们的物理宇宙可以与计算宇宙中的其中一个程序相对应吗?
除非我们找到它,否则我们不会真正知道。但是在“新科学”出现以后的这几年里,我对这种可能性越来越持乐观态度了。

毫无疑问,这对物理学来说将是一个很大的改变。现有的两个基本物理学思想框架:广义相对论和量子场论。广义相对论已经有一百多年的历史,量子场论可能有90年. 他们各自也都取得了壮观的成就。但是还没能成功地为我们提供完整的物理基础理论。如果现时没有其他更好的理论的话,我觉得这是个值得一试的新事物。

但在实际探索计算世界中,即使是非常简单的模型, 我们也会有很多关于可能性的直觉。 我们可能会认为, 那也在物理学中已知的各种东西可能会需要一些非常复杂的基础模型。 但现在已经清晰的是,即使通过一些非常简单的基础模型,这些丰富性也可以很好地显现出来。

我不打算在这里详细讨论关于底层模型可能会是什么样的问题,但可以说,我认为这个模型最重要的事情是它应该建立在尽可能少或精简的基础之上。我们不应该自大到说知道如何构建宇宙; 我们应该只是采取一种通用的模式,尽可能没有结构化,并且做我们通常在计算领域所做的事情:只搜索一个我们想要的程序。

至于一个尽可能没有结构化的模型,我最喜欢的范式是网络:它们之间只有一个连接节点的集合。 把这样一个模型作为一个代数结构,可能还有许多其他的东西。 但是我们可以把它想成一个网络。 按照我想象的方式来设置它,这是一个“空间和时间之下”的网络:我们所知道的时空的每个方面都必须从网络的实际行为中出现。

在过去十多年,人们对循环量子引力和自旋网络等事物的兴趣越来越大。 这些其实与我一直在做的事情也有关联,就像它们也涉及到网络一样。 也许还有一些更深的关系。 但是他们还是遵循传统模式,在数学上会更详尽一些。

从传统的物理方法的角度来看,这也许是一个好主意。 但是凭借我们从研究计算世界的直觉,并将其用于科学技术来看, 似乎完全没有必要。 是的,我们还不知道物理学的基本理论。 但从最简单的假设开始似乎是明智的。 但原理上它肯定类似我之前所研究过的简单网络。

一开始,对于那些在传统理论物理学方面受过训练的人(包括我自己)来说,这会变得非常陌生。 但有一些却并不是那么的陌生。比如 我近20年前的一个大发现(目前仍然没有被广泛的理解),“当你看到我研究的那种足够大的网络时,你可以证明它的平均行为遵循爱因斯坦的引力方程” 换句话说,没有在底层模型中加入任何奇特的物理,它就会自动出现。 我觉得点很让人激动。

人们对量子力学有很多期待。 我的基础模型并不是建立在量子力学的基础之上的(就像它不是建立在广义相对论中一样)。 现在确切地说“量子力学”的本质究竟是什么还是一个难点。 但是有一些非常隐晦的迹象表明,我的简单网络实际上最终表现出量子行为 - 就像我们所熟知物理学一样。

好吧,那么如果在可能的程序计算宇宙中上有一个实际物理的基本理论的话,应该怎么做呢? 最明显的就是从最简单的程序开始搜索它。

在过去的15年左右,我一直在做这件事, 有时候是断断续续的。 而我迄今为止的主要发现是,找到不太那么明显但其实不是我们的宇宙的程序实际上是相当容易的。 有很多程序的空间或时间显然与我们的宇宙完全不同,或者还有其他一些问题。 但事实证明,找到并不明显不是我们的宇宙的候选宇宙并不难。

但是,我们立即被计算不可约性所吞噬。 我们可以模拟几十亿步的候选宇宙。 但是我们不知道将要做什么 - 它是否会成长的像我们的宇宙一样,抑或是完全不同。

790/5000
如果只看一个宇宙一开始的微小片段,我们不会看到任何熟悉的东西,比如光子。 也无法据此构建任何形式的描述性理论或有效的物理学。 但从某种意义上来说,这个问题与我们在神经网络这样的系统中所遇到的问题奇特的的相似:计算正在进行,我们能否据此确定“概念路径”,从而建立一个我们可以理解的理论呢?

我们的宇宙在这个层面上完全不可被理解的,很长一段时间里,我们可能会处于一种奇怪的情况,就是我们可能觉得已经在计算宇宙中“发现了我们的宇宙” 但却又不太确定。

或许我们可以足够幸运到推断出一个有效的物理学,并且看到由我们发现的一些小程序最终复制了整个宇宙。 这将是科学界一个非凡的时刻。 但是它也立即会引发一系列新的问题 - 比如为什么是这个宇宙,而不是另一个呢?

盛载万亿灵魂的盒子

人类现在是以生物的形态存在。 但在将来,以纯数字计算形式再现我们大脑中的所有过程在技术上将成为可能。 只要这些进程代表“我们”,我们就可以在任何计算设施上“虚拟化”。 而在这种情况下,我们可以想象,一个文明的整个未来可能实际上是“万亿灵魂的盒子”。

在那个盒子里面,会进行各种各样的计算,代表所有那些和肉体脱体的灵魂的想法和经验。 这些计算将反映我们文明的丰富历史和所有发生在我们身上的事情。 但从某种程度上讲,他们也不会有什么特别之处。

这或许让人有些失望,但是计算等价原则告诉我们,最终这些计算并不会比其他各种系统中的计算复杂 - 即使是那些规则简单,或并未精心烹制文明历史的中计算。 是的,细节将反映所有的历史。 但是,从某种意义上说,不知道要找什么 - 或者要关心什么 - 人们就不能说出有什么特别的地方。(没有感情? 译者注)

那么对于“灵魂”本身呢? 通过看到他们达到某种目的,人们能够理解他们的行为吗? 在我们目前的存在的生物中,我们有各种各样的限制和特点,赋予我们目标和作用。 但是在虚拟化的“上传”形式中,大部分仅仅只是消失掉。

我想了很多关于在这种情况下“人”的目的和作用, 其实虚拟化形式的人与AI之间几乎没有区别。 令人失望的是,我们文明的未来可能是一些没有有躯体的灵魂为永远为其他灵魂玩“电子游戏“。

但是慢慢我意识到,把基于我们现在经验的目标的作用套用到未来的情况是不切实际的。 想象一下,与一千年前的人谈话,并试图解释未来的人们将每天走跑步机,或不断地向朋友发送照片? 重要的一点是的是这些活动在它周围的文化框架发展之前其实是没有意义的。

同样地,试图描述什么是有趣或什么是可解释的。 也依赖于整个概念路径网络的发展。

试想一下,从现在开始的100年以后的数学会是什么样子? 这依赖于我们现在还不知道的概念。 因此,如果我们试图想象未来的人类动机也依赖于哪些我们不知道的概念。 站在现今的角度,我们最好的描述可能就是那些没有灵魂的人只是“玩电子游戏”。但或许对他们来说,可能是一个通过倒退历史和文化发展步骤来解释的微妙动力结构。

顺便说一下,如果我们知道了物理学的基本理论,那么从某种意义上说,我们可以使虚拟化至少在原则上完成:我们可以为那些没有躯体的灵魂运行宇宙模拟。 当然,如果这就是将要发生的事情的话, 那也没有什么特别的理由来模拟我们所处特定的宇宙。 它也可以是计算世界中的任何宇宙。

正如我所提到的,即使在任何一个给定的宇宙中,人们也不会干完活着发现完所有的事情。 但我们至少可以想象一下,那些没有躯体的灵魂在某种程度上可能会厌倦于模拟我们的物理世界 - 而且可能会认为探索更广泛的计算领域对它而言更有意义(无论对他们来说意味着什么)。 如果这样的话, 从某种意义上说,人类的未来将是一种在新科学的背景下无限的发现之旅!

计算宇宙的经济学

远在我们思考无实体灵魂的问题之前,我们就得面对人类应该在一个越来越多的事情由AI完成的世界里应该做什么的问题。 从某种意义上说这并不是一个什么新鲜事:它只是技术和自动化长期发展的延伸。 但不知何故这次感觉却不太一样。

我认为原因在于从某种意义上说计算世界里有很多东西,而且很容易获得。 我们可以制造一些完成特定任务的自动化机器。 甚至也可以有一个通用计算机,可以编程来完成各种不同的任务。 但即使这种自动化扩展了我们所能做的事情,但我们在这个过程中还是要做一些工作的。

但是情况现在已经不一样了, 因为现在如果我们能够定义我们想要实现的目标的话,其余一切都将是自动的。 各种各样的计算,还有“思考”都可以完成, 因此这个主意是,即使没有人的推动就能发生。

乍一看,似乎有点不对。 我们怎么能得到所有的好处,而不用付出更多的努力呢? 这有点像问大自然如何 完成和维护所有事物的复杂性 - 当我们建造工艺品时,即使付出巨大的努力,结果也远没有那么复杂。 我想原因是因为深入到了计算宇宙。 对我们来说也是如此:通过深入到计算宇宙, 我们可以实现无限高级别的自动化。

如果我们看看当今世界的重要资源,其中很多还是要依靠实际的材料。 通常这些材料是从地球上开采的。 当然,有地理和地质偶然因素,决定着谁可以做,哪些地方可以开采。 最后还有一个限制(如果需求非常大的话)即材料数量。

但是当涉及到计算世界时,从某种意义上说,这是一种取之不尽,用之不竭的材料 - 任何人都能获取。当然关于如何“采矿”, 有技术问题,能做的技术里用那种做的好也是另外一个问题, 但是计算宇宙的最终资源是一个全球无限的资源。 没有稀缺,当然也就没有理由“昂贵”。(电费呢? 译者注)一个人必须明白,它就在那里,去利用它。

计算的思考之路
上个世纪最伟大的思想转变可能是转到计算性思维。 我经常说,如果从考古学到动物学, 或者任何一个“X”领域,那么到现在,或者即将会有一个叫做“计算X”的领域 - 这将是未来的领域的趋势。

我自己已经深深陷入到尝试实现这样的计算领域,特别是通过开发Wolfram语言。 但是我也对这个元问题很感兴趣:应该怎么抽象那些“抽象的计算思维”,比如解释给孩子们? Wolfram语言作为一个实用的工具当然是重要的。 但是概念,理论和基础呢?

这也就是“一种新的科学”出现的由来。因为它的核心是讨论计算中纯粹的抽象现象,不依赖于特定领域或者具体的应用。 这与初等数学有一点相似:教导和理解一些东西,只是为了介绍数学思想的观点,并不依赖于他们的具体应用。 这也是一种新科学的核心。 有一些是学习计算宇宙相关直觉性的东西,并引入计算思维的模式 - 完全不依赖于详细的应用。

人们可以把它看成是一种“预计算机科学”,或者说“预计算X”。在讨论具体的计算过程的细节之前,我们可以先研究在计算宇宙中发现的简单而纯粹的东西。

甚至在孩子们学习算术之前,他们完全有可能填写像元胞自动机着色书这样的东西,或者为自己或计算机执行一系列不同的简单程序。 它教什么呢? 它肯定会传授这样一个观点:对于事物可以有明确的规则或算法 - 如果遵循这些规则或算法,就可以创造出有用而有趣的结果。 而且这有助于像细胞自动机这样的系统产生明显的视觉模式,甚至可以在自然界找到示例(比如软体动物的壳)。

随着世界变得越来越可被计算 - 并且人工智能和深入计算宇宙来完成更多的事情,这些不仅在理解计算思维方面会有极高的价值,而且在探索计算宇宙时也会产生一种直觉, 即“一种新科学”的基础。

尚未解决的问题?

我花了十年时间编写“一门新科学”的目标就是尽可能回答关于计算宇宙中第一轮的“明显性问题”。 15年之后回首, 我依然认为做的很做对。 事实上即使今天当我想知道与计算宇宙有关的事情时,很有可能发现在我在本书的主要文本或笔记的某处已经说了一些关于它的东西了。

过去15年来最大的变化之一就是我逐渐开始更多地理解本书所描述的内容。 书中虽然也有很多具体的想法和发现。 但从长远来看,我认为最重要的是他们如何为现在可以理解和探索的一系列新事物提供实践和概念上的基础。

即使在计算宇宙的基础科学方面,人们仍然希望得到具体的结果。 例如,获得更多证据支持或反对计算等价原则及其适用范围。

与大多数科学的普适原理一样,计算等价原则的整个认知地位也有些复杂。 它是否就像是一个可以证明的数学定理? 或像是一个对于的宇宙来说是真的(或假的)自然法则? 还是说它就像一个定义,只是计算的一个概念 , 就像热力学的第二定律或自然选择的演化一样,它就是这些的一个混杂。(作者也说不清楚 :) 译者注)

但很重要的一点是很有可能通过具体的证据证明(或证伪)计算等价原则。 这个原则即: 即使是规则非常简单的系统也应该能够进行任意复杂的计算 - 特别是它们应该能够作为通用计算机。

实际上,本书的一个结果是,对于最简单的细胞自动机之一(规则110)来说也是如此。 书发表5年后,我决定悬赏证明另一个案例:可以想到的最简单的通用图灵机。 我很高兴在短短的几个月内就有人获取了这个奖励,这个图灵机被证明是普遍的,计算等价原则同时也就有了另外一个证据。

开发“NKS” 的应用还有很多工作要做。 有待建立各种系统的模型。 发现各种新的技术。 创造不同的艺术。 理解这些含义还有很多事情要做。

但重要的是不要忘记对计算宇宙的纯粹性的研究。 有一些应用需要探寻。 但也有一个值得追求的“纯数学”。 这就是计算宇宙:仅仅在抽象层面就有大量值得探究的东西。 事实上(正如本书的标题所暗示的),这就足以定义一种全新的科学:一种纯粹的计算宇宙科学。 而我认为这是“NKS”的开端,是”NKS“的核心成就,也是我最为之自豪的一点。

(译者注: 虽让有很多悬而未决的问题和无法确定结论, 但瑕不掩瑜, 跟着作者的直觉走, 得永生:grinning:)

2 Likes