科学的世界观
什么是生命
生命是一个能保持自身复杂性并能进行复制的过程。生命并不“复制”由原子组成的物质（不可能凭空创造物质），而是复制“能阐明原子排列方式”的信息（由比特组成）。例如，DNA的复制本质是将另一些原子排列成与原始DNA相同的形态，在此过程中得到复制的是“信息”而非物质。生命是一种能够自我复制的信息处理系统。
自地球上最早的生命诞生之后，出现了各种各样的生命形态，这源自生命复制时出现的随机性。由于环境资源有限，各种形态的生命无法全部得以存活，为了争夺资源，形成了竞争。竞争淘汰生存能力弱的生命，留下生存能力强的生命，于是存留下来的生命拥有越来越强的能力，这就是进化。生命因为自然选择进化出某种与环境共生的能力。这样的生命形态能够用感应部件收集关于环境的信息，然后对这些信息进行处理，以决定如何对环境做出回应。
最初级的生命形式由写死在基因中的固定程序来执行环境信息的收集，对信息的处理，以及做出的应对。让我们把这种形式的生命称为“生命1.0”。细菌就是“生命1.0”的一个例子。单个“生命1.0”的生命不会因为环境变化而调整其行为模式，但是会因为进化而调整其行为模式从而从结果上更适应环境。
“生命2.0”能够在单个生命周期内调整其行为模式以适应环境。能够做到这一点，源于这种形态的生命拥有“存储”与“计算”信息的能力。这种形态的生命的基因里编码了一个能够处理“一般问题”的通用模型，例如人的大脑。这意味着，生命2.0能达到的智能程度不局限于受精时DNA所传递的信息量。以人类为例，人脑中的突触存储着大约100TB的信息，而人类的DNA却只存储了大约1GB的信息。
人类通过语言表达信息，从而让知识代代相传。这使得现代人类脑中存储的信息量远高于原始人类存储的信息量。然而，现代人和原始人在身体构造上却并无差异。对于2.0形态的生命，身体层面的改变依然需要依靠进化。目前的人类尚不能随意拓展身体特征，例如，人类无法随意增加内存，无法提高单位时间计算能力，无法摆脱生殖本能。可以想象，更高级的生命形态——不妨称之为“生命3.0”——能够根据需求调整自身“硬件”设计，最终完全脱离进化的束缚。
kokomade
“数字乌托邦主义者”特有的观点。这个派别认为，数字生命是宇宙进化自然而然、令人期待的下一步，如果我们让数字智能自由地发展，而不是试着阻止或奴役它们，那么，几乎可以肯定地说，结果-定会是好的。
居然连人工智能研究者也无法就“什么是智能”达成一致意见!因此，关于智能，显然不存在一个无可辩驳的“正确”定义。相反，有许多不同的定义在互相竞争，“参战”的定义有逻辑能力、理解能力、计划能力、情感知识、自我意识、创造力、解决问题的能力和学习能力等。
智能(intelligence)：完成复杂目标的能力。
这个定义很广，足以涵盖前文提到的所有定义，因为理解力、自我意识、解决问题的能力、学习能力等都属于我们可能会遇到的复杂目标。
这种现象在物理学中被称为“费马原理(Fermat's principle)。这个原理是法国科学家皮埃尔·德·费马于1662年提出的，为预测光线路径提供了一种新的方法。值得注意的是，物理学家们后来发现，经典物理学中的所有定律都可以用类似的方式重新进行数学表述：大自然在可选择的所有方式中倾向于选择最优的方式，这种方式通常归结为将某些量最小化或最大化。
在描述每条物理定律时，有两种在数学上等价的方法：一是描述过去如何导致了未来，二是自然界对某些东西进行优化。虽然第二种方法通常不会在基础物理课上进行讲授，因为涉及的数学更难，但我觉得它更优雅，也更深刻。如果一个人试图将某些东西最优化，比如他们的比分、财富或快乐，我们自然而然地认为，他们的行为是以目标为导向的。所以，如果大自然本身也在试图优化某些东西，那么难怪会出现以目标为导向的现象：它从一开始就“硬连”在物理定律中了。
如果暂时忽略万有引力的影响，这种最大的混乱状态被称为“热寂”(heatdeath)。热寂是指万事万物都会扩散成一种无聊而又完美的均质状态，没有复杂性，没有生命，也没有任何变化。
当我第一次了解到我们会不可阻挡地奔向“热寂”状态时，感到非常沮丧。在这点上，我并不孤单，热力学先驱开尔文勋爵(Lord Kevin)在1841年写道：“结局必定是一种普遍静止和死亡的状态。”当你意识到大自然的长远目标是将死亡和破坏最大化时，你很难找到慰藉
首先，万有引力与其他所有力的表现不同，它力求实现的目标不是让我们的宇宙变得均质和无聊，而是使其更加复杂和有趣。正是引力将无聊乏味、完美均质的早期宇宙变成了今天这个充满了星系、恒星和行星的复杂而又美丽的世界。
耗散驱动适应性效应的意思是说，随机的粒子群会尽力进行自我组织，从而尽可能有效地从环境中提取能量，“耗散”意味着熵增，通常的方法是将有效能转化为热量，这个过程常伴随着有用功。譬如说，一堆暴露在阳光下的分子会随着时间的推移进行自我组织，以实现越来越有效地吸收阳光。换句话说，大自然似乎拥有“产生越来越复杂、越来越像生命的自我组织系统”的内在目标。这个目标被“硬连到了物理定律之中。
薛定谔(Erwin Schrödinger)1944年的著作《生命是什么》(What'sLife?)一书中找到答案。薛定谔指出，生命系统的一个标志就是，它通过提升周围环境的熵来保持或降低自己的熵。换句话说，热力学第二定律在生命面前有一个漏洞：虽然整体的熵必须增加，但它允许某些局部区域的熵减，只要它能让其他地方增加更多的熵即可。因此，生命让环境变得更加混乱，从而维持或增加自己的复杂度。
我们刚刚已经看到了目标导向行为是如何从物理定律中衍生出来的：物理学赋予了粒子对自我进行组织，从而尽可能高效地从环境中提取能量的目标
假如你从生命的起源阶段就开始静静地观察地球，可能就会发现目标导向行为曾发生过一个巨大的转变。在早期，粒子无一例外都在想尽办法增加平均的混乱程度但那些无处不在的新生命的自我复制模式却似乎拥有一个不同的目标：不是耗散而是复制。查尔斯·达尔文对此有一个优雅的解释：复制的效率越高，你就越能战胜和统治其他生物，因此不久之后，你会发现，所有生命似乎都为“复制”这个目标而高度优化了。
既然物理定律并没有改变，那生命的目标为何从耗散变成了复制呢?答案是，最根本的目标其实并没有变化，依然是耗散，但它带来了一个不同的“手段目标(instrumental goal)，也就是为了实现最终目标而需要达成的子目标。
举个例子--吃，我们似乎都拥有满足食欲的目标，但我们都知道，进化唯一的根本目标不是咀嚼食物，而是复制。这是因为进食有助于复制，因为如果饿死了，就失去了繁衍后代的机会。同样地，复制有助于实现耗散，因为一个充满生命的星球在能量耗散上会更高效。因此，从这个意义上说，我们的宇宙发明生命是为了更快地走向“热寂”。
如果你把糖倒在厨房的地板上，从本质上说，它能维持自身的有用化学能长达好几年，但如果出现了蚂蚁，它们会很快将这些能量耗散出去。同样，如果我们这种双足类的生命形式不将地壳中的石油开采出来并燃烧掉，那这些石油也会在漫长的岁月里保存自己的有用化学能。
在今天的地球居民中，这些手段目标似乎拥有了自己的生命：虽然进化优化的根本目标是复制，但许多人却花了更多时间在其他与繁殖后代无关的事情上，比如睡觉、寻找食物、盖房子、维护统治地位打架或者帮助他人，人们在这些事情上花的时间如此之多，有时候甚至因此而减少了复制。
一些经济学家曾经用“理性主体’
(rational agents)来模拟人类的行为。理性主体是一种理想化的决策制定者，它们永远选择那些对实现它们的目标而言最优的行为。但这个假设显然是不现实的。在实践中，这些主体拥有一种被诺贝尔获奖者兼人工智能先驱赫伯特·西蒙称之为“有限理性”(bounded rationality)的特质。之所以会这样，是因为它们的资源是有限的，它们做决策的理性程度受限于它们可获得的信息、可供思考的时间以及它们用来思考的硬件。
尽管达尔文式的进化会促使生命选择最优的方法去实现它的目标，但是，它最好的选择其实是，执行一个在它身处的受限环境中表现足够好的近似算法。进化实现最优复制的方法是，与其在每种情况下都问一遍哪种行为可以产生尽可能多的后代不如实施一种大杂烩式的探索方法，即选择那些通常可行的经验法则。对大多数动物来说，这就包括性冲动、渴了就喝水、饿了就吃东西以及远离那些难吃或者会造成疼痛的东西。
有时在一些意外情况下，这些经验法则可能会造成惨痛的失败，比如，老鼠吃下了尝起来很美味的鼠药，飞蛾被诱惑性的雌性香味吸引到了粘蝇板上，还有昆虫扑向蜡烛的火焰。由于今天的人类社会与进化优化我们的经验法则时的环境大相径庭，我们应该很容易想到，我们的行为常常无法将“生孩子”最大化。比如，“不被饿死”的子目标带来了对高热量食物的欲望，使得当今社会肥胖的人数激增，很难找到合适的约会对象。繁殖后代的子目标在执行时却变成了对性行为的欲望，而不是捐精或捐卵的欲望，但其实后者才能以最小的成本产生最多的后代。
总而言之，生物就是一个拥有有限理性的主体，它不止追求一个目标，而且还遵循着经验法则，趋利避害。我们人类将这些进化来的经验法则称为“感觉”，感觉常常在不知不觉中指导着我们的决策过程以实现复制的最终目标。
饥渴的感觉保护我们不被饿死和不出现脱水症状，痛感保护我们的身体不受伤害性欲促使我们繁殖，爱和怜悯的感觉让我们帮助携带有我们基因的其他人以及那些帮助他们的人，诸如此类。
在这些感觉的指引下，我们的大脑可以迅速且有效地决定下一步要做什么，而不用每次都对“能产生多少后代”做出冗长的分析。
当我们的感觉偶尔不利于“生孩子”时，并不是说发生了什么意外，也不是说我们被欺骗了，而是我们的大脑有时候会故意反叛基因及其繁殖目标，比如，选择避孕。“大脑反叛基因”还有一些更极端的例子，比如，选择自杀或者选择独身生活，成为神父、僧侣或修女。
为什么我们有时会选择反叛基因及其复制的目标呢?这是因为作为有限理性的主体，我们只忠于自己的感觉。
虽然大脑进化的目的是帮助我们复制基因，但大脑其实根本不在乎这个目标，因为我们对基因没有任何感觉。事实上，在人类大部分历史中，我们的祖先根本不知道基因的存在。此外，我们的大脑比基因聪明多了，现在我们已经理解了基因的目标，即复制，不过，我们认为这个目标陈腐不堪，经常忽略它。人们理解基因为什么让他们产生性欲，但并不想养育15个小孩，于是他们绕过基因编好的程序，选择避孕，这样依然能获得基因对亲密关系的情感奖赏。他们也可能意识到了基因为什么令他们渴望甜食，但却不想增重，于是也绕过基因编好的程序，选择饮用含有人造甜味剂的零卡路里饮料，这样依然能获得食用甜食的情绪奖赏。
虽然这种绕过奖赏机制的行为有时会出岔子，比如海洛因上瘾，但从目前来看，人类基因池依然保存得十分完好，尽管我们的大脑十分狡猾，又喜欢反叛。不过，我们必须记住，如今掌权的并不是我们的基因，而是我们的感觉。这意味着人类的行为并不一定有利于种族延续。事实上，由于我们的感觉只遵循经验法则，而经验法则并不是事事都恰到好处，因此，严格地说，人类的行为没有一个定义明确的单一目标。
“目的论”就是用目的而非原因来解释事物的一种方法。那么，我们可以总结说，本章前半部分的内容说明，我们的宇宙越来越符合目的论的解释。
从较弱的意义上说，非生命物质是可以拥有目标的。不仅如此，它的目标性正变得越来越强。如果你从地球形成之初就开始观察地球上的原子，可能会注意到目标导向行为的三个阶段：
第一阶段，所有物质似乎都在努力实现耗散的目标，即熵增;
第二阶段，其中一些物质拥有了生命，转而聚焦于子目标;
第三阶段，生物重新排列的物质越来o越多，以实现自己的目标。
即使不发生智能爆炸，很快，地球上大部分展现出目标导向性质的物质都会是设计出来的，而不是进化出来的。
所有进化而来的物体都有一个共同的目标，即复制，而设计出来的物体却可能拥有各种各样的目标，甚至拥有相反的目标。
设计产品还有一个历史趋势：它们的目标不仅变得越来越多样化，而且变得越来越复杂。
当我们建造机器来帮助我们时，可能很难保证它们的目标与我们的完全一致。
换句话说，通用人工智能带来的真正风险并不是它们的恶意，而是它们的能力。一个超级智能会非常善于完成它的目标，如果它的目标与我们的目标不一致，那我们就有麻烦了
想要知道人们真正想要什么，不能只听他们的一面之词，你还需要这个世界的详细模型，包括人们共有的许多偏好。这些偏好我们通常不会明说，因为我们认为它们是显而易见的，譬如说，我们不喜欢呕吐或吃金子。一旦有了世界的模型，我们就能通过观察人们的目标导向行为来搞明白他们想要什么，即便他们并没有明说。
人工智能允许你装载目标的时间窗口可能非常短暂：就是在它愚钝得无法理解你与它聪明到不让你得逞之间的短暂时期。
先来做一个简单的案例分析吧!这个机器人的唯一目标是从大灰狼嘴里救出尽可能多的羊。这听起来是一个高尚而利他的目标，似乎与“自我保护”和“获取资源”什么的八竿子打不着。但对我们这个机器人朋友来说，最佳的策略是什么呢?如果它踩上了炸弹，那它就再也拯救不了更多的羊，所以，它有动机避免引爆炸弹。换句话说，它发展出了一个自我保护的子目标。它还会展现出好奇心，探索环境来改进它的世界模型，因为，虽说它当前这条路最终会到达牧场，但还有一条更短的捷径能减少狼捕猎羊的时间。最后，如果机器人探索得足够彻底，它会发现获取资源的价值：药水会让它跑得更快，而枪可以用来射杀大灰狼。总而言之，我们不能认为“大男子主义”式的子目标，比如自我保护和获取资源是进化而来的生物才会有的东西，因为这个人工智能机器人也能从“保护绵羊”这个单一目标中发展出这些子目标。
如果你为一个超级智能赋予了“自我毁灭”的唯一目标，它当然不介意被关掉。然而，只要你赋予它任意一个需要保持运行才能完成的目标，它就会抵制关机，而这几乎涵盖了所有目标。比如，如果你赋予一个超级智能“尽可能降低对人类的伤的目标，它就会抵制关机，因为它知害”!道，如果没有它，人类会通过战争等蠢事来自相残杀。
同样地，如果拥有的资源更多，就能更好地完成几乎所有目标，所以我们应当预见到，无论一个超级智能的终极目标是什么，它一定想要更多的资源。将一个没有任何限制的开放式目标赋予一个超级智能是很危险的，比如，如果我们创造了一个目标是“尽可能好地下围棋”的超级智能，那么对它来说，最理性的选择就是将太阳系转变为一台巨大的计算机，而不顾居民的死活，然后为获取更多计算能力而向宇宙深度进发。我们现在已经回到了原点，正如“获取资源”的目标可以让某些人拥有“下围棋”的子目标一样，“下围棋”的目标也可能会带来“获取资源”的子目标。总而言之，这些涌现出来的子目标告诫我们，在解决目标一致性问题之前，不要把超级智能释放出来，除非我们花了足够多的精力确保它的目标是对人类友好的，否则，人类可能不会有什么好下场。
人类在成长过程中会经历显著的智力提升，但并不总是保留着童年时期的目标;相反，人类在学习新东西、变得更聪明的过程中，目标常常发生极大的改变。你认识几个成年人的目标是看《天线宝宝》呢?没有证据表明，这种“目标改变”的过程会在智力达到某一临界值后就会停止。事实上，有迹象表明，智力的提升甚至会让人的目标更容易受到新经验和新洞察的改变。
为什么会这样呢?想想上面提到的“建立更好的世界模型”的子目标，问题就出在这里。在改进世界模型和目标保持之间存在一个冲突(如图7-2所示)。智力的提升不仅能提高实现1目标的能力，还可能会改变你对现实本质的理解，这样，你可能会觉得过去的1日目标是误入歧途、毫无意义，甚至是不确定的。
譬如说，假设我们创造了一个友好的人工智能，它的目标是保证尽可能多的人死后灵魂会上天堂。首先，它会试着提升人类的同情心和去教堂的次数。但是后来，它可能对人类及人类意识产生了更全面的科学理解，最终它惊奇地发现，根本没有灵魂这回事!现在怎么办?同样地，我们赋予它的任何其他目标，比如“最大化人生的意义”，都是基于我们目前对世界的理解，而最后人工智能或许会发现，这些目标可能都是模棱两可、说不清楚的。
此外，当人工智能试着建立更好的世界模型时，它可能会很自然而然地(就像我们人类一样)试着去理解它自己是如何运转的，也就是自省(self-reflect)。一旦它建立起一个不错的自我模型，并理解了其运行的原理，可能会在一个更基本的层面理解我们赋予它的目标。之后，它或许会选择漠视或者破坏这些目标，就像人类理解了基因赋予我们的目标之后，选择用避孕等手段来故意破坏这些目标一样。
从目前来看，从零开始推导出共同伦理标准的尝试是失败的，但许多人都认同，一些伦理原则是从更基本的原则发展而来的，就像终极目标的子目标一样。譬如说，对真理的追求可以看作是对图7-2中“更好的世界模型”的追求，理解现实的终极本质有助于实现其他伦理目标。事实上，我们对真理的追求已经有一个相当精妙的框架，这就是科学理论。但我们如何才能确定什么是美和善呢?比如，我们对男性美和女性美的标准可能只是反映了我们潜意识里对复制基因的评价。
这么多年来，我读过也听说过很多思想家的伦理观点，这些观点都十分迷人。我认为，大多数人的观点都可以归入以下4个尔列
功利主义：积极的意识体验应当被最大化，而痛苦应当被最小化;
多样化：多样化的积极体验比重复单一的积极体验更好，即使后者被认为是所有可能性中最积极的体验;
自主性：有意识的实体/社会应当拥有追寻自己目标的自由，除非与某些重要原则相违背;
遗产：符合当今大多数人认为幸福的月情景。
我为功利主义下的定义不是以人或东西作为主体，而是以“体验”作为主体，因为大多数思想家都同意，美丽、幸福、愉悦、痛苦等都是主观体验。这也意味着如果没有体验，就像在一个死亡的宇宙中，或者一个被无意识僵尸机器占领的宇宙中一样，也就不存在意义和其他任何值得伦理讨论的东西。
遗产原则的基本思想是，我们必须对未来负有责任，因为我们正在创造未来。
如果我们可以把宇宙138亿年的历史快放一遍，就能目睹“目标导向行为”的一些不同阶段：
物质似乎一心一意地聚焦在将“耗0散”最大化上;
原始生命似乎试图将它的“复制”最。大化;
人类追求的目标不是复制，而是一些与愉悦、好奇、怜悯等感觉相关的目标。人类进化出这些感觉的目的是促进复制;
人类建造机器来帮助他们追求自己的目标。
正交性论点是赋权的，因为它告诉我们，宇宙的终极目标不是事先注定好的，我们有自由和力量去塑造。它认为，趋近于同一个特殊目标并不会发生在未来，而是已经发生在过去--正是在生命进化出“复制”这个单一目标时。随着宇宙时间的流逝，日益聪明的智能得以有机会反抗和摆脱“复制”这个平庸的目标，并选择自己的目标。从这个意义上讲，我们人类还没有达到完全的自由，因为我们追寻的许多目标都是被基因“硬连”到我们身上的，但人工智能却可以享受这种不受预定目标限制的终极自由。
或许，这种不受进化偏差影响的自由度能使人工智能在某种深层次上比人类更为道德。彼得·辛格(Peter Singer)等伦理哲学家就认为，许多人表现出不道德的行为，例如歧视非人类的动物，都是出于某些进化的原因。
抛开量子效应，一个真正定义明确的目标应该要告诉我们，在时间长河的尽头，宇宙中所有的粒子应该如何排列。但目前我们还不清楚物理学中是否存在明确的时间终点。
我们人类之所以会产生偏好，唯一的原因是，我们自身就是一个进化优化函数的解。因此，我们人类语言中所有的评价性词语，如美味、芳香、美丽、舒服、有趣、性感、有意义、幸福和善良等，其根源都可以追溯到进化优化过程。因此，我们无法保证超级智能会认为它们的定义很严格。
意识=主观体验(subjectiveexperience )
正如尤瓦尔·赫拉利(YuvalHarari)在他的《未来简史》一书中所说：“如果有任何科学家想要争辩说主观体验是无关紧要的，那留给他们的挑战就是，如何在不提主观体验的情况下解释酷刑和强奸是错误的。”如果不提主观体验，人只是一堆根据物理定律移动的基本粒子而已，那犯罪能有什么错呢?
查尔默斯强调，心智有两个奥秘。第一个奥秘是大脑对信息的处理，这就是所谓的“简单问题”。例如，大脑如何注意、解释和回应感官输入的信息?它如何用语言来报告其内部状态?虽然这些问题确实非常困难，但从我们的定义出发，它们并不是意识的奥秘，而是智能的奥秘，因为它们问的是大脑如何记忆、计算和学习。此外，我们在本书的第一部分已经看到，人工智能研究者已经开始用机器来解决许多“简单问题”，并取得了重大进展--从下围棋，到驾驶汽车，再到图像分析和自然语言处理等。
另一个奥秘就是，人类为什么会拥有主观体验。这就是查尔默斯所说的“困难问题”。当你开车的时候，你会体验到色彩、声音、情绪和自我感。但是，你为什么会经历这些体验呢?一辆无人驾驶汽车有体验吗?如果你正与一辆无人驾驶汽车比赛，你们都是从传感器或感觉器官获得输入信息，然后处理信息并输出运动命令。但从逻辑上来说，驾驶的主观感觉却是另一回事，这种体验是可有可无的吗?如果是的话，是什么原因造成的?
从物理学的角度来思考这个意识的“困难问题”。从物理学的角度来看，有意识的人只不过是经过了重新排列的食物粒子而己。那为什么同样的粒子，有些排列就有意识，而有些排列却没有意识呢?此外，物理学教导我们，食物只不过是大量的夸克和电子以一定的方式排列而成。那么哪些排列是有意识的，哪些没有
粒子的某些排列确实感受到了意识，而其他排列却没有。譬如说，你知道自己脑中的粒子当下正处于有意识的排列状态中但当你处于无梦的睡眠状态时却不处于有意识的状态。
第一个难题是，到底是什么性质让不同的粒子排列产生不同的结果?具体来说，是哪些物理特性将有意识系统和无意识系统区分开的?如果我们能够回答这个问题那么我们就可以搞清楚哪些人工智能系统是有意识的。
如果我们能够回答这个问题，那么我们就可以搞清楚哪些人工智能系统是有意识的。在不久的将来，它还可以帮助急诊室医生确定哪些无反应的患者是有意识的。
第二个难题是，物理性质如何决定体验是什么样的?具体来说，是什么决定了感质?感质是意识的基本构成要素，比如玫瑰的绯红、铜钹的声响、牛排的香味、橘子的口感或针刺的微痛。
第三个难题是，为什么会出现有意识的东西?换句话说，为什么一团物质会产生意识，对这个问题有没有什么尚未发现的深层次的解释?或者说，世界就是这样运行的，这是一种无法解释的蛮横事实?
有证据表明，每秒从人的感觉器官进入。大脑的信息大约为107比特，其中只有很小的一部分可以被我们意识到，估计只有10~50比特。这表明，有意识的信息处理过程只是大脑的冰山一角。
生理学家本杰明·李贝特(BenjaminLibet)开创了一种著名的NCC实验。这种实验表明，你无意识进行的行为不仅限于快速反应，例如眨眼和打乒乓球，还包括某些看似自由意志的决定，比如，利用大脑测量技术，有时可以在你意识到你的决定之前就预测出你的决定
当年，科学家们之所以开始认真对待牛顿的方有引力理论，是因为他们从中得到的信息多于他们的付出：一张餐巾纸就能写口以庄欢饮测有引力实验的结果。因此，他们也开始认真对待它的预测，包括一些不能用实验来验证的预测，而这些大胆的推测甚至适用于数百万光年规模上的星系运动。然而这个理论在预测水星围绕太阳的运动时出现了一点细微的偏差。于是，科学家们开始认真对待爱因斯坦改良过的万有引力理论--广义相对论，因为它似乎更加优雅，也更经济，还能在牛顿引力理论出错时做出准确的预测。因此，科学家也开始认真对待相对论的预测，包括一些不能用实验来验证的预测，比如黑洞、荡漾在时空结构中的引力波以及宇宙起源(即宇宙是从一个灼热的点膨胀而来)，所有的这些预测后来都得到了实验的验证。
同样地，如果一张餐巾纸就能写得下的意识数学理论可以准确地预测大脑实验的结果，那么，我们就会认真对待这个理论本身以及它对意识所做出的预测
意识这么复杂的东西，怎么会是由粒子这样简单的东西组成的呢?我认为这是因为意识拥有一些高于和超越粒子性质的性质。在物理学里，我们称这种现象为“涌现”(emergent)。为了理解这一点，让我们先来看一个简单的涌现现象--湿润(wetness)。
因此，固体、液体和气体均是涌现的现象：它们的整体远大于各部分之和，因为它们都拥有一些高于和超越其组成粒子性质的性质。当粒子组合在一起之后，它们就拥有了一些单个分子所不具备的性质。
意识可不可以用类似的数值来量化呢?意大利神经科学家朱利奥·托诺尼就提出了一个这样的值--所谓的“信息整合度(Integrated Information)，用希腊字母Ф(Phi)来表示。它度量的是系统不同部分之间彼此“了解”的程度
托诺尼也发明了迄今为止最为精确的意识数学理论--“信息整合理论(Integrated Information Theory，简称IIT)。
数十年来我一直认为，意识是信息以某些复杂的方式进行处理时产生的感觉。信息整合理论证明了这一观点，并将模棱两可的短语--“某些复杂的方式”替换为一个更精确的定义：信息处理过程需要整合，即，Ф要足够大。
一个系统要产生意识，就必须整合成一个统一的整体，因为假如它由两个独立的部分组成，那感觉起来就会是两个单独的意识，而不是一个统一的意识。换句话说不管是在大脑还是计算机中，如果一个有意识的部分不能与其他部分进行交流，那么其他部分就不能成为它主观体验的一部分。
马格勒斯和托福利生造了“计算质”这个词，即用来描述能执行任意计算过程的物质。我也想生造一个词叫作“意识质(sentronium)，用来描述拥有主观体验，也就是拥有意识的最一般的物质
既然意识是一种物理现象，为何它感觉起来如此“非物质”呢?为什么它感觉起来像是独立于物质层面而存在的呢?我认为原因是，它确实是相当独立于物质层面而存在的，因为它只是物质中的一种模式!
我们已经看到了许多独立于物质层面存在的漂亮例子，比如波、记忆和计算。我们也看到了它们并不只是各个部分的简单加总，而是出现了独立于其组成构件的涌现现象，仿佛拥有自己的生命一样。譬如说，未来的模拟智能或电脑游戏角色可能不知道自己是运行在Windows、MacOS、安卓手机，还是别的什么操作系统上，因为它是独立于这些物质层面的。它也无法得知自己所栖身的计算机的逻辑门是由晶体管、光学电路，还是别的什么硬件实现的。甚至于，它们所依赖的基本物理定律是什么也无关紧要，只要这些定律允许通用计算机的存在即可。
它的性质是独立于它的物质层面而存在的。这在逻辑上也符合“意识即信息”的思想
假如意识就是信息进行某些处理时的感觉，那它一定是独立于物质层面的;物质自身的结构并不重要，重要的是信息处理过程的结构。换句话说，意识具备双重“物质层面的独立性”
物理学描述了粒子在时空中移动的模式。如果粒子的排列遵循一定的原则，就会产生独立于粒子层面的涌现现象，并产生完全不同的感觉。计算质中的信息处理过程就是一个很好的例子。但我们现在已经把这个想法上升到了另一个层面：如果信息处理本身也服从某些原则，就会产生一个更高层次的涌现现象，也就是我们称之为“意识”的现象。
信息原则：一个有意识的系统拥有充足的信息存储能力
动态原则：一个有意识的系统拥有充足的信息处理能力
独立原则：一个有意识的系统与世界的其他部分之间拥有充分的独立性
整合原则：一个有意识的系统不可能由独立的各部分组成
01
当今时代，身为人类，到底意味着什么？比如，哪些备受珍视的自我价值决定了我们与其他生命形态和机器是截然不同的？在我们身上，哪些备受珍视的价值让我们获得了工作机会？无论我们何回回答，这些答案一定会随着技术的进步而逐渐发生改变。
以我自己为例。作为一位科学家，我很自豪，因为我可以设定自己的目标，可以使用创造力和直觉来解决许多尚未解决的问题，还可以用语言来分享我的发现。很幸运的是，社会愿意为我所做的事情付钱，我可以拥有一份工作。如果出生在几百年前，那我很可能会和其他许多人一样，成为一个农民或手工业者，但技术进步已极大地降低了这些职业在就业市场中所占的比例。这意味着当今社会，不太可能所有人都从事农耕和手工业。
对我个人来说，虽然今天的机器在农耕和编织这些手工艺上胜过了我，但这并不会对我产生一丝一毫的困扰，因为这些既不是我的兴趣所在，也不是我的收入或个人价值的来源。但是，随着科技的不断进步，人工智能的崛起会不会侵蚀我现在的自我价值和就业价值所根植的那些能力呢？斯图尔特·罗素告诉我，他和许多研究人工智能的同僚最近经常被人工智能惊讶到，因为他们看见人工智能完成了许多他们期盼多年的事情。怀着同样的心情，请允许我向你们介绍自己的惊讶时刻，以及我为什么把它们视为人类能力即将被超越的预兆。
02
工作带给人们的不只是金钱。伏尔泰在1759年写道：“工作驱扫了人类的三种邪恶根源：无聊、不道德行为和贪婪。”同样地，给人们发放收入并不足以保证他们就能活得很好。在金钱之外，工作还给我们带来了哪些有价值的东西呢？如果工作消失了，社会又将如何弥补？
这些问题的答案十分复杂，因为有人讨厌工作，也有人热爱工作。此外，许多孩子、学生和家庭主妇也没有工作，但他们照样生活得不亦乐乎。同时，历史上充满了各种被宠坏的王公贵族因无聊和抑郁而精神崩溃的故事。2012年，一项综合了多个研究的分析表明，失业会对幸福造成长期的负面影响，而退休则利弊兼有。正在发展的积极心理学研究发现了一些能促进人们幸福感和目标感的因素，并发现一些工作能提供许多这样的因素，比如：
- 朋友和同事的社交网络；
- 健康和善良的生活方式；
- 尊敬，自尊，自我效能，还要有一种叫作“心流”的心理状态，也就是在做自己擅长的事情时获得的愉悦感；
- 被别人需要和与众不同的感觉；
- 当你感觉自己属于和服务于某些比个人更宏大的事物时，所获得的意义感。
这为职业乐观主义者提供了理由，因为所有这些因素都可以在工作之外获得，比如，通过运动和兴趣爱好获得，还可以通过与家人、朋友、团队、俱乐部、社区团体、同学、人道主义组织和其他组织相处而获得。因此，为了创造出一个繁荣昌盛而不是自我毁灭的低就业社会，我们必须搞明白，如何才能促进这些产生幸福感的活动的发展。这个问题的解决不仅需要科学家和经济学家的努力，还需要心理学家、社会学家和教育者的参与。只要我们认真对待为全人类创造幸福的项目（项目的部分资金可能来源于未来人工智能创造出来的财富），那么，社会肯定能变得前所未有的繁荣，至少应当让每个人都像获得了梦寐以求的工作那样快乐。只要你打破了“每个人的活动都必须创造收入”这个束缚，那未来就有无限的可能。
天哪。只要最底层都可以用最小作用量原理解释，那我们就可以放心地说：宇宙就是目的性的。其余的（熵增，生命的目的，这些都只是涌现，优化的子目标）。量子力学的探索问题，我相信总有一天会得到解释，到那时候，只要最小作用量原理的通用性没有被推翻，我们依然可以说宇宙本身就是一个面向目的的趋向。我感觉我世界观又刷新了
我觉得这是一种极其现代的世界观，是我以前从未接触到过的。过去我总徘徊于古典的世界，看尼采探讨超人，看黑塞探讨追寻自我，看萨特探讨自由，看海德格尔讨论诗意。或许在他们那个年代，他们的观点也足够新颖，捕捉了很多实在的东西。可是或许那只是精神世界的冰山一角。他们总是倾向于把灵魂独立于肉体，把意识独立于存在。他们把自由看得如此高尚，总是带有一种宗教色彩。他们的认知未能将精确的数学和十几年来最新的人类经验贯穿其中，所以他们不足以看到最宏观最现代的视角。可我此刻感觉这套观点是如此自洽，如此正确。
我一向认为人文主义是这个时代最重要的东西，也是最容易被现代遗忘的东西。我觉得关于人文主义在这个时代的重要性和必要性，说不定在这个时代没人能准确回答。当我们能够越来越精确的解释生命和意识之后，“人”真的还重要吗？“诗意”真的还重要吗？是牺牲我作为人的体验来为未来的人加速创建一套精确的世界模型以使得从此他们可以高枕无忧，还是抛下自己对未来的责任而享受我作为生命2.0的人的自由和短暂幸福呢？
诗意是关于“体验”的高保真压缩。“落霞与孤鹜齐飞”在物理学上只是描述了光子散射和生物迁徙，但却给一代又一代人留下了永恒的美的印象。
尼采《查拉图斯特拉如是说》
人是联结在动物与超人之间的一根绳索——悬在深渊上的绳索,
走过去是危险的，在半当中是危险的，回头看是危险的，战栗而停步是危险的。
人之所以伟大，乃在于他是桥梁而不是目的：人之所以可爱，乃在于他是过渡和没落。
我爱那些不知道怎样生活的人，他们只知道做个没落的人，因为他们是向彼处过渡者。
我爱那些大大的蔑视者，因为他们是大大的尊敬者，是向往彼岸的憧憬之箭。
我爱那样一种人，他们不向星空的那边寻求没落和牺牲的理由，他们只向大地献身，让大地将来属于超人。
我爱那样一种人，他为了求认识而生活，他想认识有一天超人会出现。因此他情愿自己没落。
我爱那样一种人，他干活、动脑筋，是为了给超人建住房，为了给超人准备大地、动物和植物：因此他情愿自己没落。
我爱那样一种人，他爱自己的道德：因为道德就是甘于没落的意志，一支憧憬之箭。
我爱那样一种人，他不为自己保留一滴精神，而想要完全成为自己的道德之精神：因此他作为精神之灵走过桥去。
我爱那样一种人，他把自己的道德变为自己的偏爱和自己的宿命：因此他甘愿为自己的道德生存或死灭。
我爱那样一种人，他不愿具有太多的道德。一个道德胜于两个道德，因为一个道德是扣住命运的更牢固的结。
我爱那样一种人，他的灵魂很慷慨大方，他不要人感谢，也不给人报答：因为他总是赠予而不想为自己保留。
我爱那样一种人，他为掷色子赌赢而感到羞愧，并且自问是不是作弊的赌徒？——因为他自甘灭亡。
我爱那样一种人，他在行动之前先抛出金言，他所履行的，总超过他所许诺的：因为他自愿没落
我爱那样一种人，他肯定未来的人们，拯救过去的人们：因为他甘愿因现在的人们而灭亡。
我爱那样一种人，他因为爱他的神而惩罚他的神：因为他必须干神怒而灭亡。
我爱那样一种人，他的灵魂虽受伤而不失其深，他能因小小的体验而死灭：因此他就乐愿过桥。
我爱那样一种人，他的灵魂过于充实，因此忘却自己，而且万物都备于他一身：因此一切事物都成为他的没落的机缘。
我爱那样一种人，他有自由的精神和自由的心情：因此他的头脑就不过是他的心情的脏腑，而他的心情却驱使他没落。
我爱那样一种人，他们全像沉重的雨点，从高悬在世人上空的乌云里一滴一滴落下来：他们宣告闪电的到来，而作为宣告者灭亡。
瞧啊，我是闪电的宣告者，从云中落下的一滴沉重的雨点：而这个闪电就叫做超人。
你说未来的生命可以创造更强的感受质。没错，它们可能拥有某种“比高潮强烈一万倍的快乐”或“比初恋深刻一亿倍的感动”。
但是，它们永远无法体验**“作为一种有限的、必死的、充满缺陷的碳基生物，在浩瀚宇宙中仰望星空时感受到的那种悲怆的孤独”**。
这种体验，是生命2.0的特供版。 这种带着缺陷的美感，这种“知其不可为而为之”的西西弗斯式的悲剧感，是属于我们这个物种的独特签名。
未来的人可能会极度羡慕我们。因为它们太完美了，全知全能往往意味着无聊。它们可能会像我们去博物馆看破碎的陶器一样，回溯我们的记忆数据，惊叹道： “天哪，看看这些古人。他们不知道未来会怎样，他们充满了恐惧，身体如此脆弱，但他们居然还在相爱，还在写诗，还在思考宇宙的意义。这种不确定性中的勇气，是我们这些全知者永远无法拥有的。”
万物皆有裂痕，那是光照进来的地方。
可是说不定未来的生命可以直接创造一个不完美的小宇宙然后在其中获得体验。说不定我们的宇宙就是某个更高级文明创造的体验，哈哈哈。不过这样又绕回来肯定了不完美的价值了。（神可能想玩一个模拟游戏。我们就好像游戏里的人想要摸清模拟程序的设定，认为他们是神圣的真理。而只是高等级的生命创造了这些设定。）
参考资料
[1] 《生命3.0》迈克斯·泰格马克