人工智能:我们最后的发明

我们每个人的内心都有一个世界，被囚禁在你脑袋里一个西瓜大小的空间里。当你读到这些文字时，构成你现在的活动的噼啪声席卷了构成你的1000亿个神经元。脚趾间湿草的感觉;心爱之人微笑的双眸;大海的味道……一个潮湿、灰色、嗡嗡作响的细胞网络控制着你的世界。目前，人类大脑是已知宇宙中最复杂的结构——但这可能即将改变……

我写的第一个计算机程序每秒可以做100次数学运算。现在我的程序在相同的时间内执行2,000,000,000,000,000次相同的计算。这相当于一茶匙土壤和珠穆朗玛峰的重量之差。

尽管有这些惊人的进步，但基础技术，以及我们编程的方式，并没有从根本上改变。大多数程序仍然是一组精确的指令，告诉蚀刻在硅片上的计算机芯片该做什么。这与我们的思维方式非常不同，但其他计算方式更相似。

“无组织机器的典型例子如下。这台机器是由相当多的类似部件制成的。每个机器都有两个输入端子，并有一个输出端子，可以连接到其他机器的输入端子(0个或更多)……当机器的数量很大时，这种机器的行为会非常复杂。”

1947年，阿兰·图灵——智能机器

当神经科学家第一次详细观察大脑中处理感觉和思维的区域时，他们预计会看到一个巨大的复杂连接的意大利面。但他们发现了一些令人惊讶的东西:由80到100个神经元堆叠在一起的相同结构的无限重复。这些后来被称为“迷你柱”，其中1000万个构成了我们思想和记忆的基础。

图灵的“无组织机器”和我们大脑的工作方式之间的共同点是，复杂的行为是从大量简单事物的相互作用中产生的。每一片雪花都是对冰冻水分子的新特性的一种不同的认识。涌现是一个普遍的过程，在所有的自然科学和所有的尺度上都可以看到。在生物学中，我们可以在群居昆虫中最清楚地看到这一点:个体蚂蚁和蜜蜂相对愚蠢，似乎只是做自己的事;然而，通过它们之间的相互作用，它们的行为方式要复杂得多。没有哪只蚂蚁是单独控制蚁群的，但它们一起构建了庞大的隧道网络，其中包括托儿所和食物仓库。它们还能建造桥梁，照顾幼崽。蜜蜂建造有空调的蜂房，并对许多不同食物来源的确切位置有共同的记忆，有些甚至远在半公里之外。涌现将量子与宇宙联系起来，也是人类社会复杂性的基础。

就像蚁群的复杂行为源于蚂蚁之间的相互作用一样，每只蚂蚁也源于它的细胞之间的相互作用。换句话说，多重个体并存:细胞、蚂蚁和群体。你没有什么不同，而且，清醒地说，你的一切都是由你的细胞行为和相互作用的方式决定的;它们的一切都来自于它们所包含的网络。

你大脑中的细胞是每一个思想和记忆的结构——由与外界的联系形成。一个自我意识、自我建构的镜子，是外部现实的一小片——这就是你的世界和你所感知的一切。它进化了数百万年，帮助我们在大自然中生存和繁衍，以我们收集的食物为燃料。但目前还没有很好地适应。我们生活在一个与我们的祖先截然不同的世界里，我们的大脑已经被抛在后面，渴望一种更简单、更公共、更自然的生活。如果智力从面包和骨头的束缚中解放出来会怎样?它能创造出什么样的新世界?

自从图灵的洞见出现以来，计算科学家一直在尝试构建像我们一样思考和学习的系统——基于神经元行为和交流的简单抽象的计算机架构。直到最近，进展一直相对缓慢。但在过去的几年里，由于帮助这些网络学习的新方法、计算能力的提高和更大的数据集的结合，人工智能出现了戏剧性的加速。这个新的“深度学习”领域已经以可见和不可见的方式影响着我们的生活。最近，这些程序已经开始在许多任务上超越人类。他们比医生更擅长诊断某些疾病;它们可以更安全地驾驶汽车，可以比我们更好地识别图片中的物体，现在它们在“围棋”中击败了最好的人类棋手。围棋对计算机来说是一项很难的游戏，最乐观的人工智能专家曾预测，这一壮举至少还需要10年的时间。

然而，这仅仅是个开始。我们的大脑创造了这些程序，但当这些机器在设计自己时比我们做得更好，而不是在游戏中打败我们时，会发生什么?这被一些人称为“奇点”，它将很快带来比我们想象的更智能的机器。

1968年，阿瑟·C·克拉克(Arthur C . Clarke)有先见之明地预言:“一旦电子智能的边界被突破，就会出现一种连锁反应，因为机器将迅速改进自己……仅仅是智能的机器将很快让位于超智能的机器……”

但这并不是遥远的未来幻想。在过去的几个月里，机器算法在设计新算法方面已经超越了人类的能力，它们的能力正在迅速发展。新的计算基础，包括量子、DNA、化学反应网络等，正在开发中。从干细胞中培育出微小的人类大脑已经成为可能:神经元就像在活体组织中一样连接起来并发射。因此，第一个超人智能可能是一个洗澡的大脑。

这场新技术的完美风暴意味着，我们可能比许多人意识到的更接近这种一切的转变。它很可能在英国新HS2高铁项目的最后阶段之前到达。如果我们提前几十年规划我们的交通网络，难道我们不也应该为高级智能的到来做计划吗?这种智能将创造一个超出我们想象的新世界。

精心设计和强大的人工智能，设定友好的目标，可以让我们的世界变得更美好。通过适当的管理，我们可以支持目前全球人口的两倍，同时扭转对自然的破坏。我们都可以过上奢侈休闲的生活，有机器人仆人，免费的自动交通工具，有时间与彼此和我们的社区一起度过。我们的经济生产力将会飞速发展。通过更好地管理世界资源，目前的大多数担忧都将消失。我们可以解决世界饥饿问题，治愈所有疾病，拯救自然世界，开发新的能源技术，突破科学的极限，为人类和地球服务。

成功创造人工智能将是人类历史上最伟大的事件。不幸的是，这可能是最后一次……”

斯蒂芬·霍金

但也有黑暗的一面——自主武器系统和人工智能战争;全面监测和人口控制;犯罪分子和恐怖分子在互联网上逍遥法外，能够侵入任何系统，威胁人们和基础设施;或者是对人类心理有着超人般理解的恶意人工智能，它们在我们身后留下的电子数据云中搜寻，比我们更了解我们自己，并提供大规模操纵个人以实现其目标的能力。宣传的个性化将超越有针对性的“假新闻”故事。或者，它们可能会干扰人们的电子和社交网络，以比无人机发射的子弹微妙得多的方式摧毁他们的生活。他们的表现比任何股票经纪人或外汇交易商都要好，他们将慢慢地、渐进地控制一切。

在不久的将来，这些显然仍然是次人类的智能处于人类的控制之下，他们的议程是迫在眉睫的问题。但在未来，当人工智能比我们更聪明时，它们可能会摆脱我们的任何控制结构，变得完全自主。然后他们将成为我们所有人的主人。

“我不明白为什么有些人不担心。”

比尔盖茨

如果他们真的掌权了，我们对他们来说是什么?我们该如何对待自然界的“愚笨”动物?和大片的大自然一样，我们最亲近的动物——类人猿，也处于灭绝的边缘。如果我们把这些价值观灌输给我们的新智能，我们肯定会失败。

这个新世界正在到来。我们无法阻止它，但我们可以做好准备。我们可以制定全球规则，帮助我们利用这些技术的巨大潜力，减轻风险。决策者需要了解当前的进展，并对未来可能出现的情况作出评估。例如，我们可以制定法律，防止使用人工智能来操纵人类心理，禁止自主武器系统。我们可以制定人工智能透明度规则，这样我们就可以看到它们的目标，允许公众监督。我们有机会建立新的经济体系，将技术的成果重新分配给所有人，根据对社会和自然健康的贡献配备不同的收入模式，并配置以抵消这项技术将带来的大量失业。你自己的个人人工智能可以为你的利益游说。为了人类和自然世界的利益，我们需要开始考虑开发友好的人工智能技术来监管其他人工智能。我们需要创建一个全球性的架构，让人工智能的目标受到明智的人类监督。

如果做得好，对所有人来说都是巨大的好处:一个我们都希望生活在其中的繁荣的新世界，财富和生产力显著增加，每个人都更加平等、安全和舒适。我们将生活在一个重生的大自然中。但是，如果落入坏人之手，编码不当，管理不当，没有适当考虑到意想不到的后果，并带有夺取金融、政治和军事权力的目的，它们将摧毁我们所有人。

我们的法律和政府结构是否适合未来?掌权的人真的明白发生了什么吗?我们不能等到第一次灾难发生后才着手解决这个问题——这可能是我们的最后一次。一个残酷的反乌托邦并不是最坏的结果——地球上的生命正处于危险之中。我们都有责任帮助把明天的世界塑造得比今天更美丽、更公平、更自然。我们必须现在就开始。