Skip to content Skip to footer

O surgimento da IA geral super- humana não será um evento。 O avanço será Progressivo。

向通用人工智能的过渡将是渐进的,它存在于世界各地的所有设备和装置中。生物智能的出现花了数十亿年的时间,人类进化了数千万年。与Anthropic(Dario Amodei)和NVIDIA(Jensen Huang)的首席执行官所声称的相反,通用AI的崛起也可能需要几十年的时间,而不是几年。与此同时,人类将处于控制之中,根据我们的价值观指导人工智能的发展。

我相信它将从能够学习世界如何运作的系统开始,比如小动物。接下来,我们将拥有满足人类设定限制的目标驱动型机器。然后,我们将拥有能够计划和推理以满足这些目标的机器。他们需要吸收大量数据并辨别模式。在这个阶段,人工智能系统看起来几乎不聪明。事实上,我相信这个阶段已经被克服了。

image-20231231223902976

可以学习世界如何运作的系统,就像小动物一样。

  1. 接下来,人工智能系统将需要建立目标和参数来指导其行为。我们必须设定谨慎的界限,以确保它们保持一致和可控。在这个阶段,人工智能系统将大致与小型家畜一样智能。

image-20231231223923428

人工智能系统设定目标和参数来指导其行为。

  1. 然后,我们有了可以分层规划的机器——能够建立子目标和行动顺序。起初,这些机器几乎不会比老鼠或老鼠更聪明。因此,我们将扩大这些机器的规模,使其像狗或乌鸦一样聪明。预计它们将具有令人难以置信的多功能性,并且能够执行广泛的任务。

image-20231231223941982

能够分层规划的机器 - 建立子目标和行动顺序的能力。

  1. 在那之后,人工智能系统将能够根据我们人类设定的限制来计划和推理如何实现其目标。在这个阶段,我们可以预期它们会像灵长类动物一样聪明。他们将需要复杂的规划和解决问题的能力。在这一点上,他们将非常擅长通过满足我们设定的界限来实现目标。

image-20231231224001047

鉴于人类设定的限制,人工智能系统将能够计划和推理如何实现其目标

  1. 接下来,我们将调整这些智能的极限,使这些系统在扩展时可控且安全。之后,我们将在各种环境和任务中训练他们。然后,我们将根据我们希望它们执行的所有任务对它们进行微调。

image-20231231224026102

调整这些智能的边界,使这些系统在我们扩展时可控且安全。

  1. 在某个时候,我们会意识到我们构建的系统比我们在大多数领域更智能。这并不一定意味着这些系统将具有感知或“意识”(无论它的概念是什么)。但是,在执行我们为他们设定的任务方面,他们会比我们做得更好。他们将在我们的控制之下。

image-20231231224047658

我们构建的系统比我们在大多数领域都更智能。

我们总是高估未来两年将发生的变化,而低估未来十年将发生的变化。

随着人工智能变得越来越强大,我们将需要重新思考我们对在特定时间范围内可能或可能实现的目标的假设。我们总是高估未来两三年的潜在进展,因为我们没有考虑到仍然存在的许多困难挑战。

但我们系统性地低估了十年或二十年后的可能性,因为我们低估了该技术随时间推移的指数级扩展能力。

随着人工智能从具有小鼠智能的系统发展到犬类智能系统,并最终发展到灵长类动物,对社会的潜在风险和影响急剧增加。

image-20231231224109287

我们系统性地低估了十年或二十年后的可能性,因为我们低估了技术随时间推移的指数级扩展能力。

因此,在我们前进的过程中,我们还必须加强努力,使这些系统与我们的价值观保持一致,并确保它们保持仁慈。幸运的是,随着这些系统变得越来越智能,它们在帮助确保您/我们自己的安全方面也变得更好。