AI启示录：人类并没有真正的自我意识，人工智能领域的挑战有哪些？要不要学习人工智能呢？

本文转载自公众号“读芯术”(ID：AI_Discovery)

我曾为否定意识而失去了一些朋友。大多数正常人强烈坚持意识是真实且特殊的存在，并且被他们所拥有。但我认为，人们不仅没有证据证明它，而且人们所说的意识也可以解释为一种效果，不比“高山流水”的物理现象更特殊。

我不打算深入探讨非分离的形而上学，意识在一个层面上是主客体分离的整体性错觉的一个方面，本身就是虚幻的。如果已经意识到这一点，那你只会在心里点头;如果没有，那你永远也不可能被说服。这篇文章中，我将尽可能地在逻辑的范畴内保持“科学”的态度。

作为一名不仅在人工智能领域工作、还接受过心理训练的工程师，我不仅着迷于理解意识，也着迷于“人工”创造这一想法。当它最终出现时，我怀疑我们可能会承认机器意识或多或少地比我们人类表现得更为人工。

我不需要一路追溯到阿米巴变形虫的话题，也不需要强调这些单细胞机器的简单智能。我可以从类似蛞蝓的东西入手，说明带有面部识别软件的Facebook更智能，尽管有些人会认为这样不道德。

蛞蝓可以像其他生物一样，远离危险，向食物移动，而Facebook的机器智能可以识别并标记数十亿张脸。“鼻涕虫”的明显目标是生存下去，Facebook也是如此;这两个实体都利用智能为这个目标服务。

即使Facebook的智能由人类智能协调构成，但它显然是比蛞蝓更复杂、更精密的有机体系。据推测，Facebook的机器面部识别远比蛞蝓的探测触角更有能力区分周围环境的细微差别。

但如果了解它的工作原理，没有人会认真地认为这个面部识别软件是有意识的。从逻辑上讲，它只是一个盒子，能以惊人的准确性告诉你，你输入的图像是谁。从根本上来说，它和锁没有什么不同：如果你插入一把形状大致正确的钥匙，锁就会打开。

那么，为什么人类一边说自己有意识，一边又否认Facebook的面部识别算法有意识呢?我们之所以有意识，是因为我们不仅有区分事物的能力，还有识别第一种能力存在的能力。我可以说，我正在看电脑屏幕，确实有我们通常所说的体验，这会被解释为独立的东西(虚幻的我)从身体内部的某个地方目击视觉刺激。

与其直接下结论说肉体有灵魂或者“我是”这种独立的感觉，某种程度上是特殊，值得用神奇的“意识”概念来形容而不是用Occam剃刀原理(即“如无必要，勿增实体”)。鉴于机器智能方面的进展，我可以简单地推测，我们所谓的意识只是另一个稍微复杂一点的机制的枯燥输出。

我们可以从任何一个不太智能的系统开始，然后给它添加一种可以监视和检测明显智能行为的机制。该机制可以注意到整体系统似乎有自主性，就像比较简单的子系统可以识别一张特定的脸一样。在拥有了某种程度的复杂性和自我参照能力后，系统必然会宣称“我是”，并希望“你也是”。

“但它只是一台机器!”、“它并没有真正的意识。它没有权利，我们当然不能让它投票。”我们可能会说它甚至不像动物那样有“知觉”。

把这些机械化的奴隶从生产线上拿下来，然后问:“你有主观体验吗?”这是意识的必要条件。“当然有!”机器人会解释说，一滴油从它光滑的外表流下来。

我们还可以把话题转到这种启示带来的政治附带问题上。最高法院的法官们可能最终会对机器是否“有意识”以及它是否因此拥有权利做出判决。但在理解“意识”是什么或者它是如何产生的方面，我们没有任何进展。“机器人只是在说它有主观体验，”只是一个论点，但其实“它并没有真正的主观体验。

同样的论点也适用于人类。有看、有动、有说，所有这些物理性和信息性行为，都是一种内在的体验。但如果仔细研究，就会发现这一切都是在没有目击者的情况下发生的(并不是真正的内在或外在)。

目击者是推断出来的。有一个毋庸置疑的，假定证人，一个假定的主体，使一切看起来像物体。Occam剃刀原理会要求主观性的假设，见证自我的假设，而不是被假定为输出另一个模式的识别机制。机械生物没有理由不犯许多人类会犯的自我推断的错误。

我非常期待，当我们创造出越来越复杂的机器智能时，将不可避免地创造出其他的决定论系统，它们将幻化出分离、自我、自由意志、选择、意义和命运。它们会宣称自己有主观体验，而且没有逻辑上的理由相信他们没有主观体验。

这些机器会有“意识”吗?不会比人类的意识更多，也不比任何机制的意识更多，不管它是否足够复杂，是否可以错误地模式化识别主观立场。

我们会一直争论，“意识”是否存在以及“意识”可能是什么，就像我们对其他不可证伪的猜想一样。我们永远无法证明意识不存在，就像我们永远无法证明圣诞老人不存在一样。

人工智能领域的挑战包括开发系统，这些系统可以在一个应用程序中重新利用从一个应用程序中获得的学习，并且能够以无监督的方式学习，从而优秀地创建自己的训练数据。这将使这些系统进入最佳、自我导向的学习状态。

我猜测，在这些领域取得成功的核心将是抽象思维、自我反思和内省的能力。如果这些能力被非熟练地应用于人类，就会带来我们所说的意识。然而，当人们有效地运用这些能力时，我们就进入了一种高效却忘我的状态，我们称之为“流”。