Page 537 - 2026年泸西县两会参阅
P. 537
程就更不可能容许外因介入，不容许更改步调和方向，不容许外力限定
自动进一步扩展，不容许重新调整走向和目标。”其结果则如赫拉利所示：
“计算机网络有可能并不会找出关于世界和人的真理和真相，反而会利用
它庞大的力量，创造出一套新的世界秩序，并逼迫人类接受。”概言之，
人工智能作为自动化机器的集大成者，它除了具有过去自动机器所不具
有的优点，更有机会形成前所未有的“自动化霸权”，即人不断被人工智
能汲取权力，直至把人排除在决策和行动之外。
追根溯源，“自动化”（automation）一词在 1611 年被提出时，原意
为“具有独立资格和单独行动（迁移）能力的自治人口”，其后却反转成“在
一定条件下牺牲自治换来自身运转能力的构造”。类似地，无论如今人工
智能所承诺的优势多么诱人，抑或宣称自己受到怎样的人类管控，它在
本质上无不以人的更少介入为条件。从这个意义来讲，所谓人工智能无
非是个试图将人排除在外的自动机器。反之，如果人对人工智能介入过
多，它就失去了自己的价值。然而，人并不是一堆可以任意编写而不付
出代价的代码，而是在一定的社会制度和历史条件下形成的或然存在，
更包括了难以被计算的传统、文化与常识。所以，一旦人工智能在人毫
无准备和警觉的前提下把人排除在诸多事务之外，它也将把某些人的“梦
想”变成所有人的“梦魇”。这一切就像某个人被突然拽上一辆无人驾驶的
汽车，他要么因为对其中的危险一无所知而沉迷其中，要么则因为在车
上无能为力而惊恐不已。
与人类历史上其他自动化技术有所不同的是，人工智能之所以能不
断汲取人的权力以形成前所未有的“霸权”，其关键在于数据、算法及其
129
