Page 530 - 2026年泸西县两会参阅

法。与之不同，基于知识表示与推理的经典人工智能（专家系统）便不

是“黑箱”。由此可知，在生成式人工智能大火的今天，人们对人工智能

的“黑箱”指控其实指向了以深度学习为代表的机器学习。相应地，以深

度学习为例揭示人工智能何以构成“黑箱”，亦能为人们解蔽如此“黑箱化

应用”提供引玉之砖。

首先，从技术的角度来看，深度学习之所以被称为“黑箱”，原因在

于它所依赖的神经网络往往是由大量数值矩阵组合而成，而其中任何一

个矩阵都是普通人从直觉上无法理解的，甚至于即便利用复杂的工具，

专业人士也往往很难明白它的决策机理。同时，这类将人脑“黑箱”作为

算法起点的人工智能，它们对不确定性算法的部分学习将构成智能“黑箱”

的另一重不确定性，而这又会反过来削弱其自身的透明性和可理解性。

也正因为神经网络无法呈现出人能够理解的作用机制及其解释，所以，

基于深度学习的人工智能往往被视作“黑箱化应用”。其次，从人的角度

来看，深度学习之所以意味着“黑箱”，其因在于它拥有一套与人截然不

同的理解机制。通常而言，人习惯简化世界，以便自身理解；而深度学

习则代表了不必将世界简化为人能够理解的可能。辩证地看，立足简化

的理解方式固然满足了人追求熟悉、确定和秩序的偏好，但也因此丢掉

了由陌生、不确定以及混乱所构成的复杂创新。而基于深度学习的人工

智能则不然，它不仅可以从混乱、琐碎、海量的数据中发现那些“深不可

测”且“不为人知”的新知识，还驱动着“由归纳演绎向数据分析、由知识

理性向计算理性、由人类权威向机器代理的认知转型”。相应地，也正因

为基于深度学习的人工智能不是用人类熟悉且擅长的方式对这个世界作

122