人工智能发展史略：从“符号学派”到“Software 2.0”时代

在学习最新框架之余，我近期花了不少时间阅读人工智能的发展史。了解历史能让人更加敬畏当前的突破。Andrej Karpathy 在谈论神经网络时，提出了一个极具颠覆性的概念：**Software 2.0（软件 2.0）**。要理解这个概念，我们必须回顾 AI 的历史。 > “在 Software 1.0 时代，人类用 Python、C++ 等语言手工编写显式的指令序列。而在 Software 2.0 时代，代码是由神经网络的权重组成的。” —— Andrej Karpathy ### 符号主义学派的黄昏 最初，AI 的鼻祖们认为，只要把人类所有的知识和规则，用计算逻辑写进系统里（if-else 与符号逻辑），就能创造出人工智能。这就是统治了 AI 冬天之前的“符号主义学派”。著名的专家系统正是这一阶段的巅峰产物。这种依靠人类先验知识编写规则的模式，正是典型的 "Software 1.0"。 但现实世界充满了模糊的边界和无法穷尽的边缘情况，符号学派不仅遇到了理论瓶颈，在实际操作中，维护成千上万条 IF-ELSE 规则也变成了软件工程的灾难。

### 连接主义的逆袭与深度学习的爆发 真正的破局者是“连接主义”——受人脑神经元启发的神经网络架构。然而，深度神经网络在很长一段时间内因为缺乏算力和足够多的训练数据，一直被视为学术界的“非主流异端”。直到 2012 年，AlexNet 在 ImageNet 大赛中以碾压性的优势击败了传统基于特征工程的视觉算法，连接主义才正式宣告回归。 **为什么深度学习能彻底改变格局？** 按照 Karpathy "Software 2.0" 的理论，深度学习本质上是将“人类写代码”转变为“人类提供数据和优化目标，机器自己写代码”。在图像识别中，我们不再手工提取 SIFT 特征（写 Software 1.0 逻辑），而是向神经网络喂入几百万张带标签的图片，让反向传播算法（Backpropagation）和梯度下降在万亿规模的空间中，为我们“编译”出最优的连接权重。 目前各大厂商不遗余力地在硅片与服务器上投入，海量的算力正是 "Software 2.0" 时代的编译器。我们这个时代的工程师，正在逐渐从指令编写者，变成数据集整理者和模型架构的调优师。