AI革命：从“人在回路中”到“人在回路之上”

“人在回路中”（Human in the Loop），是人工智能与自动化领域中的核心准则，也是技术与人类共生的理想模式。

简单来说，它试图构建一种秩序：在自动化系统的运作过程中，人类通过干预、评估或反馈，与机器形成闭环，共同完成任务。这被视为一种理想的人机协作模式，旨在结合人类的直觉、判断力与机器的计算力，确保任务在可控范围内。

随着生成式 AI 的崛起，“人在回路中”的理念得到进一步强调。面对 AI 的幻觉问题及其在法律、金融、医疗等关键领域的渗透，人类的实时审查被视为防范技术失控的关键。然而，这一理念是否正在成为技术发展的阻力？

01 21世纪的“红旗法案”

马歇尔·麦克卢汉曾言：我们总是从后视镜里看未来。在 AI 这辆超级跑车上，我们是否正下意识踩下刹车？

历史上，《红旗法案》曾试图通过人为干预来规避蒸汽汽车的风险。规定所有公共道路上的自动动力车辆必须配备 3 名工作人员，其中一人手持红旗为车辆开路。这一法案虽然符合当时的社会实际，却限制了汽车的速度，导致英国汽车产业陷入停滞。

以今天的眼光看，《红旗法案》相当荒诞。但它暗含的“人必须是技术主宰”的执念，与“人在回路中”的理念不谋而合。这种执念是否正成为 AI 技术发展的阻力？

02 AI是这个时代的“钢铁”

Notion 创始人 Ivan Zhao 在其文章《蒸汽、钢铁与无限心智》中提到，每个时代都由其奇迹材料塑造。钢铁定义了工业时代，而 AI 正在成为这个时代的奇迹材料。

AI 的革命性在于其在执行、逻辑重构与自动化决策上的表现。如果坚持让 AI 循从人类的思维认知模式，其潜能将被锁死在人类想象力的天花板之下。

对于 AI 的意识研究，人类尚未厘清自身意识的本质。如果以未经验证的人类意识逻辑作为蓝本，我们可能永远无法见证超脱于人类认知模式的异质智慧的诞生。

03 从“在回路中”到“在回路之上”

从技术发展史的角度看，人的牵引是必要的。但面对 AI 这种革命性技术时，过度的微观控制可能成为阻碍。

真正的转变应该是从“人在回路中”转向“人在回路之上”。人类应该在一个合适的位置监督这些回路，而不是身处其中。人类真正的独特性在于定义目标、审视价值，以及进行关乎社会公平与道德伦理的元规则设计。

当面对 AI 这种超脱既有经验和认知的技术形式时，我们也需要一次思维的复兴。不要让想象和惯性限制 AI 的潜能。

陈天桥曾说，在旧结构上越是用力地叠加 AI，就越有可能是在给旧系统续命。真正的变革需要从基因层面进行重组。

AI 是我们时代的“奇迹材料”，它需要全新的结构设计而非控制和压抑，才能充分释放潜力。