AI时代：从“人在回路中”到“人在回路之上”

“人在回路中”（Human in the Loop），是当今人工智能与自动化领域最具代表性且无可争议的准则。

简而言之，它旨在构建一种秩序：在自动化系统的运行过程中，人类通过干预、评估或反馈，与机器形成闭环，共同完成任务。

这种理想的人机共处模式，主张将人类的直觉、判断力与机器的计算力相结合，从而在机器出错或遇到无法处理的复杂情况时，人类能够迅速介入，确保局面始终可控。

随着生成式AI的崛起，“人在回路中”的理念被推向新的高度。面对AI难以根除的幻觉问题及其在法律、金融、医疗等关键领域的渗透，人类的实时审查被视为防范技术失控的最后一道屏障。这一理念几乎成为人机关系中近乎“神圣”的道德准则。

近年来，人工智能对齐（Alignment）理念的流行，本质上也是这一理念的延伸。它隐含着一种思维方式，即人必须成为技术的主宰，在关键时刻做出判断。

然而，本文并非复述这些共识，而是试图从这一理念的反面思考其存在的合理性。换一个视角，从技术演进的长周期来看，这种控制的执念，是否正演变成一种技术发展的阻力？

01 21世纪的“红旗法案”

马歇尔·麦克卢汉曾说：我们总是从后视镜里看未来。在AI的超级跑车上，下意识地踩下刹车可能正是“人在回路中”的体现。

历史上，《红旗法案》的尴尬处境与今日不谋而合。

19世纪英国为了规避蒸汽汽车的风险并安抚公众，颁布了一系列交通法令，即1865年的《道路机车法》。

为何称为“红旗法案”？因为该法案规定，所有在公共道路上行驶的自动动力车辆必须配备3名工作人员。其中一人需在车前60码（约55米）处步行，白天持红旗，夜晚持红色提灯，为车辆开路并警示行人和马车。

以今天的眼光看，这个法案相当荒诞，强行将汽车速度降至步行水平。但在当时，这是经过深思熟虑的精英共识，既保护了马车夫的利益，也安抚了公众对钢铁怪物的恐惧。

然而，结果却是灾难性的。当德国和法国的内燃机汽车技术突飞猛进时，英国的汽车产业仍“跟着旗子走”，陷入三十年的停滞期，技术研发和市场普及远远落后。

直到1896年，在民众的长期抗议下，英国才取消了红旗法案。

如今，《红旗法案》常被作为反例批判技术进步的阻碍。但我们未察觉，《红旗法案》的幽灵依然漂浮在21世纪20年代。“人在回路中”，何尝不是一种新形式的“红旗法案”？

二者都隐含着一种隐秘的倾向：人既然是技术的发明者，那么人必须也是技术的主宰者。没有人的控制和牵引，很难保证技术发展不会失速或偏离轨道。这是一种基于人类安全本能的防御。

但我们可能忘了，所谓速度，本就是人以自我肉身经验所定义；轨道也是人所构建和架设。它们都是基于旧物种经验的定义，却在限制新技术的潜能。

类似例子在围棋领域可见。人类棋手在千百年间积累了无数精妙的手筋和定势，但这些被视为围棋真理的战术在AI面前如同儿戏。AI看似“非人”的着法，往往是全局最优解。你用人类知识去框定它，其实是在限制它。

02 AI是这个时代的“钢铁”

Notion创始人Ivan Zhao在其最新文章《蒸汽、钢铁与无限心智》中提到一个观点：每个时代都由其奇迹材料（miracle material）所塑造。例如，钢铁定义了工业时代，半导体定义了信息时代。

奇迹材料的意义在于人类能够借助它构建超越所属时代的东西。

钢铁普及前，建筑受限于砖石的承重能力，六七层便是极限。铁虽坚固但脆弱且沉重。一旦增加楼层结构就会在自身重量下塌陷。而钢铁改变了这一切使摩天大楼拔地而起现代化城市成为可能。

AI就是这个时代的钢铁。

AI的真正革命性在于其在执行、逻辑重构与自动化决策上的表现。这是它真正有别于以往任何工具的特性所在。如果坚持让它循从人类的思维认知模式坚持让有限的人类经验作为每一道工序的终审那么AI的潜能将永远被锁死在人类想象力的天花板之下。

以人工智能的意识研究为例人类甚至还没有厘清自身意识的本质。如果坚持以人类那套未被证明的意识逻辑作为蓝本去框定AI那我们可能永远无法见证那种超脱于人类认知模式的异质智慧的诞生。

对于麦克卢汉那句有关“后视镜”的著名论断我们可以这样理解：我们总是习惯用旧世界的地图来寻找新大陆。所以今天的AI聊天机器人仍然困在搜索引擎式的对话框里就如同让旗手在机车前清理道路。

但用旧地图寻找新大陆往往意味着一场悲壮的远征。日本政府当年第五代计算机计划的失败正是试图用僵化的逻辑规则来实现人工智能。这种对“回路”的执着直接宣告了第二次人工智能寒冬的到来。

03 从“在回路中”到“在回路之上”

从技术发展史的角度看人的牵引确实是必要的。但面对AI这种革命性技术时过度的微观控制可能会成为阻碍本身。

这种控制并非仅体现为限制性规则而是一种旧的视角和思维来面对新的技术形式。表面上看是为了规避风险实则像是用管理马车的方式去管理星际飞船。

这并非主张让AI完全脱离控制这既不现实也不负责任。弗兰肯斯坦的意象始终警示着人类：当创造物脱离控制异化的风险随之而来。

但真正的转变应该是从“人在回路中”（Human in the Loop）转向“人在回路之上”（Human over the Loop）。

如Ivan Zhao所言人类应该在一个合适的位置监督这些回路而不是身处其中。人类真正的独特性从不在于对AI僵化的控制而在于定义目标、审视价值以及进行关乎社会公平与道德伦理的元规则设计。

正是因为这种独特性才使人类摆脱了中世纪神学统治下僵化的认知模式实现思想、科学、艺术的全面复兴。当面对AI这种超脱既有经验和认知的技术形式我们也需要一次思维的复兴。

我们无法想象当一切旧有限制消失时AI能将社会塑造成何种面貌。但关键是不要让想象和惯性限制AI的潜能。当你试图模仿旧世界的形状去塑造未来的时候你就很难用新的技术去创造真正的新东西。

“陈天桥说在旧结构上越是用力地叠装AI就越有可能是在给本该淘汰的旧系统续命。真正的变革从来不是在旧躯壳上修修补补而是从基因层面的重组。”

“AI是我们时代的奇迹材料它需要全新的结构设计而非控制和压抑才能够充分释放潜力。”