一套控制系统,是怎么走到能治理「造它自己」这件事的。

这是治理系统唯一一个演不出来的考验。演示可以准备,案例可以挑选,但「治理自己的建造过程」没法提前安排 —— 因为负责安排的人,就是被治理的那个人。

01

自举是什么,以及工程师为什么认它

在编译器领域,自举指的是一个编译器能够编译自己的源码。在那一刻之前,关于这个编译器的每一句话,都依赖另一个工具来兜底。在那之后,它已经跑过了能拿到的最难的一份输入 —— 它自己。这不是一个营销里程碑,这是这个东西停止「只是演示」的第一刻。

控制系统也有对应的那一刻,而且更严。编译器编错了自己会大声失败:构建直接崩。治理系统在自己身上失效,是无声的 —— 它只会开始批准运行它的人想批准的一切,而且很久之后才看得出有什么不对。所以这个考验在这里更重要,也所以几乎没有人愿意接受它。

02

三种状态,以及绝大多数说法实际待的那一种

「我们自己也用自己的产品」这句话说得很多,而它其实指三件完全不同的事:

  • 在系统之外被开发。工具用常规方式做出来。关于它的每一句话,说的都是设计,不是结果。
  • 部分被治理。一部分工作走它 —— 通常是顺手能走的那部分。不顺手的那部分在外面做完,事后再补记,或者根本不补。
  • 治理自己的开发。对这套系统的工作,是在这套系统底下做的,包括那些不走它会更快的工作。

NCT 处在第三种。诚实的限定:它是最近才进去的,而这次转变的记录本身就是证据的一部分,不是关于证据的一句声明。

03

「在系统底下」到底意味着什么

NCT 自己的每一项开发任务,走的是和其他受治理工作完全相同的流程。这里没有为作者开的特殊通道:

  • 意图在动工之前就被记录,形式必须能在事后与结果比对。
  • AI 实际做了什么,和它报告自己做了什么,分开记录。
  • 完成,永远不由干活的那一方宣布。
  • 任何完成声明都需要证据,而证据必须能脱离产生它的那次会话被独立重跑。
  • 闸门不满足,任务就不前进 —— 包括被挡住的人正是写下这道闸门的人的时候。
04

公理,逐条落在它作者身上

治理类产品通常在这里停止诚实。下面每一条都不是网站上的口号,而是创始人在自己的活上每天付的代价 —— 而且没有任何人在旁边看着。

公理它对作者本人的代价
AI 自我声明 ≠ 验收他不能接受自己那个 AI 说的「做完了」 —— 哪怕他确信它是对的,哪怕是凌晨两点,哪怕这世上根本没有第二个人会知道。
实际 ≠ 已批准在闸门之外做的活,记录为「实际发生」。不会因为结果没出事,就事后改标成「已批准」。
没有测量 ≠ 测出来是零他不能给任何没测过的东西写 0 —— 包括在这个网站上。没测量过的量,就写成「未测量」。
部分完成 ≠ 成功做到九成的任务不是绿的。它就是没做完。中间没有第三种颜色。
偏离 ≠ 违规偏离被如实记录,但不被扣上「失败」的帽子 —— 这同时也意味着,它不能被悄悄抹掉。
预测 ≠ 事实估算永远不会以结果的身份进入证据记录,不管当时那个估算有多笃定。
不存在第二真相不存在一个只有他自己看得到的、更舒服的项目状态版本。

这些话每一条都好写,每一条都贵。相信它们被守住的理由,不是创始人这么说 —— 而是无论他守没守,系统都会把发生的事记下来,而那份记录比他当时的心情活得更久。

05

代价,直说

自举不是免费的,假装它免费,本身就是第一次违规。治理自己的开发会让一部分工作变慢。确实有那样的日子:一道闸门挡住了创始人自己非常确信的一处改动,而正确的做法是去把证据补出来,不是把闸门放宽。

闸门为作者让开的那一刻,这个产品就结束了。

这是真实的速度风险,写在这里而不是藏起来:一个在自己治理之下的单人创始人,可能比一个没有治理的单人创始人更慢。这个赌注是:第一次它拦下了一个本来会被交付出去的东西,差价就还回来了。

06

NGF 和 NAO 迁进来

两套系统是有意暂停的 —— 不是放弃。各自在达到最小安全集成点之后,在 NCT 内部继续开发。这就把接下来两个证明排进了队列:两套重型商业系统,在控制层底下开发,同一个人,同一套治理控制层自身的纪律。

NGF 走得最远,已经有客户约定一万美元、在产品还不存在时先付了六千现金,并且提供了近五年的真实运营数据支撑它的开发。

07

为什么这是这个考验最难的一版

卖给企业的治理系统,是由作者之外的人来核的。闸门被绕过去,会有别人注意到。这里没有别人。

  • 没有豁免。创始人之上没有一个可以免掉闸门的权威 —— 这同时意味着,他也没有可以上诉的对象。
  • 没有第二个观察者。没有同事,没有 code review,没有一个团队会注意到记录被悄悄改过一笔。
  • 没有第二真相。他不能保留一份比记录更舒服的项目状态,因为记录只有一份,而且是系统写的那一份。
在这里被治理的那个人,正是最有理由、也最有能力绕过它的人。
08

什么能证明这是假的

一个诚实的评审应该三条都往死里压。目前没有一条被推翻。

  • 如果被查出有工作绕过了闸门,并且被记录成没绕过。那不是一个 bug,那是这个主张的终结。
  • 如果这套纪律只因为创始人本来就信它才成立 —— 那它是一种个性,不是一个系统,它撑不过和一个不信它的团队接触。
  • 如果治理自己的开发让这套系统慢到无法交付,那这次自举就是哲学上的成功、商业上的失败。
09

现状,不四舍五入

今天为真的事,和还没测量的事,分开写。分开本身就是重点。

当前为真
  • NCT 的持续开发,跑在 NCT 底下。
  • 创始人被自己写的闸门挡住过,而他的做法是补证据,不是搬闸门。
  • NGF 与 NAO 停在明确的集成点上,不是半路丢下。
尚未公开演示
  • 脱敏后的案例记录:系统拒绝验收、事后被证明它是对的那些具体实例。
  • 这套纪律在多一个人进来之后还成不成立。
未测量
  • 自我治理的速度代价,按每项任务多少小时计。
  • 有闸门与没闸门的缺陷逃逸率对比。
  • 从闸门被挡到证据补齐,需要多久。

中间那一栏的第一条最重要,它正在准备中。在它发布之前,这一页的主张靠的是这里描述的结构,而不是已经展示过的案例 —— 这个区别写在这里,而不是被模糊掉。