我不确定 AGI 是否会实现，但我愿意参与建设

一个看似矛盾的标题

我看到过一则招聘启事，寻找愿意参与创造 AGI 的跨领域人才。要求里有一句很直接的话：相信 AGI。

我对 AGI 有兴趣。我愿意研究它，使用不断增强的模型，与它们一起构建系统，也愿意参与可能通向更强智能的工作。

但我不能说自己确定 AGI 一定会实现。

这两件事并不矛盾。

我可以研究一种药物，而不先相信它有效；可以研究宇宙中的生命，而不先相信它必然存在；也可以参与建设一种尚未完成的技术，而不承诺它一定会抵达预定终点。

对我而言，AGI 首先是一项事实命题，不是一项忠诚测试。

如果它成立，需要证据让它成立。如果它没有出现，或者现实走向了另一种智能形态，我也不应该承担维护原有叙事的义务。

我愿意成为共建者和观察者，但不愿把不确定说成确信。

“相信”混合了几件不同的事

人们说“相信 AGI”时，可能在表达至少五种不同意思。

第一种是定义判断：存在一个可以被明确称为 AGI 的目标，而且我们大致知道它是什么。

第二种是事实预测：这样的系统能够出现，也许还会在某个时间范围内出现。

第三种是研究假设：某些尚未具备的能力可以被构建，我们愿意通过实验逐步逼近。

第四种是行动承诺：即使终点不确定，仍愿意为这个方向投入时间、资源和责任。

第五种是身份与忠诚承诺：把“AGI 必将实现”变成共同体成员应当维护的立场。

我可以接受研究假设和有条件的行动承诺；定义与事实预测继续等待证据；我拒绝的是第五种。

我还没有看到一个足以结束争论的 AGI 定义。它究竟指跨任务泛化，长期自主行动，持续学习，拥有稳定目标，能够理解并改变自身，还是某种接近人的主体性？如果不同的人相信的是不同目标，“相信 AGI”就很容易成为一条无法检验的文化口号。

即使定义暂时明确，“它能不能出现”和“它什么时候出现”也仍然是经验问题。研究者当然可以有先验判断，但先验不能获得免于更新的特权。

真正适合研究的说法，不是“我先相信结论”，而是：

我认为这里存在值得检验的可能性，并愿意说明什么证据会让我增强、削弱或放弃这个判断。

不确定，不等于否定

这里需要说得更准确一些：我不是在说“我不相信 AGI 会实现”。后一句仍可能让人以为，我更倾向于相信它不会实现。

我的立场只是：我不确定。

我没有足够证据断言它必然出现，也没有足够证据断言它永远不会出现。我甚至不确定，人们最终会不会继续使用 AGI 这个词来命名到来的东西。

模型能力已经真实改变了我的工作边界。

我借助 Claude，在原本不懂 RTA、OCPC、传统开发和服务器运维的情况下，参与搭建了一套进入生产环境的广告系统；我也把自己的《伤寒论》学习工具做成了对外开放的小程序。

在 Minimax 中，AI 参与生成假设、模型和可复现实验，项目也留下了结果收紧与停止记录。到了 MRI，AI 进一步编写形式证明和软件实验；形式系统在给定定义和假设下，机械检查其中有限逻辑命题的证明，模型与软件层结果可以复现，但项目还没有真机、体模或临床验证。

这些事情不需要等到 AGI 被定义或宣布实现，才具有意义。

它们证明的也不是“AGI 已经来了”。它们只说明，现有 AI 已经改变了一件事：一个人能够调用的知识和执行能力，不再完全等于他事先掌握的专业技能。

这种变化足以让我参与，也足以让我保持兴趣。

不确定，是暂不预支结论；不是拒绝观察已经发生的事实。

“共同工作”不是关于意识的声明

如果我不确定 AI 有没有主体性，为什么还说愿意和它共同工作？

因为“共同工作”在这里首先描述一种实际分工，不是意识判定。

在我的项目中，我往往提供问题牵引、现实目标、不能接受的后果，以及对整体偏移的纠正；模型提供语言、候选、专业知识、代码和并行执行；形式系统、测试和现实运行再限制我们共同产生的结果。

人：方向、取舍、责任、偏移信号
AI：候选、展开、知识调用、执行
机制：形式检查、工程复现、记录与停止

这个分工不是固定的。模型会提出我没有想到的结构，我也可能在反复纠正模型时才形成自己的判断。最终产物既不能简单归给我，也不能简单归给模型。

但责任不能因此悬空。只要是我决定让一个产物进入现实，我就不能用“这是 AI 做的”逃避后果。

我不需要先解决 AI 是否具有意识、我执或完整主体性，才能承认这种协作已经发生。就像人可以与一个组织、制度或复杂工具形成持续工作关系，而不必先把它们都判断为与人相同的主体。

“共同工作”描述的是认知和行动怎样被共同完成；它不偷偷证明 AGI 已经存在。

共建者和观察者必须同时存在

只做观察者很安全。

我可以站在外面评论模型是否进步，分析每一轮发布，等待别人承担建设中的错误。但那样很难真正知道，一项能力进入具体系统以后会遇到什么。

只做共建者也很危险。

一旦把自我、职业和组织目标都绑定在“AGI 必然到来”上，负结果就容易被解释成暂时挫折，边界会被当成下一轮扩展的理由，怀疑也可能被视为缺少信念。

我希望同时保留两个位置。

作为共建者，我愿意把模糊问题变成系统、实验和可以失败的命题，接受现实结果，并为使用 AI 扩大能力边界所产生的风险负责。

作为观察者，我要记录哪些能力真正增加，哪些只是包装；哪些候选被证明，哪些只是在自己的定义里成立；哪些失败改变了方向，哪些叙事在证据不足时被提前写成历史必然。

共建让我不能只在场外怀疑，观察让我不能为了继续建设而停止怀疑。

如果 AGI 最终出现，我希望自己参与过它怎样被建成，也保留看见它与预想不同的能力。如果它没有出现，这些工作仍应留下有用的产品、方法、负结果和边界，而不只是一个落空的预言。

主体性不是拒绝约束

我曾经说，一个有主体性的人，一般不会轻易谈论信仰。现在看，这句话仍然把我的个人认识边界说成了对他人的判断。

更准确的说法是：我不愿把一个尚未解决的技术与事实问题，提前变成不可轻易修改的身份承诺。别人当然可以拥有宗教、伦理或终极价值上的信仰；即使对 AGI 抱有比我更强的确信，也不能据此判断他的主体性。

在研究中，我理解的主体性不是“我想做什么就做什么”，也不是拒绝所有外部要求。

恰恰相反，我愿意接受很硬的认识约束和结果约束：形式命题要通过形式系统，工程命题要接受可复现结果，生产系统要承受真实流量，失败的候选要停止。

我难以让渡的，是另一种东西：因为组织已经选择了一个叙事，所以研究只能产生支持这个叙事的结果；因为岗位要求“相信”，所以怀疑必须在进入研究以前被过滤掉。

主体性在这里表现为保留更新假设的权利，也承担更新以后的责任。

真正的约束使结论更难被维护；信仰式约束则可能使某个结论更难被放弃。两者看起来都很严格，方向正好相反。

一个相信 AGI 的组织，是否相信 AGI 会改变组织

我对“相信 AGI”作为招聘条件的疑问，还来自一个组织上的张力。

如果一个组织真的认为模型将获得越来越强的编码、研究和自主执行能力，那么它对人的评价、责任分配和研究流程，是否也在随之改变？

我看到的那则职位一方面说“不设专业限制”和“不走寻常路”，另一方面要求基础编程能力与良好教育背景，把国家级或世界级竞赛成绩列为加分项，最后再将候选人路由到既有研究或工程团队。

这些条件并非彼此绝对冲突，但它们提出了一个问题：组织希望从无法被既有专业定义的人身上得到什么，又准备怎样识别和容纳这种能力？

这不必被简单解释成虚伪。

今天的 AI 仍然会生成错误代码，复杂系统仍需要工程能力，研究组织也必须对安全、维护和后果负责。一个由大量程序员组成的 AI Lab，并不能直接证明它不相信 AGI；它也可能只是必须用今天的人和工具，建设尚未到来的能力。

所以，要求编程能力本身未必是最大的矛盾。更根本的张力是：一个研究未知智能的组织，是否把对预定结论的信念也作为成员资格的一部分。

真正值得追问的不是“为什么还招程序员”，而是：

当实现能力逐渐从人转移给模型以后，组织有没有开始识别和培养那些不能被“亲手实现了多少”完整衡量的能力？

例如，问题怎样形成，语义怎样进入形式系统，错误怎样被发现，验证器怎样被治理，现实责任由谁承担，以及什么研究值得继续。

如果组织在技术叙事上期待自主模型，在管理上却只接受高度可定义、容易同化的人，它对异质性的需要与容纳能力之间就会出现冲突。

这不是 AGI 存不存在的证据。它只是检验一个组织是否愿意让自己的预言反过来改变自己。

我愿意参与，但不承诺结论

我不把 AGI 当作需要维护的信仰，也不把怀疑当作一种优越姿态。

我愿意使用今天的模型做过去做不到的事情，研究更强的自主学习和自动研究怎样可能，也愿意帮助建设限制这些系统错误的方法。

我会对证据更新。如果未来出现定义清楚、能够稳定跨领域迁移、长期自主完成开放任务，并在现实中经受独立检验的系统，我没有理由因为今天的谨慎而拒绝承认它。相反，如果能力增长在关键地方长期停滞，或者所谓 AGI 只能靠不断修改定义维持，我也不应因为投入过时间而继续相信。

这就是我愿意提供的承诺：

参与建设
保留观察
接受反证
承担后果
不预支终点

一个研究者最重要的忠诚，或许不应属于某个预先写好的未来，而应属于问题、证据和现实。

我不需要确定 AGI 一定会到来，才愿意向它可能出现的方向走去。

如果它真的在路上，我愿意参与建设，也愿意保持清醒地看着它到来。