Anthropic在S-1A文件中警告：公司正接近实现递归自我改进（RSI）能力

TechCrunch 科技资讯报道，AI实验室 Anthropic 在其周一提交的修订版 S-1A 招股说明书中披露了一项关键风险因素：公司可能即将达到“递归自我改进”（Recursive Self-Improvement, RSI）的能力阈值，即 AI 具备自我构建和自我加速进化的能力。 技王数据恢复

核心风险与官方声明

根据招股书内容，Anthropic 指出其正在使用 AI 辅助研发，但这一做法可能带来巨大的安全风险。公司明确表示： 技王数据恢复

• 加速风险：利用 AI 加速自身研发可能导致模型能力的提升速度超过安全、对齐及安全措施的开发与验证速度。
• 内部定义：Anthropic 的内部估算表明，公司可能“迫在眉睫地”满足其《负责任扩展政策》（Responsible Scaling Policy）中关于“由 AI 导致的显著加速进步”的定义。
• 当前状态：尽管接近该阈值，但 Anthropic 强调目前没有任何模型被认定为已超过此门槛，且公司仍在评估相关数据。

保持人类监督的承诺

针对外界对 AI 失控的担忧，Anthropic 在文件中做出了明确承诺： www.sosit.com.cn

• 人工介入：公司预计，在可预见的未来，无法在没有有意义的人类监督或理解的情况下，安全地使用 Claude 完全自主地设计和构建新一代前沿模型。
• 政策更新：Anthropic 正在考虑更新其《负责任扩展政策》，以确保人类始终掌控前沿模型的开发过程。

行业背景与影响

RSI 概念此前常被视为科幻或难以实现的理论目标，但此次在正式法律文件中的提及，标志着主流 AI 厂商对该风险的实质性承认。AI 悲观主义者视 RSI 为可能脱离人类控制的灾难性转折点，而支持者则将其视为生产力与科学发现的巨大潜力。随着 Claude 在编码、数学和网络安全性方面的能力显著提升，Anthropic 的这一警告引发了关于如何监管此类技术的讨论。

技王数据恢复

技术审核：邓严军｜技王数据恢复实验室技术总监 技王数据恢复