waytoRSI追踪递归自我改进

主题

AI 研发

2 篇文章

Anthropic 的64%:人类走弯路时,模型能否选好下一步

一组选定的人类走弯路时刻、另一组对照和 Agent 自行设计实验的项目,帮助分清提出下一步与选择研究目标。

解读展开概要收起概要

Mythos Preview 的64%来自特意挑出的129个人类走弯路时刻。另一组127个人类决定本来就很好的时刻,模型建议被判更好的比例约为20%,未逐模型列出结果。在人类选定问题和评分标准的弱监督项目中,Agent 还自行设计了全部实验,弥合了所定义性能差距的97%;这一结果未顺利迁移到生产规模模型。这些证据说明研究建议与方法有所进展,尚未证明自主开发后继系统。

6 分钟阅读1 原始来源

CRUX:Personas 的实验怎样改变了研究主张

早期测试没有支持原定的迁移主张。在更多模型上重复负结果、与竞争方法对照,回答的是不同问题;行为测量本身也留下了疑问。

解读展开概要收起概要

Personas Agent 完成了大量研究工程,但实验不断改变论文能提出的主张。沿着迁移测试、跨模型重复和后来的竞争方法对照,可以看清为什么更多实验没有证明所提方法的研究贡献。案例也保留了一个有用的窄发现,以及向一般 AI 研究能力或 RSI 外推的边界。

7 分钟阅读1 原始来源