waytoRSI追踪递归自我改进

主题

AlphaEvolve

1 篇文章

AlphaEvolve 如何用分块规则加快 Gemini 训练

DeepMind 报告内核平均加速 23%、整体训练用时减少 1%。关键产物是一段代码,能在输入变化时选择矩阵分块尺寸。

解读展开概要收起概要

AlphaEvolve 搜索的是可复用的矩阵分块规则,用真实 TPU 上的实际运行时间判断选择效果。收集到的输入形状一半用于优化,另一半用于评估最终规则。作者报告的生产收益,把模型生成的代码与模型训练基础设施连了起来;随后训练出的模型是否更会发现算法,所提供的案例尚未测量。

8 分钟阅读2 原始来源