AI自我进化与超级个体——两个关于能力边界的实验

开源工具

Andrej Karpathy开源了autoresearch:一个让AI代理自动迭代代码库的系统。流程极为简洁——代理修改训练代码 → 运行实验 → 评估结果 → 如果性能提升则保留修改,否则回滚 → 循环。

底层是Karpathy自研的极简框架nanochat,提供从Tokenizer训练到推理服务的完整管线,代码量极小(约百行),专为"可理解的最小实现"设计。autoresearch的核心价值在于:它展示了AI自我改进不需要复杂的框架,只需要清晰的评估信号和足够简单的代码库。

这与当前"大型基础模型主导一切"的主流叙事形成对比——有时候,最小可行的自我改进循环,比庞大的推理链更有工程价值。

🔐

深度四:安全与透明度的持续缺席


⚠️
AI自我进化与超级个体——两个关于能力边界的实验 | AI 趋势