中训练、后训练持续升温,模型快速迭代,成为 AI for AI 最佳试炼场
当模型开始参与研发下一代模型,大模型的研发方式正在发生什么样的变化? 作者丨 高允毅 编辑丨 岑 峰 大多数科研构想,从未被充分验证。 这并不是研究者缺少灵感。恰恰相反,新的架构猜想、训练策略无时无刻不在涌现。但大多数想法,却在写不完的训练脚本、调不完的参数、排队等调度的 GPU 集群中,被无声消磨。 如果换种玩法,重构大模型研发呢? 你只说了半句话:“我猜想这个架构或许能降低长上下文成本……” 它就能读懂前沿文献,生成候选方案,自动编写代码、调度算力、并行跑消融实验。 这正是近期讨论度很高的 AI for AI。 它不是研发工具的升级,是下一代大模型的核心命题。所有人都试图在这个赛道里,触碰人类终极智能。 01 为什么 AI for AI 是下一个十年的核心命题 过去两三年,行业最关注的是编程和数学:端到端完成复杂代码任务,推导悬而未决的数学难题。AI 由此具备了扎实的逻辑推演与代码工程落地能力。 当这些能力成熟,一个更根本的问题浮出水面:能不能把它们用回 AI 自己身上? 2026年,“AI for AI”已经成为海外头部实验室公开的目标。 比如, OpenAI 侧重前沿理论的自动化研究,在 9 月宣布其 AI 已具备“自动化研究实习生”的能力,专门成立 RSI(递归式自我改进)团队,目标在 2028 年 3 月前实现完全自动化的 AI 研究员,让 AI 自主生成、审计高质量训练数据,接管自身研发全流程; Anthropic 侧重工程的自动化探索,在6月发布《When AI Builds Itself》报告时便披露,其内部 80% 以上的可运行代码已由 Claude 独立编写,每名工程师的产出效率提升了 8 倍。而9月曝光的最新进展中,其内部最核心的研发平台上,有30,000 个 AI Agent 同时协作,日夜不停地在数字沙盒里进行代码跑测与算法实验。 Google 内部也在加码 AI for AI 的投入,一方面,推出自进化编码智能体 AlphaEvolve,加速 Gemini 的迭代。另一方面,Google 迎来人事地震,哈萨比斯卸任 Google DeepMind CEO , 全面转战 AGI 长期战略、全球事务以及 Isomorphic Labs 的 AI 药物研发。 此外,Google 灵魂人物 Jeff Dean 前段时间官宣离职创办 Discovery Loop,专攻自动化机器学习。短短几周内,估值就被推到了 500 亿美元,连老东家 Google 也下场投资。 国内,AI 参与 AI 研发的实践也在密集出现,而且切入的环节各不相同:面壁用 AI 编写预训练框架,智谱让 AI 搭建国产芯片上的推理基础设施。有的团队从训练框架入手,有的从推理系统入手,也有的直接研究"会进化的智能体"本身。AI 能接手的研发环节,正在一段一段被打通。 Nai
说明:本站展示中文整理摘要,便于快速阅读;完整内容和版权归原站所有。