据SiliconANGLE报道,Cognition AI研究负责人、创始团队成员Silas Alberti与CoreWeave产品及工程执行副总裁Chen Goldberg在Fully Connected活动期间接受theCUBE采访时表示,常驻运行的AI代理正在把推理、反馈和训练连成持续学习闭环,这也对底层基础设施的可靠性和分布式训练能力提出更高要求。CoreWeave在活动期间发布了Forge平台。
阿尔贝蒂说,Cognition AI的Devin目前覆盖软件开发生命周期,从规划、编写代码到审查代码和响应生产问题。这一角色扩展要求AI代理基础设施支持大规模持续学习。他说:“我们的运行始终在线。我们仍会发布版本并做打包,但现实是我们一直在训练,一直在寻找下一批数据和下一个奖励信号来改进模型。”
报道说,训练与推理正日益交织,尤其是在强化学习负载中,系统生成响应并利用结果改进模型。阿尔贝蒂称,Cognition的分布式训练跨越多个国家和洲的数据中心,数千块图形处理器的正常运行时间因此至关重要。他说:“如果你进行大规模训练,不只要看GPU,还要看正常运行时间。只要一个副本宕机,整个训练运行就会中断。一个非常重要的指标是达到99.99%的可靠性。”
新硬件也在影响Cognition的研究方向。据阿尔贝蒂介绍,提前获得英伟达Vera Rubin平台让研究人员能够研究该系统,并在追求更优性价比的同时调整模型架构。他说:“每一代产品的性价比都在提升,因此我们可以用同样的算力做更多事情。能够提早研究新平台的内核和动态,使我们得以优先安排研究投入。”
CoreWeave在活动期间发布的Forge平台连接推理、观察、数据整理、模型改进和评估。该平台包含用于追踪代理活动的Agent Lens,以及模型蒸馏和强化学习能力。其RL Rollouts服务可将更新后的模型检查点热加载到在线部署中,而无需重新部署整个系统。戈德堡说:“CoreWeave Forge是为这些AI循环、这些学习系统量身打造的,用来构建代理并连接不同步骤。你不必一次做完所有事情。你总是可以从无服务器推理开始,找到模型并启动。”
对Cognition而言,持续闭环的价值在于利用真实世界经验改进后续版本的Devin。阿尔贝蒂说,目标是让代理在长期软件项目中更具能力。“代理不仅在规划代码、编写代码和审查代码,也在成为真正的生产维护者。如果出现生产问题,Devin可以介入并响应。等你醒来时,已经有一个拉取请求,你可以合并它。”
theCUBE是Fully Connected活动的付费媒体合作伙伴,CoreWeave是theCUBE报道的赞助商,但不对theCUBE或SiliconANGLE的内容拥有编辑控制权。