据TechRadar报道，2026年10月6日刊出的分析文章《AI代理的隐藏成本是记忆》指出，企业AI项目从试点走向生产时，被低估的支出并非模型调用本身，而是代理持续记忆和更新状态带来的数据层成本。文章作者为SurrealDB联合创始人兼CEO。
文章称，第一代企业AI主要解决信息检索：用户提问，系统找到相关上下文，模型生成答案。AI代理则动态检索信息，并在执行过程中调整自身状态，任务推进时会同时处理计划制定、外部工具调用、更新记录和记录结果。当成百上千个代理同时运行时，数据层的行为、成本和准确性都会发生变化。
早期试点往往范围狭窄，通常由一个团队使用有限数据集，交互简单且短暂。以请求总结一份文档为例，模型完成请求后任务即结束，模型访问、token和上下文检索似乎构成主要账单。但文章指出，从被动聊天机器人转向多代理系统后，经济性会翻转。传统生成式AI成本随用户数量线性增长，多代理部署的成本则往往随任务复杂度上升。概念验证阶段的支出会因任务复杂化而成倍增加。
文章援引AWS的估算称，一个基于文本、每天处理约100次交互的概念验证每月成本约40美元，而使用知识库和防护机制、处理量大致相同的代理式概念验证每月成本约840美元。Anthropic关于多代理研究的文章也支持这一发现。数据显示，多代理系统使用的token量比聊天交互多15倍，经济可行性取决于任务价值是否足够高。
在多代理系统中，代理通过动态循环、工具调用、重试和上下文传递完成任务，成本因此累积。另一个维度是，代理需要在不断增长的数据量中记忆和推理。代理的运行寿命比典型聊天会话更长，必须记住昨天的动作，保留决策依据，并让其他代理也能使用这些信息。每完成一个任务都会生成新状态。随着代理规模扩大，企业不仅为下一个答案付费，也为维持高效、安全运行所需的操作溯源信息付费。
文章认为，早期生成式AI常把记忆当作按需检索的上下文，而持久化代理要求记忆成为不断更新的实时运行系统。这会影响性能和成本。狭窄的写入路径可能随着更多代理更新记录而产生争用；同一上下文的分离副本会增加存储和同步工作；把所有历史记录都保存在最快存储层，则会让很少使用的信息变得不必要地昂贵。
设计支持代理集群的数据层时，服务级别决定记忆如何被访问和管理。文章建议企业负责人明确每类记忆必须多快可用、谁可以更新、哪些代理应共享，以及必须保持即时可访问多久。文章还提出，并发能力将日益重要：写入能力能否随代理数量增长而扩展，主要面向读密集型应用设计的基础设施，在大批自主进程同时更新状态时可能表现不同。若多个代理处理同一客户、资产或流程，为同一上下文创建分离副本会带来成本和一致性风险，共同的状态来源可简化协作，前提是访问控制和溯源保持清晰。活跃记忆与历史记忆也应分开处理：代理可能立即需要工作流最近几分钟的信息，六个月前的记录可能只在审计或异常查询时需要。频繁访问的状态可留在计算层附近，较旧信息转移到成本更低的持久存储，计算便可按当前活动扩展，而非按系统启动以来积累的全部记忆扩展。文章最后提到，如何存储历史变更也提出了类似问题。