据Hacker News报道,开发者近日开源了Consumer Agent Testing Tool(CATT)0.2.1版本,供团队在本地构建或CI环境中,用模拟的Muse或Instinct类助手测试其服务。该工具面向为这类专有助手构建MCP或API连接的开发者,目标是减少相关开发和迭代中的反复调试成本。
项目作者称,针对这类助手进行测试并不容易:助手记忆和账户状态会使代理与其调用的API、MCP之间的交互难以复现,而可重复、可靠的结果又依赖这种复现能力。CATT的做法是提供一个替代性的Muse或Instinct代理,并声明与这两家公司均无关联。测试者可为服务状态定义初始条件、审批条件和成功条件,工具随后记录完整交互,包括工具调用和响应,以便将实际发生的情况与代理报告的结果进行比对。
按照项目说明,CATT试图模拟个人助手交互中的关键部分,包括工具调用和命令行工具访问、对服务操作的模拟审批、结果跟踪与比较,以及基于非官方Muse模板的可选MCP配置。运行方式可带或不带LLM支持。
作者同时指出,外界对这些助手具体行为的了解有限,因此工具会将对不同助手行为的假设标注为documented、unofficial、assumed或unknown,供开发者审查。项目方表示,随着对这些助手内部机制的新认识出现,会尽量更新工具;相关领域仍处于活跃研究和关注中,近期一份关于Instinct使用Exa进行网络搜索的报告就是例子。
该项目在Hacker News发布时获得4个积分,暂无评论。作者向正在构建连接器或MCP的开发者征集反馈,询问是否遇到助手行为不一致、使用过期信息或在没有证据的情况下宣称成功等情况,并希望了解还应增加哪些测试。其给出的入门方式是让编码助手读取代码仓库,并要求把该工具集成到CI或本地测试流程中。