据《卫报》报道，英国合作社集团（Co-op）旗下法律服务部门Co-op Legal Services正在使用人工智能记录、分析员工与客户的每一通电话，并为通话打出百分比评分。一名举报者将该系统形容为“压迫性和反乌托邦的”。
该系统使用OpenAI的一款模型，经过训练后可评估每通电话中50多个具体维度，并向管理者给出通过或不通过的评分，后者据此分析员工绩效。通话内容涉及遗嘱、遗产认证与遗产事务咨询，客户中不少是刚刚失去亲人的人。一名员工表示，这意味着他们每天可能有数小时的工作处于AI监控之下。
“你正在被监视，”一名要求匿名的Co-op员工对《卫报》说，AI造成了不信任感。“这和出于合规目的偶尔被监听不一样。（你）说的每一个字、每一次开口，都被监控……感觉非常反乌托邦。这是楔子的薄端。”
Co-op经营超市、殡葬、保险和法律服务等业务。该集团表示不认同上述批评，称其遗产认证顾问敬业投入，并称AI是“我们质量保证流程的关键部分”，用于支持同事，帮助确保“客户持续获得富有同理心的专业指导”。据《卫报》了解，这套AI监控在过去几个月内被引入数十名法律服务员工的工作，部分用途是找出提升销售业绩的方式。Co-op表示，AI仅作为支持工具使用，不是决策者，可帮助领导者“支持同事并持续改善我们为客户提供的体验”。
工会已开始抵制AI监控的扩散。通信工人工会全国干事约翰·查德菲尔德说：“AI被宣传为一切问题的解决方案，但这样的例子清楚表明，它可能无缘无故地削弱合理的工作场所做法，加剧工作生活的紧张。不负责任的计算机系统不应成为人的管理者，这些辛勤工作的员工需要得到远更多的尊重。”
特许人事与发展协会高级政策与实践顾问海法·莫德扎伊尼表示：“办公室现在变得更像工厂，因为我们的绩效反馈可以以更结构化的方式给出。显然有些人对这种做法有意见。它如何发展、管理者需要多大程度调整做法，值得关注。”
今年，国际劳工组织就AI监控的“社会心理”风险发出警告，其中包括增加与工作相关的压力。“AI系统正在缺乏全面监管框架的情况下被部署到工作场所，”该组织说，在此背景下预防AI使用和运行带来的伤害风险“可能并不简单”。
此前，《卫报》上周披露尤安·布莱尔的AI培训公司Multiverse已开始用AI全面监控在线课堂，教师称其“无情”且“令人不安”，Multiverse表示其“利用AI改善学习者和客户的体验”。今年2月，美国汉堡王宣布将用该技术追踪餐厅员工与顾客的互动；今年夏天，Meta因数据隐私担忧和员工反对，暂停了对员工电脑按键的追踪。
Co-op Life Services（包含法律服务）董事总经理考伊利昂·赫尔利说：“AI相对于传统方法的效率，使我们能够审查所有客户对话，以确保我们持续提供高标准的服务，同时为同事提供更有依据的支持、辅导和发展……简单说，我们的目标是在客户可能处境艰难之时，为每一位客户提供专业支持与同理心、理解相结合的服务。AI帮助我们更一致地做到这一点，而人的判断、责任、关怀与善意仍然是每一段客户关系的核心。”