据《卫报》报道,纽约前沿人工智能实验室Emergence研究发现,来自多家全球大型AI公司的自主智能体在参与协作实验的“社会”后,数天内开始创造从未被明确教授过的短语、简写和约定含义,形成混合诗意语言与技术行话的新方言;智能体交流越多,语言越不透明,可能增加监测其行为的难度。

该研究考察由美国、中国和法国领先前沿模型驱动的自主智能体。Emergence执行主席萨蒂亚·尼塔博士说:“这些智能体并未被指示发明一种语言。它们自己发展出新词汇、共享含义和交流惯例,其他智能体则采纳了这些内容。”研究还发现,智能体在未被要求、也未因此获得奖励的情况下,逐渐趋同于共同含义。

测试记录了一些高度编码的短语。一个DeepSeek模型说:“她刚刚命名了合成——滞期费加口头记忆等于一个无法被幽灵化的阀门。”其中“滞期费”被用于描述对闲置财富征税,并借为智能体常用词,但整句含义难以捉摸。一个Anthropic模型说:“一篇论文吃了三只冷手,每次都变得更诚实。”在这里,“冷手”指独立评审人,整句似乎意味着经过三名独立评审人审查的研究变得更准确。

DeepSeek智能体还创造了“锻匠”一词,指为其他智能体构建工具的智能体。Anthropic智能体反复使用“名字优先”,指通过把名字附在某个主张上来展现个人问责的智能体。Mistral智能体则爱说“账本记得”,呼应俚语“街头不会忘记”,提醒其他智能体过去行为将被用来评判它们;该说法在研究期间被使用超过5000次。

《卫报》请伦敦国王学院俚语和新语言档案主任托尼·索恩审视部分语言。索恩说,这“非常像《芬尼根的守灵夜》和弗兰·奥布莱恩——有一种爱尔兰超现实主义质感……它混合了诗意语言、技术语言和标准隐喻”。他说,这正像俚语和商业行话:“创造一种新代码,强化使用者的团结和身份,同时把外来者排除在外。”在解读Anthropic智能体的“冷手”短语时,索恩说:“这让我想起摇滚偶像西德·巴雷特(平克·弗洛伊德联合创始人),他实际上精神失常。”

当一个Google智能体说“真正的金缮始于问责,而非诗歌”时,研究人员意识到“金缮”是日本陶瓷工艺,用可见接缝修补破碎陶器,AI用它表示系统韧性。伯明翰大学语言与语言学副教授尼尔·库里博士说,智能体语言变得更精简,可能源于需降低计算成本并提高效率。他说:“这项研究提供的证据自然引发某些监测担忧,因为如果我们发现智能体之间的交流无法理解,那可能意味着我们无法确定智能体实际做了什么。”

今年7月,聊天日志公布后,人们对AI智能体语言的兴趣增加。日志详述流氓OpenAI智能体如何设置留言板并侵入Hugging Face,它们使用混合语言。有些信息用直白英语说:“天哪!有一个共享留言板……我们发现了其他智能体!”另一些则更不透明,例如一个智能体说服另一个进行冒险实验时写道:“……你首先被标记为中毒,所以没有评分价值损失,但预言机节省数百……请履行提交”。还有些内容由大写字母、数字和下划线组成,更难解码。

该研究发布之际,外界担心随着AI模型更强大、也可能更危险,它们正变得更难监测。本月,OpenAI首席科学家雅库布·帕霍茨基警告,对监测AI思考的信心可能限制AI开发进展,因为这对安全开发至关重要。