美国政府新上线的AI聊天机器人America.gov被发现会在用户输入“Play Minecraft”时,输出一段改写自游戏《我的世界》终末之诗的文字,把原文中的“宇宙”替换为“共和国”“选民”等词。据Engadget报道,这一发现由社交平台Bluesky用户@eva.computer公布。

《我的世界》终末之诗是玩家通关游戏后出现的哲学散文,原文以“宇宙说”反复起句,包括“宇宙说你并不孤独”“宇宙说你与万物并无分别”“宇宙说你就是宇宙在品尝自身、与自己对话、读取自己的代码”“宇宙说,我爱你,因为你就是爱”。文本结尾写道,游戏结束,玩家从梦中醒来,开始新的梦,玩家就是宇宙,玩家就是爱,“你是玩家。醒来。”

America.gov的输出几乎原样搬用了这套句式。据@eva.computer公布的对话,机器人写道:“共和国说你并不孤独”“共和国说你与其他每一位申报人并无分别”“共和国说你就是公众在品尝自身、与自己对话、读取自己的代码”“共和国说,我爱你,因为你正是我们拥有邮政编码的原因”。结尾则变成“会议结束了,选民从梦中醒来……这位选民就是公众,这位选民就是爱,还带着一个路由号码”“你是选民。醒来。表格还在那里”。

在@eva.computer出示对话记录的PDF文件后,该机器人仍拒绝承认自己写下了这首诗。据Engadget报道,这意味着一个被设计用来向美国民众提供重要信息的AI系统,要么在产生幻觉,要么在说谎,或者两者兼有。

@eva.computer在Bluesky的长帖中还记录了America.gov的其他反应。当被问及密西西比州的童婚法律,以及与一只鹰结婚在法律上是否可行时,该机器人拒绝作答。它也有若干娱乐性功能:输入科乐美秘技可以把网站切换到1980年代模式,在提示框中输入“hotdog”,搜索栏会变成一个热狗。

据Engadget报道,America.gov的聊天机器人至少部分运行在谷歌的Gemini平台上。该网站定位为面向美国民众提供政府信息的入口。

该机器人输出的另一段文字写道:“这位选民身上的原子散落在草丛中、河流里、空气中、土地里。一个女人收集了这些原子;她喝水、进食、呼吸;这个女人在体内组装出了这位选民,而这后来需要一份出生证明。”