据MIT Technology Review 10月20日的通讯报道,AI初创公司Goodfire研究员尼克·卡马拉塔(Nick Cammarata)发布一篇约2.6万词的博客文章,声称大语言模型可能远比此前认为的更容易理解,因此也更容易监控和控制。这一主张在AI界引发激烈争论,既有大胆推测,也有谨慎欢迎。
卡马拉塔以“我认为,关于神经网络的本质,我有个好消息”开篇。报道称,这篇长文让AI界“天翻地覆”,如果他的判断成立,将是一件大事。MIT Technology Review在文章热传次日采访了卡马拉塔,讨论他认为研究者误判了什么、他的工作实际展示了什么,以及怀疑者为何还不准备庆祝。通讯称,专访将说明其主张对AI可能意味着什么。
报道同时强调,并非所有人都被说服。围绕大模型可解释性的判断涉及模型内部机制能否被可靠读取、监测和控制,怀疑者尚未加入庆祝行列。该通讯在导语中未展开卡马拉塔的技术论证,而是将具体讨论放在专访中。
同一篇通讯还提到,个人AI代理正在改变互联网的用户结构。过去网络用户大致分为机器人和人,如今个人AI代理开始承担订机票、订酒店等在线任务,Meta的Muse上线首月下载量达到500万次。这些代理与人类访客混行,而互联网主要仍按人的需求设计,结果并不理想,许多网站已选择屏蔽AI代理。报道称,如果相关需求继续上升,互联网可能被重新设计为优先服务代理,而非普通用户。