Liquid AI 公司首席运营官 Jeffrey Li 在 Fully Connected 活动期间接受 theCUBE 专访时表示,该公司正把个人 AI 放在设备端,让模型和智能体在算力固定的终端上运行,而非围绕弹性云容量来设计。据 SiliconANGLE 报道,这场对话由 theCUBE Research 的 Dave Vellante 和 John Furrier 主持。

Li 说,公司的设想是把 AI 带得更靠近用户,因此专注于构建能在身边各类设备上运行的 AI。他表示,捕捉用户信号最合适的外形是口袋里的设备,包括手机、可穿戴设备、手表、个人电脑和汽车。在他看来,边缘端的硬件虽然固定,但对用户的了解比云端更丰富,因此是个人 AI 的自然落点。

Liquid AI 的 Liquid Context 针对高通骁龙处理器做了优化,位于模型、智能体和硬件之间,利用设备信号来判断用户是谁、想完成什么事情。Li 说,把模型变成可用智能体的 agent harnesses 同样要管理用户上下文,而把上下文一直放在不断增长的文本文件里,对资源有限的设备构成挑战。Liquid AI 的做法是用自家模型决定保留哪些信息以及如何压缩这些信息。

他把难点归结为算力固定:必须装进一个零和的计算预算,这意味着当前围绕 harness 构建方式的许多假设在边缘端不再成立。

在落地方面,Liquid AI 与梅赛德斯-奔驰集团合作,把端侧 AI 引入汽车。Li 说,下一步是让这些系统和智能体在部署很久之后仍能符合用户预期,能够自我修复、自我改进并随时间自行个性化。他提到公司正在构建可观测性回路和持续改进回路,通过用户的自然使用逐步改进模型和 harness。