据SiliconANGLE报道,Perplexity AI于8月25日推出端侧AI代理Portable Computer,该产品面向配备英伟达芯片的桌面设备,可将云端AI代理的能力带到本地运行。
此前有报道称,英伟达正考虑投资Perplexity,可能的估值超过300亿美元,并提及授权Perplexity技术及聘用其核心员工的方案。Portable Computer是Perplexity今年2月发布的云端AI代理Perplexity Computer的本地版本,两者均能完成开发网页应用等多步骤任务。当任务耗时较长时,系统会将其拆分为多个子任务,分派给不同的子代理处理。
Portable Computer运行在英伟达DGX Spark桌面设备上,该设备搭载基于Blackwell架构的显卡、20核CPU和128GB内存。产品首发使用开源模型Qwen 3.8 27B,同时支持Perplexity针对DGX Spark优化的PPLX 27B版本,并加入多令牌预测机制以加快提示处理速度。
Qwen 3.8 27B的上下文窗口为25.6万令牌,但Perplexity发现,模型在处理超过10万令牌的提示时表现不佳。为此,Portable Computer加入了上下文压缩功能,可将长提示摘要至10万令牌以下。
该软件预装了若干技能包,包含指令及其他资源,以提升提示响应质量。Perplexity称,初始技能重点关注在线研究、数据科学和编程等场景,并内置了验证提示响应准确性的机制。如果端侧模型无法完成任务,它可以请求云端神经网络协助,还能连接GitHub等常用软件即服务应用。在将数据发送至外部工具前,软件会征求用户许可,且不会向外部工具开放本地文件访问权限。
安全方面,Portable Computer设有沙箱,防止语言模型访问与当前工作无关的操作系统区域,同时会拦截未经授权的网络连接。
Perplexity计划在后续更新中将支持范围从DGX Spark扩展至配备英伟达RTX显卡的Windows电脑,并增加对英伟达新近发布的Nemotron 3.5 Lightning模型的支持。该模型是参数量为300亿的混合专家算法,针对处理能力有限的设备进行了优化。