据量子位报道,9月18日,在第一届中国网络空间安全大会上,《网络安全人才实战能力报告—AI赋能篇》发布。报告由国务院学位委员会学科评议组(网络空间安全组)、教育部高等学校网络空间安全专业教学指导委员会指导,北京航空航天大学、中国科学技术大学、永信至诚科技集团股份有限公司担任主编单位,北京航空航天大学教授刘建伟现场解读。

报告是网络安全人才实战能力研究系列继“攻防实战能力篇”“人才评价篇”“安全测试评估篇”后的第四篇章,将AI时代网络安全实战任务分为模型安全、AI应用安全和AI赋能网络安全三类。模型安全重点保障模型、底层数据和算法安全;AI应用安全应对模型和智能体进入业务系统后的新风险;AI赋能网络安全研究如何用AI提升漏洞挖掘、安全运营、攻防对抗和威胁检测效率。

报告援引人工智能评测机构METR的研究称,以人类专家完成任务所需时间衡量,前沿AI模型在50%成功率下可完成的任务时长约每7个月翻一番。AI独立工作时间变长、可访问数据和系统权限增多,使其不受恶意指令操纵、不突破权限边界成为必须回答的问题。

人才分布方面,模型安全领域65%的从业者工作年限不足5年;广东、北京、浙江、上海和江苏汇集46%的AI应用安全人才;关键信息基础设施单位中,75%的相关人才集中在电力、金融和通信行业。64%的大模型相关单位仍由传统安全团队兼职或研发团队兼顾模型安全,仅23%设置了专门的AI安全研究队伍;81%的AI应用落地单位尚未设置专职AI安全团队。

在AI应用安全场景中,提示词安全、内容合规、接口安全和业务逻辑安全四个维度,尚未达到熟练水平的人员占比分别为54%、64%、60%和65%。报告认为,AI安全人才还需具备数据安全、接口安全、权限控制和业务风险分析能力。

AI提效并不意味着可以替代专业判断。报告显示,10年以上从业者对AI辅助漏洞挖掘效率的满意度为58.3%,在不同从业年限群体中最低。资深人员更关注AI输出是否准确、稳定和可验证,对漏洞成因、攻击路径、业务影响和处置方案的判断仍需安全人员把关。

高校方面,68%的高校已将AI相关课程设为独立必修课或选修课。但仅10%的受访教师认为所在高校已建立较为完备的AI安全实训体系,26%的高校具备较充足算力支持模型训练和对抗攻击实验,具备网络安全攻防与AI算法双重经验的教师约占21%。高校最紧缺的教学资源中,80%的需求集中在实操案例、真实攻击案例和实验指导。

报告基于ASK-P网络安全人才实战能力评价体系,围绕三类场景探索分类分层评价方法,更关注人员能否在真实或仿真环境中完成安全任务、处置实际风险并形成可验证成果。报告提出,应以实际任务定义能力、以真实场景组织训练、以任务完成效果评价人才,推动高校、科研机构、网络安全企业和重点行业共同参与人才培养、训练、评价和使用。永信至诚表示,将继续联合高校、科研机构和行业伙伴开展相关研究。