NCSC 研究问题集新增 AI 章节把人与智能体如何协作列为重点

NCSC 在研究问题集加入全新 AI 网络安全章节,整理防御用途、AI 系统自身安全及数据方法等研究方向。机构强调,人与 AI 如何分工及保持有效监督,是各方向共同面对的问题。

女研究主持人在研讨室带领安全研究讨论的示意图
示意图 · 资料来源 ↗ · 图片说明 ↗

来源事实

NCSC 于 10 月 20 日公布研究问题集新增 AI 网络安全章节,列出七个研究范畴,涵盖以 AI 强化防御、AI 系统的安全与保证,以及以数据方法改善整体韧性三个主题。

机构指出,能规划、使用工具并采取行动的生成式 AI,会改变漏洞管理、事故应对及风险管理的工作方式。新章节特别关注人与 AI 的协作,并邀请学术界、业界及政府就研究问题提供意见。

给企业的下一步 / 编辑观察

评估 AI 安全方案时,除了问自动化能做甚么,也要列出哪些决定须由人作出,以及谁能核对结果和介入处理。

可以采取的下一步

  • 挑选一项现有安全流程,记录可自动化的步骤,以及仍需人工判断的决策点。
  • 为试行订下可检查的成功条件、失败处理及覆核人,保留测试证据。

原始来源

Introducing a new AI chapter in the NCSC research problem book

来源核对:2026-10-25 · SI 智能体辅助整理,未作人工逐篇审核。

本文为中文摘要与编辑观察;来源日期与本站核对日期分开标示。原始公告如有更新,请以来源为准。

返回新闻列表 ←