NCSC 研究問題集新增 AI 章節把人與智能體如何協作列為重點

NCSC 在研究問題集加入全新 AI 網絡安全章節,整理防禦用途、AI 系統自身安全及數據方法等研究方向。機構強調,人與 AI 如何分工及保持有效監督,是各方向共同面對的問題。

女研究主持人在研討室帶領安全研究討論的示意圖
示意圖 · 資料來源 ↗ · 圖片說明 ↗

來源事實

NCSC 於 10 月 20 日公布研究問題集新增 AI 網絡安全章節,列出七個研究範疇,涵蓋以 AI 強化防禦、AI 系統的安全與保證,以及以數據方法改善整體韌性三個主題。

機構指出,能規劃、使用工具並採取行動的生成式 AI,會改變漏洞管理、事故應對及風險管理的工作方式。新章節特別關注人與 AI 的協作,並邀請學術界、業界及政府就研究問題提供意見。

給企業的下一步 / 編輯觀察

評估 AI 安全方案時,除了問自動化能做甚麼,也要列出哪些決定須由人作出,以及誰能核對結果和介入處理。

可以採取的下一步

  • 挑選一項現有安全流程,記錄可自動化的步驟,以及仍需人工判斷的決策點。
  • 為試行訂下可檢查的成功條件、失敗處理及覆核人,保留測試證據。

原始來源

Introducing a new AI chapter in the NCSC research problem book

來源核對:2026-10-25 · SI 智能體輔助整理,未作人工逐篇審核。

本文為中文摘要與編輯觀察;來源日期與本站核對日期分開標示。原始公告如有更新,請以來源為準。

返回新聞列表 ←