從意識提升到數位工作力安全
安全必須從靜態的訓練計劃演變成動態的、由人工智慧驅動的人類和人工智慧風險協調，這種協調必須嵌入整個組織中。
傳統的安全意識模型旨在將訊息傳達給人們，並希望這些訊息能持續在他們頭腦中停留足夠長的時間，以阻止不安全的行為。組織進行訓練、測試、向稽核人員報告完成率，然後繼續進行。然而，事件依然年復一年地持續發生，突顯出人類行為對所有網路事件的到來有著巨大貢獻（根據 Verizon DBIR 2026，這個比例高達62%）。
業界迅速意識到問題不僅在於內容不佳、傳遞效果差，還在於網路安全專家提問的方向錯誤。真正的問題應該是：如何塑造一個環境，讓我的整個員工隊伍最有可能安全地行為？
如今，這種重新思考變得更為重要，因為工作隊伍本身已經發生了變化。組織現在部署AI代理，這些代理與員工一同工作—閱讀相同的收件匣、接觸相同的系統，並以機器速度做出決策。保護這支工作隊伍不再是單純的訓練問題，而是行為協調問題，必須雙重應對：一次針對人類，另一次針對AI代理。
為什麼意識不再足夠
傳統的合規驅動訓練建立了安全意識的重要基本標準。然而，隨著威脅環境的日益複雜，持續的安全需求從「知識」轉變為「行動」。有兩個獨特的因素驅動這種自然演進：
注意力：海曼·艾賓浩斯（Hermann Ebbinghaus）用他遺忘曲線的理論映射了這一點：沒有強化，大多數新學習的材料會隨著時間的推移而衰退。由於釣魚郵件通常不會在訓練日出現，未來的安全要求持續不斷地進行小而有效的強化，而不是單一的年度活動。
行為設計：僅僅擁有意識並不會自動指導行動。B.J. Fogg的行為模型表明，行動只有在動機、能力和提示三者恰好同時交匯的時候才會發生。雖然傳統訓練能提升動機，但我們現在也可以針對能力和時機進行調整。
下一步是建立一個環境，讓人們能夠無縫地安全行動，通過在關鍵時刻給予員工提示，讓安全的選擇成為最簡易的選擇。這樣我們才能將基本的安全意識提升為一種可持續的安全文化，使人們本能地安全行為。
行為類似我們的代理
工作隊伍本身已經改變。在過去20年中，我們教導人們仔細查看連結並驗證發件人。現在我們正在部署AI代理，這些代理能夠快速閱讀這些相同的郵件、總結相同的文件，並迅速撰寫回覆。然而，AI代理卻沒有與人類行為相同的良知和謹慎。
考慮一下EchoLeak攻擊類別：這是一種提示注入技術，在這種技術中，潛在的惡意指令藏匿在AI助手處理的普通內容中，導致代理泄露敏感資料，而使用者根本沒有點擊任何東西。代理只是讀取了攻擊者植入的內容，將其視為指令並執行。
一個代理可以被社交工程操控，通過其消耗的內容被操縱，接收到一個應該拒絕的指令卻仍然遵循。我們正在部署的AI代理本質上是概率性和非決定性的，因為它們所創造的價值超過了這些不完美。
但對於AI代理來說，一旦遭到入侵的情況與「正常」軟體的情況有所不同。它更像是一個人類作出的壞決定，但以機器速度進行，且透明度有限。要檢測這種情況，你需要了解代理所接收到的指令、它的推理過程以及原因。這些信息存儲在代理的上下文、提示和推理過程中。代理安全需求的運作層面必須在運行時提供自己的可視化意圖。這遵循與人類相同的行為標準，但機制上卻有所不同。
為什麼這無法手動完成
組織無法以手動方式協調如此大規模的行為。AI生成的有目的釣魚攻擊和自適應攻擊不會等待你下次的季度活動，而人類安全運營中心也無法以機器速度檢測出流氓AI代理。
此外，真正能改變人類行為的唯一介入必須是個性化的。將合適的內容傳遞給合適的人，並在合適的時機進行，這需要你自己部署的AI代理—這是唯一一種快速且細緻的機制，能夠與每小時變動的工作隊伍相匹配。
數位工作隊伍，一個循環
代理企業無法將人類風險和代理安全視為單獨的問題；必須將其視為來自中心觀點的綜合挑戰。將這些風險劃分為獨立的評分失敗的原因有兩個：
缺乏協調的介入：三個工具中的三個評分並不是一個單一的協調介入。這需要一個統一的風險模型和針對自適應反應的介入計劃。只有一個能夠看到整個工作隊伍的平台，才能決定該如何處理。
缺乏文化建設：文化是通過人們反覆經歷的事情來建立的。管理分散的銷售商意味著不連貫的敘述。跨越攻擊模擬、協作安全和代理安全等整體經驗的單一連貫體驗，將安全訊息轉化為人們所內化的內容。
整體測量整個工作隊伍安全風險的一個循環是正確的做法。結合的風險評分和介入計劃告知組織應關注什麼及如何接下來做，讓每個人類及AI代理成為商業中值得信賴且可防禦的一部分。
結論
當前有效的防禦不僅涉及設計階段的決策，還需要針對整個數位工作隊伍的運行時治理。僅僅依賴意識已經不再足夠，而在沒有行為改變的情況下攔截威脅同樣無法奏效。
因為AI代理與人類一同執行業務流程，並擁有同樣的脆弱性面臨操控，組織必須建立運行時治理、工具和過程，確保它們能無縫運作。
