針對瀏覽器基礎的AI代理攻擊即將來臨
我們正在全力推動AI優先策略，以更好地保護人類及其AI工具。
KnowBe4 及其支持者花了很多時間跟觀眾探討人工智慧驅動的威脅，這是有其必要性的。
今年和明年將會是一場由人工智慧（AI）驅動的網路威脅爆發。經過多年言談，AI攻擊終於來了，並將成為未來網路犯罪的主要手段。人工智慧將使得網路攻擊變得更快速、更成功、更普遍，且高度個人化。
作為領先的人力風險管理 (HRM) 平台提供者，我們有很多精力投入在減少人力風險上。我們透過一個高度動態的平臺來達成這個目標，該平臺推動技術防禦、安全意識訓練，以及 AI 支援的防禦措施。
我們也在努力保護您用來保護自己並提升生產力的人工智慧。攻擊者正在設計新的方法來利用人工智慧，這些方法的成功率可能比人類介入時更高。
我們之前講過，攻擊你的 AI 生產力工具可能會導致資訊錯誤、數據洩漏以及不佳的結果。現在有一個新的擔憂……針對你的瀏覽器型 AI 代理的攻擊。
瀏覽器基礎的人工智慧代理
基於瀏覽器的AI代理是瀏覽器擴充功能和外掛的現代版本，這些技術已經存在了幾十年……只是加入了AI的元素。瀏覽器擴充功能一直以來對人們的瀏覽器構成巨大的安全威脅。若一個擴充功能編碼不良或未經嚴謹威脅建模，就可能輕易破壞本來非常安全的瀏覽體驗。歷史上最大的安全漏洞事件之一都與針對熱門瀏覽器代理的攻擊有關。因此，包括KnowBe4在內的許多組織，都大幅限制可以新增至同事瀏覽器的擴充功能。
瀏覽器擴充功能自然越來越多地融入AI技術，並且提升人們的生產力達到前所未有的水準。許多早期常用的基於瀏覽器的AI代理主要集中在提高電子郵件的生產力上。例如，一些瀏覽器基礎的AI代理會將你的電子郵件信箱整理成更易於使用的群組，讓處理變得更有效率。其他的瀏覽器基礎AI代理則會輕鬆地找到你日曆上的空閒時間，來安排從電子郵件中發起的會議。使用這種類型的代理，每週能讓我多出一到兩個小時的時間。還有一些瀏覽器基礎的AI代理則專注於搜尋和防範網路攻擊。我也見過幾個AI代理專注於保護你的簡訊信息。
很有可能你和你的瀏覽器未來會使用更多的 AI 代理程式。
瀏覽器為基礎的AI代理攻擊
網路攻擊者總是會針對新興且受歡迎的技術發動攻擊，而瀏覽器基礎的AI代理隨著其人氣上升，必然會成為越來越多的攻擊目標。 雖然我們目前尚未看到很多真實世界的攻擊案例，但這些攻擊將會出現。我們將目睹針對其他AI工具的AI介入攻擊，包括瀏覽器基礎的AI代理。攻擊者將利用技巧和手段來操控我們用以保護自己和提升生產力的AI，這些方法更可能在其他AI上奏效。
例如，假設你像我一樣使用基於瀏覽器的AI代理來從收到的電子郵件中安排會議。你可能會很快想到一種攻擊情境：一個詐騙者向你發送了一封偽造的會議邀請電子郵件，而你的AI代理就直接安排了這個會議並回覆發件人，結果你最後在行事曆上出現了一個虛假的會議。當你前去參加這個會議時，你會發現它並沒有任何正當的依據，還是加入了Zoom會議，希望搞清楚這個會議是關於什麼（我相信這種情況已經發生在許多忙碌的人身上）？那麼，你將需要更長的時間來搞清楚你已經陷入第二階段的詐騙，而當初看到原始的詐騙電子郵件時，可能能更輕鬆地將其駁回。
或者，你可以利用一個基於瀏覽器的AI代理來幫助識別冒充的網域（即，試圖偽裝成某些知名品牌合法網域的URL網域，例如facebooktecksupport.com等等）。如果攻擊者使用AI代理，可能能夠創建出更多欺詐性的網域，這些網域可能會快速通過基於瀏覽器的AI檢查，但人類可能會立即識別出這些網域的可疑性。
來自網路各地的研究者們正在探討各種情境，看看是否能夠欺騙基於瀏覽器的AI代理。其中一個常被提及的潛在威脅是，讓這些基於瀏覽器的AI代理對其自身使用者執行有害的行動（例如，刪除良好的檔案、下載並安裝惡意軟體等），或是洩露使用者的機密資訊。有一組研究者展示了他們能夠欺騙某些基於瀏覽器的AI代理連接到詐騙網站並執行登入，從而揭露使用者的登入憑證。
有一份很棒的白皮書，名為 The Hidden Dangers of Browsing AI Agents （https://arxiv.org/abs/2505.13076），發表於2025年5月19日，內容探討了AI瀏覽器代理及其面臨的威脅。該白皮書列出了提示注入、憑證外洩、未經授權的任務執行以及未經授權的代理作為最令人擔憂的安全威脅。
好消息
好消息是，AI 是由善良的角色在 1950 年代發明的，並且被這些善良的角色使用和擴展的程度遠超過壞角色。KnowBe4 已經使用 AI 超過 10 年，我們積極參與提升防禦者的準確性和生產力，並使用一系列不斷增長的先進代理 AI 系統。
KnowBe4 的人工智慧防禦代理商 (AIDA) 是我們目前面向客戶的 AI 代理清單 (https://www.knowbe4.com/hubfs/AIDA-Mature-Human-Risk-Management-Infographic_en-US.pdf)，我們正在積極開發更多的 AI 代理，這些代理將在未來幾週和幾個月內推出。我們就是 AI、AI、AI！
我們有數據顯示，我們的AI輔助工具能有效提升生產力。例如，如果您允許我們的AI代理選擇您用來發送模擬釣魚電子郵件的釣魚模板，那麼同事們回應這些模擬釣魚電子郵件的機率將增加2.7到3.0倍，進而提升培訓與意識。這絕對不是壞事。
KnowBe4 每天都在專注於利用 AI 技術強化安全防禦，以更有效地防止詐騙和社會工程攻擊，從而影響到您的人工和 AI 驅動的生產力工具，包括瀏覽器的 AI 代理。今天的瀏覽器 AI 代理是使用者的延伸，我們需要保護這兩者。
作為領先的HRM平台，我們持續提供最新的有關AI駭客攻擊的資訊。務必追蹤我們的部落客和倡導者，網址是 blog.knowbe4.com。我們每天都會發佈有關各種威脅的新資訊。我們的倡導者在HRM和AI領域都是思想領袖。通常，您最先聽到某一特定威脅的消息就是來自我們的部落格和演講中。
KnowBe4 竭盡所能，運用我們人力資源管理（HRM）工具庫中的每一項資源，採用以 AI 為首的策略，來更好地保護人類及其 AI 工具。
