自訂字型可能欺騙 AI 助手核准釣魚網站
研究人員近期發現，攻擊者可以利用自訂字型（custom fonts）來欺騙 AI 助手，讓其誤判釣魚網站為安全網站。這種新型攻擊手法突顯了生成式 AI 在資安應用上的潛在弱點。
自訂字型如何被濫用？
攻擊者會建立看似正常的網站，但透過自訂字型改變文字的實際顯示方式。例如，某些字母在視覺上看起來與合法網站相同，但在底層實際上是不同的字元或編碼。
這種技術可以讓人類使用者難以察覺差異，同時也可能誤導 AI 工具，因為 AI 在分析網頁內容時，可能依賴可見文字或其解析結果，而不是深入檢查字型或底層結構。
為什麼 AI 會被騙？
許多 AI 助手或安全工具會分析網站內容、關鍵字與結構來判斷其安全性。如果攻擊者透過自訂字型操控顯示結果，AI 可能會「看到」與實際不同的內容，進而做出錯誤判斷。
這代表即使是先進的 AI 系統，也可能因為缺乏對底層呈現機制的全面理解，而被繞過。
對資安的影響
這種攻擊方式可能帶來以下風險：
- 使用者被導向偽造但看似合法的網站
- AI 安全工具誤判，未能即時阻擋威脅
- 增加釣魚攻擊成功的機率
- 削弱企業對 AI 資安防護的信任
特別是在企業環境中，若過度依賴 AI 自動判斷，而缺乏額外驗證機制，風險將進一步放大。
如何降低風險？
為了防範這類攻擊，組織可以採取以下措施：
- 不僅依賴 AI 判斷，搭配多層防護機制
- 強化使用者資安意識訓練，提升對釣魚網站的辨識能力
- 使用具備深度內容分析能力的安全工具
- 定期更新與測試安全防護機制
人為風險仍是關鍵
這類攻擊再次提醒我們，資安不只是技術問題，也是人與行為的問題。即使有 AI 輔助，使用者的判斷力與警覺性仍然是最後一道防線。
KnowBe4 持續強調 Human Risk Management 的重要性，透過結合人員訓練與智慧化安全技術，協助組織降低因人為因素所帶來的資安風險。
文章來源: Custom Fonts Can Trick AI Assistants Into Approving Phishing Sites
