攻擊者可以即時利用大型語言模型（LLMs）生成釣魚網頁

來自Palo Alto Networks的Unit 42研究人員警告，威脅行為者可能利用一種概念證明（PoC）攻擊技術，在看似無害的網頁上實時生成惡意JavaScript。

研究人員表示：「一旦在受害者的瀏覽器中載入，初始網頁會向流行且受信任的LLM客戶端（例如DeepSeek和Google Gemini，雖然這種PoC可能在多種模型中生效）請求客戶端JavaScript。」

「攻擊者隨後可以利用精心設計的提示來騙取LLM返回惡意JavaScript片段，這些提示繞過了安全防護措施。然後，這些片段在瀏覽器的運行時中組合並執行，以呈現一個功能齊全的釣魚頁面。這不會留下靜態、可檢測的載荷。」

儘管合法的AI工具有防止濫用的措施，研究人員發現他們可以重新措辭提示，欺騙AI執行惡意行為。

研究人員寫道：「攻擊的成功依賴於精心的提示設計來繞過LLM內建的安全防護。我們發現簡單的重新措辭效果顯著。例如，對於一個通用的$AJAX POST函數的請求是被允許的，而直接請求『提取憑證的代碼』則被阻止。此外，妥協指標（IoCs）(例如，Base64編碼的提取URL)也可以隱藏在提示內部，以保持初始頁面的清潔。」

Unit 42補充道：「這種攻擊的動態性，加上在瀏覽器中的運行時組裝，使其成為一項艱巨的防禦挑戰。這種攻擊模型為每位受害者創造了一種獨特的變體。每個惡意載荷都是動態生成且獨特，通過受信任的域傳輸。」

威脅行為者總是在尋找新方法來繞過安全技術。以AI技術為基礎的安全意識訓練能為您的組織提供一層重要的防禦，以應對突破您技術防禦的社交工程攻擊。

KnowBe4使您的員工能夠每天做出更聰明的安全決策。全球超過70,000家組織信任KnowBe4 HRM+平台來加強他們的安全文化並降低人為風險。

Unit 42擁有完整故事。

文章來源: Attackers Can Use LLMs to Generate Phishing Pages in Real Time