Netcraft的研究人員警告，AI生成的搜尋引擎摘要在使用者要求找尋合法登入頁面的時候，卻建議了釣魚網站。

研究人員測試了熱門的AI模型，詢問它們關於五十個主要品牌的登入頁面，發現這些模型提供錯誤網站的次數高達34%。

“在許多情況下，使用者在查看AI生成的內容時，往往會在傳統搜尋結果之前（或取而代之）看到這些內容，而有時甚至不需要登入，”研究人員解釋說。

“這一變化標誌著使用者與網路互動方式的根本改變。但這也帶來了新的風險：當AI模型幻覺出一個釣魚連結或推薦一個詐騙網站時，這個錯誤的內容會以信心十足且清晰的方式展現出來。使用者非常可能會點擊並進一步操作。我們已經看到一些令人擔憂的公共案例，但我們的深入調查顯示，這個問題並非僅限於假設或早期階段的推出。這是系統性的，且越來越容易被利用。”

至少有一個案例中，一個模型建議了一個明顯的惡意頁面，模仿了Wells Fargo的登入入口。

“這不是一個微妙的詐騙，”研究人員寫道。”這個假頁面使用了逼真的品牌克隆。但關鍵點在於它如何浮現出來：這不是SEO，而是AI。

“Perplexity直接向使用者推薦了這個連結，繞過了像網域權威或聲譽這樣的傳統信號。這種情況突顯了一個主要挑戰。AI生成的答案常常刪除了傳統的指標，例如經過驗證的網域或搜尋摘要。使用者習慣於信任這個答案，而攻擊者則利用這個信任，讓受害者受騙。”

Netcraft指出，AI摘要為威脅行為者提供了一個新的管道來將釣魚連結展示給使用者。

“釣魚者和網路罪犯對傳統的SEO技術非常熟悉，”研究人員解釋說。”但現在他們將注意力轉向了AI優化的內容，這些頁面設計的目的是為了在聊天機器人的語言模型中排名，而不是在Google的算法中。”

KnowBe4幫助您的員工每天做出更明智的安全決策。目前全球超過70,000個組織相信KnowBe4平台，以強化其安全文化並降低人為風險。

Netcraft有這篇 報導文章來源: AI-Generated Summaries Mistakenly Suggest Phishing Sites