美國聯邦調查局（FBI）警告，根據Malwarebytes的報導，美國人在2025年因人工智慧驅動的詐騙損失接近9億美元。去年報告的詐騙總損失達到近210億美元，較2024年增加26%。研究人員指出，實際損失可能更高，因為許多攻擊並未報告。

Malwarebytes表示：「AI驅動的詐騙增長的主要原因是聲音克隆、深偽影像和影片，以及AI生成的腳本。」這些工具大幅增強了傳統詐騙手法，例如戀愛詐騙、綁架和勒索電話、假影響者以及政府冒充等。

FBI指出，AI工具大幅降低了攻擊者製作高度真實欺詐內容的門檻。

該局表示：「AI技術使得創造令人信服的合成內容成為可能，例如社交媒體個人檔案和個性化對話，這些通常是在大量生成的情況下進行的。人們已經操控視頻和音頻數十年，但這項技術的廣泛可用性使得人們可以快速創建高品質內容。使用AI生成的合成內容越來越難以檢測，也更容易製作，這使得犯罪分子能夠針對個人、企業和金融機構進行潛在的成功詐騙活動。

Malwarebytes總結，隨著AI工具的進步和普及，這些攻擊將會增多。

Malwarebytes表示：「FBI和金融機構建議通過官方聯繫渠道來驗證身份。他們最大的擔憂之一是政府冒充詐騙，這些詐騙從粗糙的IRS禮品卡電話演變為複雜的多渠道操作，結合了偽造的來電顯示、被盜的機構標誌以及AI生成的公共官員音頻和視頻。這份報告及其他類似報告顯示了AI是如何被武器化，實現對受害者的自動化研究、生成可信的腳本以及大規模創建高度可信的深偽人物。AI也越來越多地用於商業電子郵件詐騙（BEC）、戀愛詐騙和冒充詐騙。在涉及AI的BEC案件中，企業的損失已經達到數千萬美元。

Malwarebytes報導的故事：美國人因AI驅動的詐騙損失近9億美元，FBI表示