根據Pindrop的研究人員，AI生成的聲音假冒技術對組織構成了迫在眉睫的威脅。

研究人員警告，語音生成工具可以在幾乎即時的情況下創建聽起來非常真實的克隆聲音，讓攻擊者能夠與受害者進行即時對話，並模仿受害者認識的人。

此外，這些工具現在也能夠令人信服地模仿人類情感，使得社會工程攻擊變得更加有說服力。

研究人員寫道：「合成語音的進步使得[文本轉語音]的聲音能夠表達快樂、憤怒、同情和悲傷等情感。」他們補充說：「AI模型現在可以學習並模仿人類語音中的情感語調，讓這些合成聲音變得更加可信。」

這些工具隨時可供任何人使用，使得即使是不具備技能的攻擊者也能發動高端的社會工程攻擊。

研究人員表示：「詐騙者正在轉向語音調制，操控自己的音調、節奏、音色和音量來模仿他人或混淆接線員。隨著在行動平台上輕鬆獲得變聲應用程式，現在掩蓋身份變得更加容易。」

舉例來說，某家美國大型零售商報告指出，攻擊者以虛擬法律助理的身份出現，要求代表客戶關閉帳戶。開源AI平台的興起大幅降低了創建真實深度假冒的門檻。

僅在2024年，Hugging Face就主辦了超過2,400個TTS模型和超過1,800個文本轉音頻模型。雖然這些工具用於合法的開發者用途，但它們也隨時可供詐騙者使用。

研究人員指出：「加強身份驗證協議、實施即時風險分析，以及持續訓練聯絡中心代表識別不斷演變的詐騙策略，仍然是對抗這些越來越有技能的對手的重要防禦。」

新型的安全意識訓練能為你的組織提供面對社會工程攻擊的重要防護層級。KnowBe4幫助你的員工每天做出更聰明的安全決策。全球超過70,000個組織信賴KnowBe4平台以強化他們的安全文化，並降低人為風險。

Pindrop擁有完整的報告。