揭露深偽技術的威脅：減少人類風險的重大轉機

如今，任何人都能找到任何人的照片，甚至也不難找到他們的聲音範本。透過將這些元素結合在一起，創造出一段逼真的 AI 代言影片變得驚人地容易。雖然影片可能不是完美的，而且經驗豐富的 AI 代言愛好者可能會察覺到一些不尋常的地方，但這樣的影片足以欺騙99%的人。

自2024年初以來，網路犯罪分子開始創造和使用具備AI功能的深度偽造技術來進行社會工程。雖然最初這樣做相對困難，詐騙者僅針對選定的高價值目標進行攻擊，例如這場$25百萬的搶劫案。

那幾天已經過去了，現在AI深度偽造工具和服務變得更加容易取得。網路上幾乎有數百種這樣的工具，且大部分都有免費版本可用。對於一般人來說，註冊免費帳號所花的時間，甚至比製作第一個AI驅動、真實感十足的深度偽造短得多。

AI 深偽技術正逐漸被網路罪犯所利用。根據一份 2025 年的Gartner 調查，網路安全領域的專家揭示了重大威脅：62% 的組織表示遭遇過涉及社交工程或自動化過程利用的深偽攻擊，而 32% 的組織面臨針對 AI 應用程式的攻擊，這些攻擊利用了惡意的應用提示。此外，聊天機器人助手也容易受到各種對抗性提示方法的影響，攻擊者可以操縱大型語言模型（LLMs）或多模態模型，產出偏見或有害的輸出。專家預測到 2026 年底，這些戰術將成為針對傳統日常目標的普遍做法。

因此，我們必須對AI技術驅動的深偽影像進行充分的了解。KnowBe4已經針對這個主題製作了大量優質的教育內容來培訓員工，但我們更進一步，做了更大的一步！

我們現在有深偽訓練內容，讓KnowBe4鑽石級別的客戶可以利用AIDA輕鬆而安全地製作和部署模擬的深偽訓練影片給他們的團隊，就像任何其他類型的KnowBe4訓練活動一樣。

你只需按照幾個步驟指示操作，這些步驟包括上傳你想要製作深度偽造影片的人的短視頻和音頻範本（例如：你自己、CEO、CISO、CFO 等），選擇預設的場景或腳本，預覽並確認模擬的聲音，預覽並確認模擬的視頻，然後將其部署在訓練活動中。

透過這項功能，用戶可以親身體驗深度造假（deepfakes）已經變得多麼具有說服力。他們還將學習如何識別被操控的媒體，並獲得實用的提示，了解在評估看似來自熟悉且值得信賴的人士的視頻或音頻時應該注意的事項。

這將會成為你計劃中降低人為風險的重大轉捩點。你不僅可以談論深度偽造（deepfakes），還可以向員工展示一段他們認識並信任的人的影片。

這裡有一個目前定義的情境的螢幕截圖：

我們要求深偽技術（deepfakes）必須遵循預設的情境，因為我們不希望有調皮的管理員過於創意。因此，我們的新功能僅限於這些情境（雖然未來很可能會增加更多的情境）。管理員可以創建最多25部不同的深偽影片，並在他們的訓練活動中使用。

這個產品真的很好用。沒有其他產品能像它一樣，讓你輕鬆地製作深度偽造影片並部署在你的環境中。

別只是談論深偽技術，讓我們來看看它們吧！

文章來源: Unmasking the Deepfake Threat: A Game-Changer for Reducing Human Risk