自生成式人工智慧（AI）「ChatGPT」問世以來，已成為眾多惡意攻擊者濫用於欺瞞或入侵的工具。本文提出最新的網路攻擊手段，利用生成式AI難以防範的「幻覺」現象，藉ChatGPT提供的錯誤資訊發動攻擊。這種手法不只攻擊程式開發人員，更可用於誘導大眾進入惡意網站等廣泛使用情境，人們必須隨時保持警惕，不得隨意信任AI生成或推薦的資訊。