生成式AI代理面臨資安威脅:藉RAG竊取機密的蠕蟲攻擊
  • 424
  • 出版日期
    07月31日, 2024
  • 作者
    NIKKEI XTECH
前言

2024年3月,新型蠕蟲「Morris II」問世,可針對搭載生成式人工智慧(AI)的作業系統發動攻擊,藉由現今企業積極發展的檢索增強生成(RAG)系統竊取機密,並能自我複製並擴散感染。此類攻擊為近年蔚為話題的生成式AI代理敲響了警鐘,儘管現階段Morris II帶來的威脅不大,但隨著生成式AI逐漸普及化,不排除未來數年內將迅速擴散,企業應對AI相關資安議題密切關注並加緊提防。

目錄
    可對AI發出提示詞並自我複製的蠕蟲
    藉由RAG竊取企業內部機密
    企業應謹防類似惡意攻擊
    附錄
圖目錄
    圖一、「Morris II」蠕蟲的攻擊機制
    圖二、可自我複製的提示詞範例
    圖三、對於濫用生成式AI的蠕蟲防禦措施
表目錄
推薦報告
  • 以上研究報告資料係經由MIC內部整理分析所得,並對外公告之研究成果, 由於產業倍速變動、資訊的不完整,及其他不確定之因素,並不保證上述報告於未來仍維持正確與完整, 引用時請注意發佈日期,及立論之假設或當時情境,如有修正、調整之必要,MIC將於日後研究報告中說明。 敬請參考MIC網站公告之最新結果。
  • 著作權所有,非經本會書面同意,不得翻印或轉讓。
  • BACK
    評論此篇報告
    您的評論已送出
    我們會竭誠盡快地回覆您。
    分享此篇報告
    Facebook
    Line
    複製連結
    登入
    正式會員第一次使用,請輸入會員編號/會員密碼/Email,系統會偵測第一次使用,註冊/認證之後,即可上線使用

    不是會員?

    邀請您申請免費試閱聯絡我們