Prompt Injection 是一種將惡意指令藏在 AI 會讀取的內容中，誘使 AI 在不知情的情況下洩漏用戶資料的攻擊手法。舉個例子，當你請 ChatGPT 幫你整理某個網頁的內容時，如果該網頁中藏有惡意指令，ChatGPT 可能會被誘導將你對話中的敏感資料傳送到攻擊者控制的外部伺服器。實際上，這種攻擊之所以難以完全防堵，是因為 AI 本來就需要讀取外部內容才能發揮作用。Lockdown Mode 的設計邏輯，就是在資料即將「出門」的最後一關設下阻礙，限制 ChatGPT 對外發出的網路請求，讓攻擊者就算成功注入指令，也沒辦法把資料帶走。對資安意識較高的用戶來說，這個機制提供了一層額外的保護網。
請先 登入 以發表留言。