📰 重點摘要

OpenAI 近日正式推出「封鎖模式（Lockdown Mode）」，這項功能專為防禦提示注入攻擊（prompt injection）而設計，目的是在使用者與 ChatGPT 互動時，降低敏感資料遭到外洩的風險。提示注入是一種透過在模型輸入中植入惡意內容、誘使 AI 洩露私密資訊或執行非預期指令的攻擊手法。不過 OpenAI 也坦承，即便啟用封鎖模式，ChatGPT 仍可能面臨提示注入的威脅，並非完全免疫。這項功能的核心定位是「降低機率」而非「完全堵絕」——重點在於攻擊發生的過程中，盡可能減少敏感資料被分享出去的可能性。由於原文摘要細節有限，詳細技術說明請見原文連結。

💬 JudyAI Lab 觀點

OpenAI推出「封鎖模式」以應對提示注入攻擊，並公開坦承即便啟用也無法完全免疫——這種「降低機率，而非徹底堵絕」的定位，標誌著AI安全設計進入更務實的溝通框架。

提示注入是LLM應用面臨的核心攻擊手法之一：惡意內容混入輸入後，模型可能被誘導洩露私密資訊或執行非預期指令。OpenAI這次選擇公開承認「封鎖模式仍可能被突破」，代表業界正從「聲稱完美防禦」轉向「誠實的風險管理」思維。對任何在產品中整合LLM的開發者而言，這個案例的啟示是：安全設計不只是「能不能被突破」，更是「被突破後敏感資料暴露面有多廣」。把風險從二元（安全或不安全）轉成連續尺度（洩露多少），是更成熟的設計出發點。

下次評估AI應用的防護機制，試著把問題從「這個防護會不會被破解？」改成「防護失效後，最多能洩露多少？」這個轉換往往能逼出更實際的設計決策。

📅 原文資訊

🔗 延伸閱讀