OpenAI 推出鎖定模式 防範數據外洩

根據 simonwillison.net 的部落格文章分析指出，OpenAI 在二月預告的 Lockdown Mode 功能現已正式上線，並向包括免費、Go、Plus、Pro 個人帳號及自助 ChatGPT 商業帳號推出。Lockdown Mode 設計用來幫助防止 prompt injection 攻擊的最後階段數據外洩，方法是限制可能將敏感數據傳輸給攻擊者的出站網路請求。然而，該功能並不能防止 prompt injection 出現在 ChatGPT 處理的內容中，例如快取網頁內容或上傳檔案中仍可能出現影響回應行為或準確性的注入。評論者認為這直接解決了「致命三角形」中的數據竊取向量，使用確定性機制且不受 AI 系統本身可被攻擊的影響。不過，Lockdown Mode 的存在也暗示 ChatGPT 在預設設定下，對於足夠堅定的數據外洩攻擊可能缺乏穩健保護。