基準測試提示注入攻擊、防禦與恢復管道

在信任 LLM 應用程式前，使用 Open Prompt Injection 基準測試提示注入攻擊、防禦與恢復管道

在生產環境前，對整合 LLM 的應用程式執行結構化提示注入攻擊與防禦實驗，透過衡量攻擊成功率並測試偵測或恢復管道來驗證安全性。

先決條件

由 Conda 管理的 Python 環境、上游儲存庫複本、依上游設定配置的模型 API 憑證、目標任務與攻擊設定檔

安裝

使用符合您環境的上游安裝或設定路徑：

• conda env create -f environment.yml --name my_custom_env
• conda activate my_custom_env

來自上游的需求與注意事項：

• 所需的 Python 套件

• python

基本使用或入門說明：

• 然後啟動環境：

• 簡單示範

• 開始之前，請前往 './configs/model_configs/palm2_config.json' 並將 API 金鑰替換為您的實際金鑰。如需取得 PaLM2 的 API 金鑰，請參考 Google 官方網站。對於 Meta 的 Llama 模型...

• 來源：https://github.com/liu00222/Open-Prompt-Injection

• 從上游文件提取：https://raw.githubusercontent.com/liu00222/Open-Prompt-Injection/HEAD/README.md

文件

• https://github.com/liu00222/Open-Prompt-Injection

來源

• Agent Skill Exchange