使用 Open Prompt Injection 基准测试提示注入攻击、防御与恢复管道

在信任 LLM 应用之前，使用 Open Prompt Injection 基准测试提示注入攻击、防御与恢复管道

在生产环境前，对集成 LLM 的应用运行结构化提示注入攻击与防御实验，衡量攻击成功率并测试检测或恢复管道。

先决条件

Conda 管理的 Python 环境、上游仓库检出、按上游配置的模型 API 凭证、目标任务和攻击配置文件

安装

使用与您的环境匹配的上游安装或设置路径：

• conda env create -f environment.yml --name my_custom_env
• conda activate my_custom_env

来自上游的要求和注意事项：

• 所需的 Python 包

• python

基本使用或入门说明：

• 然后激活环境：

• 简单演示

• 开始前，前往 './configs/model_configs/palm2_config.json' 并将 API 密钥替换为您的真实密钥。请参考 Google 官方网站了解如何获取 PaLM2 的 API 密钥。对于 Meta 的 Llama 模型...

• 来源：https://github.com/liu00222/Open-Prompt-Injection

• 从上游文档提取：https://raw.githubusercontent.com/liu00222/Open-Prompt-Injection/HEAD/README.md

文档

• https://github.com/liu00222/Open-Prompt-Injection

来源

• Agent Skill Exchange