プロンプトインジェクション攻撃の防御と回復パイプラインのベンチマーク

プロンプトインジェクション攻撃の防御と回復パイプラインのベンチマーク（Open Prompt Injection使用）

LLM統合アプリを本番環境に投入する前に、構造化されたプロンプトインジェクション攻撃と防御の実験を実行し、攻撃成功率を測定し、検出・回復パイプラインをテストします。

前提条件

Condaで管理されたPython環境、上流リポジトリのチェックアウト、上流で設定されたモデルAPI認証情報、ターゲットタスクと攻撃構成ファイル

インストール

環境に合わせて上流のインストールまたはセットアップパスを使用してください：

• conda env create -f environment.yml --name my_custom_env
• conda activate my_custom_env

上流からの要件と注意事項：

• 必要なPythonパッケージ

• python

基本的な使用方法または入門ノート：

• 次に環境をアクティブ化します：

• 簡単なデモ

• 開始する前に、'./configs/model_configs/palm2_config.json'に移動し、APIキーを実際のキーに置き換えてください。PaLM2のAPIキーを取得する方法については、Googleの公式サイトを参照してください。MetaのLlamaモデルの場合...

• ソース：https://github.com/liu00222/Open-Prompt-Injection

• 上流ドキュメントから抽出：https://raw.githubusercontent.com/liu00222/Open-Prompt-Injection/HEAD/README.md

ドキュメント

• https://github.com/liu00222/Open-Prompt-Injection

ソース

• Agent Skill Exchange