genai-security-training は何をしますか？
🔴 生成AIおよびAI/MLシステムに対するレッドチーム演習のハンズオントレーニングを通じて、セキュリティスキルを向上させます。敵対的手法と脆弱性に焦点を当てています。
概要
このリポジトリは、GenAIおよびAI/MLシステムのセキュリティテスト（レッドチーム演習）に特化したトレーニング教材を提供します。プロンプトインジェクション、モデルポイズニング、データ漏洩などの攻撃手法を実践的に学びます。
対象者
- セキュリティエンジニア
- AI/ML開発者
- レッドチームメンバー
- セキュリティに関心のあるすべての開発者
トレーニング内容
- プロンプトインジェクション: 悪意のある入力を用いたモデルの操作
- モデルポイズニング: トレーニングデータへの攻撃
- データ漏洩対策: 機密情報の保護
- 敵対的サンプリング: モデルの誤動作を誘発する入力の生成
使用方法
git clone https://github.com/fearmotor/genai-security-training
cd genai-security-training
# 各演習のREADMEに従って進めてください
対応プラットフォーム
- Claude Code
- Cursor
- Codex
- その他のAIエージェント
ライセンス
MIT
貢献
プルリクエスト、イシュー、提案を歓迎します。