O que genai-security-training faz?
🔴 Aprimore suas habilidades de segurança com treinamento prático em red teaming para sistemas GenAI e IA/ML, com foco em técnicas adversariais e vulnerabilidades.
Visão Geral
Este repositório fornece um treinamento completo em segurança ofensiva para sistemas de Inteligência Artificial Generativa (GenAI) e Aprendizado de Máquina (IA/ML). Ele é ideal para profissionais de segurança, desenvolvedores e pesquisadores que desejam entender como atacar e defender modelos de IA.
Tópicos Abordados
- Injeção de Prompt: Técnicas para manipular a saída de modelos de linguagem.
- Extração de Dados: Como obter informações confidenciais de modelos treinados.
- Manipulação de Saídas: Alteração de respostas de modelos para fins maliciosos.
- Ataques de Evasão: Enganar modelos para classificar incorretamente entradas.
- Envenenamento de Dados: Inserir dados maliciosos no treinamento do modelo.
Pré-requisitos
- Conhecimento básico de IA/ML.
- Familiaridade com Python e ferramentas de linha de comando.
- Acesso a um ambiente de desenvolvimento com agentes de IA (Claude Code, Cursor, Codex, etc.).
Como Usar
- Clone o repositório:
git clone https://github.com/fearmotor/genai-security-training.git - Navegue até o diretório do projeto:
cd genai-security-training - Siga as instruções em cada módulo de treinamento.
Recursos
- Documentação detalhada em cada pasta de módulo.
- Scripts Python prontos para uso.
- Exemplos de ataques e defesas.
Contribuição
Contribuições são bem-vindas! Sinta-se à vontade para abrir issues e pull requests.
Licença
Este projeto está licenciado sob a licença MIT - veja o arquivo LICENSE para detalhes.