CommunityProductivité et collaborationgithub.com

yaklang/ai-ml-security

Guide de sécurité IA/ML. Utilisez-le pour évaluer les attaques sur la chaîne d'approvisionnement des modèles (RCE via pickle, poids empoisonnés), les exemples antagonistes, l'empoisonnement de modèles, le vol de modèles, les attaques contre la vie privée des données (inférence d'appartenance, inversion de modèle) et les risques de sécurité liés aux agents autonomes.

Qu'est-ce que ai-ml-security ?

Ce skill fournit un guide complet de sécurité pour l'intelligence artificielle et l'apprentissage automatique (IA/ML). Il couvre les principales menaces telles que les attaques sur la chaîne d'approvisionnement (par exemple, l'exécution de code à distance via des fichiers pickle malveillants, ou des poids de modèle empoisonnés), les exemples antagonistes (entrées conçues pour tromper un modèle), l'empoisonnement de modèles (corruption intentionnelle des données d'entraînement), le vol de modèles (extraction illicite d'un modèle propriétaire), les attaques contre la vie privée des données (inférence d'appartenance et inversion de modèle), et les risques spécifiques aux agents autonomes. Il est conçu pour être utilisé comme un manuel de référence lors de l'évaluation de la sécurité d'un système IA/ML. Le skill est agnostique vis-à-vis de la plateforme et peut être utilisé avec des outils comme Claude Code, Cursor, ou Codex, fournissant des directives et des contre-mesures pour chaque type d'attaque.

Compatible avec~Claude Code~Codex CLI~Cursor
Part ofAgent Workflows
npx skills add https://github.com/yaklang/hack-skills/tree/main/skills/ai-ml-security

Installed? Explore more Productivité et collaboration skills: steipete/gemini, steipete/gh-issues, steipete/skill-creator · View all 6 →

Voir l'original→Voir toutes les compétences

Demander à votre IA préférée

Ouvre une nouvelle conversation avec cette compétence d'agent déjà préchargée.

OpenAIChatGPTClaudeClaudeGeminiGeminiGrokGrokPerplexityPerplexityDeepSeekDeepSeek

Documentation

Que fait ai-ml-security ?

Guide de sécurité IA/ML. Utilisez-le pour évaluer les attaques sur la chaîne d'approvisionnement des modèles (RCE via pickle, poids empoisonnés), les exemples antagonistes, l'empoisonnement de modèles, le vol de modèles, les attaques contre la vie privée des données (inférence d'appartenance, inversion de modèle) et les risques de sécurité liés aux agents autonomes.

Attaques sur la chaîne d'approvisionnement

RCE via pickle

  • Description: L'exécution de code à distance peut être déclenchée lors du chargement de modèles sérialisés avec pickle. Un attaquant peut injecter du code malveillant dans un fichier pickle.
  • Contre-mesures: Utilisez des formats sécurisés comme safetensors ou ONNX. Désérialisez uniquement des modèles provenant de sources fiables.

Poids empoisonnés

  • Description: Des poids de modèle modifiés peuvent introduire des backdoors ou dégrader les performances.
  • Contre-mesures: Vérifiez l'intégrité des poids avec des sommes de contrôle (hash). Utilisez des registres de modèles.

Exemples antagonistes

Description

Des entrées légèrement modifiées (bruit imperceptible) qui provoquent une classification erronée.

Contre-mesures

  • Entraînement adversarial : Incluez des exemples antagonistes dans les données d'entraînement.
  • Prétraitement robuste : Filtrage, compression, etc.

Empoisonnement de modèles

Description

Corruption des données d'entraînement pour altérer le comportement du modèle final.

Contre-mesures

  • Nettoyage des données : Détection d'anomalies et filtrage.
  • Contrôle d'accès : Authentification forte pour les pipelines de données.

Vol de modèles

Description

Extraction d'un modèle propriétaire via des requêtes API, l'analyse des gradients ou l'ingénierie inverse.

Contre-mesures

  • Limitation de requêtes : Quotas et analyse de débit.
  • Bruit dans les réponses : Ajout de bruit aux logits ou aux prédictions.

Attaques contre la vie privée des données

Inférence d'appartenance

  • Description: Déterminer si un enregistrement spécifique faisait partie des données d'entraînement.
  • Contre-mesures: Utilisation de la confidentialité différentielle (dp-SGD).

Inversion de modèle

  • Description: Reconstruire des exemples d'entraînement à partir des gradients ou des sorties du modèle.
  • Contre-mesures: Gradients bruités, quantisation, limitation de l'accès aux gradients.

Sécurité des agents autonomes

Risques

  • Injection de prompts : Un attaquant peut manipuler les instructions de l'agent.
  • Exfiltration de données : L'agent peut transmettre des informations sensibles à des tiers.
  • Abus des outils : L'agent peut utiliser des outils de manière non intentionnelle ou malveillante.

Contre-mesures

  • Sandboxing : Exécution isolée de l'agent.
  • Validation des entrées/sorties : Filtrage des commandes et des données.
  • Principe du moindre privilège : Limiter les permissions de l'agent.

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

yaklang/401-403-bypass-techniques

401/403 bypass playbook. Use when encountering access-denied responses on admin panels, API endpoints, or restricted paths. Covers path manipulation, HTTP method tampering, header injection, protocol downgrade, and automated bypass tools.

yaklang/active-directory-acl-abuse

Active Directory ACL abuse playbook. Use when exploiting misconfigured AD permissions including GenericAll, WriteDACL, DCSync rights, shadow credentials, LAPS reading, GPO abuse, and BloodHound-guided attack paths.

yaklang/active-directory-certificate-services

AD Certificate Services attack playbook. Use when targeting misconfigured AD CS for privilege escalation via ESC1-ESC13 template abuse, NTLM relay to enrollment, CA officer abuse, and certificate-based persistence.

yaklang/active-directory-kerberos-attacks

Kerberos attack playbook for Active Directory. Use when targeting AD authentication via AS-REP roasting, Kerberoasting, golden/silver/diamond tickets, delegation abuse, or pass-the-ticket attacks.

yaklang/android-pentesting-tricks

Android pentesting playbook. Use when testing Android applications for SSL pinning bypass, exported component abuse, WebView vulnerabilities, intent redirection, root detection bypass, tapjacking, and backup extraction during authorized mobile security assessments.

yaklang/anti-debugging-techniques

Anti-debugging detection and bypass playbook. Use when reversing protected binaries that detect debuggers via ptrace, PEB flags, timing checks, or signal/exception handlers on Linux and Windows.

yaklang/api-auth-and-jwt-abuse

API authentication and JWT abuse playbook. Use when testing bearer tokens, API keys, claim trust, header spoofing, rate limits, and API auth boundary weaknesses.

yaklang/api-authorization-and-bola

API authorization and BOLA testing playbook. Use when APIs expose object identifiers, nested resources, hidden writable fields, or weak function-level authorization.

yaklang/api-recon-and-docs

API reconnaissance and documentation review playbook. Use when discovering endpoints, schemas, versions, OpenAPI specs, hidden docs, and surface area for API testing.

yaklang/api-sec

Entry P1 category router for API security. Use when choosing between API recon, authorization, token abuse, and hidden-parameter workflows before any deeper API topic skill.

yaklang/arbitrary-write-to-rce

Arbitrary write to RCE playbook. Use when you have an arbitrary write primitive (from heap exploitation, format string, or OOB write) and need to convert it into code execution by targeting GOT, hooks, _IO_FILE vtable, exit_funcs, TLS_dtor_list, modprobe_path, .fini_array, or C++ vtables.

yaklang/authbypass-authentication-flaws

Authentication bypass testing playbook. Use when assessing login flows, password reset logic, account recovery, MFA bypass, token predictability, brute-force resistance, and session boundary flaws.

yaklang/auth-sec

Entry P1 category router for authentication and authorization. Use when testing login flows, sessions, object authorization, JWT, OAuth, CORS, CSRF, and enterprise SSO weaknesses before any deeper auth topic skill.

yaklang/binary-protection-bypass

Binary protection bypass playbook. Use when identifying and bypassing ASLR, PIE, NX/DEP, stack canary, RELRO, FORTIFY_SOURCE, CET, and MTE protections in ELF binaries to enable exploitation.

yaklang/browser-exploitation-v8

Browser and V8 exploitation playbook. Use when exploiting JavaScript engine vulnerabilities including JIT type confusion, incorrect bounds elimination, and V8 sandbox bypass to achieve renderer RCE and sandbox escape in Chrome/Chromium.

yaklang/business-logic-vuln

Entry P1 category router for business logic testing. Use when workflow abuse, race conditions, pricing flaws, or multi-step state attacks matter more than parser-level input injection.

yaklang/business-logic-vulnerabilities

Business logic vulnerability playbook. Use when reasoning about workflows, race conditions, price manipulation, coupon abuse, state machines, and multi-step authorization gaps.

yaklang/classical-cipher-analysis

Classical cipher analysis playbook. Use when encountering substitution ciphers, Vigenere, transposition, XOR, or encoded text in CTF challenges that requires frequency analysis, Kasiski examination, or known-plaintext cryptanalysis.

yaklang/clickjacking

Clickjacking playbook. Use when testing whether target pages can be framed, whether X-Frame-Options or CSP frame-ancestors are properly configured, and whether UI redress attacks can trigger sensitive actions.

yaklang/cmdi-command-injection

Command injection playbook. Use when user input may reach shell commands, process execution, converters, import pipelines, or blind out-of-band command sinks.

Skills associés

steipete/gemini

Gemini CLI one-shot prompts, summaries, generation, skills, hooks, MCP, or Gemma routing.

community

steipete/gh-issues

Fetch GitHub issues, select candidates, spawn background fix agents, open PRs, and optionally process PR review comments.

community

steipete/skill-creator

Create, edit, audit, tidy, validate, or restructure AgentSkills and SKILL.md files.

community

steipete/clawhub

Search, install, update, sync, or publish agent skills with the ClawHub CLI and registry.

community

steipete/coding-agent

Delegate coding work to Codex, Claude Code, or OpenCode as background workers; not simple edits or read-only code lookup.

community

steipete/mcporter

List, configure, authenticate, call, and inspect MCP servers/tools with mcporter over HTTP or stdio.

community
← More Productivité et collaboration skills