Ryuketsukami/turboquant-skill

Skill de agente de IA que implementa o algoritmo de compressão TurboQuant do Google (ICLR 2026) — redução de 6x na memória do cache KV, aceleração de 8x, sem perda de precisão. Compatível com Claude Code, Codex CLI e todas as ferramentas compatíveis com Agent Skills.

O que é turboquant-skill?

Este skill capacita agentes de IA (como Claude Code e Codex CLI) a aplicar o algoritmo de compressão TurboQuant do Google (ICLR 2026) em modelos de linguagem. Ele oferece uma redução dramática de 6x no consumo de memória do cache KV e um aumento de 8x na velocidade de inferência, tudo sem nenhuma perda mensurável de precisão. O skill é projetado para ser usado por desenvolvedores que trabalham com grandes modelos de linguagem (LLMs) e precisam otimizar o uso de memória e desempenho em ambientes com recursos limitados, como inferência em dispositivos locais ou em nuvem. Ele funciona integrando-se perfeitamente aos pipelines de inferência existentes, interceptando e comprimindo os tensores do cache KV antes do armazenamento e descomprimindo-os durante a recuperação.

Funciona com✓Claude Code✓Codex CLI~Cursor
npx skills add Ryuketsukami/turboquant-skill

Installed? Explore more Produtividade e Colaboração skills: steipete/gemini, steipete/gh-issues, steipete/skill-creator · View all 6 →

Perguntar na sua IA favorita

Abre um novo chat com esta habilidade de agente já pré-carregada.

Documentação

O que turboquant-skill faz?

Skill de agente de IA que implementa o algoritmo de compressão TurboQuant do Google (ICLR 2026) — redução de 6x na memória do cache KV, aceleração de 8x, sem perda de precisão. Compatível com Claude Code, Codex CLI e todas as ferramentas compatíveis com Agent Skills.

Habilidades Relacionadas