O que taifeng faz?
泰逢 · 动 agent 的天地气 —— 微内核 Python LLM Agent 可嵌入 (skill=markdown, LLM=调度器, cache-aware 压缩).
Visão Geral
O taifeng é um microkernel para agentes LLM em Python, projetado para ser leve e facilmente incorporável em outros sistemas. Ele gerencia a execução de tarefas de agentes, utilizando um escalonador inteligente para otimizar o uso de modelos de linguagem grandes (LLMs) e implementando compressão cache-aware para reduzir o consumo de memória.
Funcionalidades
- Microkernel Leve: Núcleo mínimo com capacidade de extensão via plugins.
- Escalonador de LLM: Gerencia chamadas a LLMs de forma eficiente, evitando gargalos.
- Compressão Cache-Aware: Reduz o uso de memória cache, melhorando o desempenho em dispositivos com recursos limitados.
- Descrição de Skills em Markdown: Permite que desenvolvedores definam habilidades do agente em formato Markdown, facilitando a criação e manutenção.
- Suporte a Múltiplos Ambientes: Pode ser executado em IoT, embarcados, servidores e ambientes desktop.
Instalação
pip install taifeng
Uso Básico
from taifeng import Agent
agent = Agent(name="meu_agente", skill="minha_skill.md")
agent.run()
API
Agent(nome, skill)
nome(str): Nome do agente.skill(str): Caminho para o arquivo de skill em Markdown.
agent.run()
Executa o agente, que interpreta a skill e executa as ações definidas.
Estrutura do Projeto
taifeng/
├── agent.py # Classe principal do agente
├── scheduler.py # Escalonador de LLM
├── cache.py # Gerenciamento de cache compressão
├── skill_parser.py # Interpretador de arquivos Markdown de skill
└── plugins/ # Diretório para plugins
└── exemplo.py # Plugin de exemplo
Contribuição
Contribuições são bem-vindas! Sinta-se à vontade para abrir issues ou pull requests no repositório oficial.
Licença
MIT