DeepSharp-IO/AISense

Que fait AISense ?

AISense optimise GitHub Copilot Chat grâce à une compression intelligente des prompts et un routage avisé des modèles. Il compresse les invites à l'aide de règles adaptatives, oriente les demandes simples vers des modèles locaux (Ollama, Docker) pour économiser les jetons cloud, et suit les coûts d'IA. Inclut l'agent personnalisé « Saver » pour des interactions rentables.

Fonctionnalités principales

• Compression adaptative des prompts : Réduit la longueur des prompts sans perdre d'informations essentielles, diminuant ainsi la consommation de jetons.
• Routage intelligent des modèles : Envoie les requêtes simples (ex. : suggestions de code, corrections de syntaxe) à des modèles locaux (Ollama, Docker) et les requêtes complexes à des modèles cloud puissants.
• Suivi des coûts : Affiche les économies réalisées et le nombre de jetons utilisés, avec un tableau de bord intégré.
• Agent Saver : Un agent personnalisé qui applique automatiquement les stratégies d'optimisation pour toutes les interactions.

Comment ça marche

AISense intercepte chaque prompt avant qu'il ne soit envoyé au modèle. Il analyse la complexité de la demande :

• Si la requête est simple (une question factuelle, une correction mineure), elle est redirigée vers un modèle local comme Ollama ou Docker (par exemple, llama3.2 ou codellama).
• Si la requête est complexe (génération de code élaboré, débogage avancé), le prompt compressé est envoyé au modèle cloud (par exemple, GPT-4).

La compression adaptative supprime les répétitions, reformule les phrases pour plus de concision, et conserve les éléments techniques (code, noms de variables) intacts.

Prérequis

• GitHub Copilot Chat activé
• (Optionnel) Ollama ou Docker installés pour le routage local
• Node.js 18+ ou Python 3.9+

Installation

1. Clonez ce dépôt :

   git clone https://github.com/DeepSharp-IO/AISense.git
   cd AISense
   

2. Installez les dépendances :

   npm install
   # ou
   pip install -r requirements.txt
   

3. Configurez les variables d'environnement :

   • OPENAI_API_KEY : Clé API pour les modèles cloud
   • OLLAMA_ENDPOINT : (optionnel) URL de votre instance Ollama, ex. http://localhost:11434
   • AI_COST_TRACKING : Activez le suivi des coûts avec true

4. Lancez AISense :

   node index.js
   

Utilisation

Une fois lancé, AISense s'intègre automatiquement à GitHub Copilot Chat. Vous pouvez aussi utiliser l'agent Saver en tapant @Saver dans le chat pour des interactions optimisées.

Exemple de configuration de routage dans config.json :

{
  "localModel": "codellama",
  "localEndpoint": "http://localhost:11434",
  "cloudModel": "gpt-4",
  "complexityThreshold": 0.6
}

Suivi des coûts

AISense affiche un résumé des économies dans la console ou via une API REST (port 3000 par défaut) :

• GET /costs : Obtenez les statistiques de coûts
• GET /summary : Résumé des économies réalisées

Licence

MIT