Community生产力与协作github.com

tatsuki817/karakan-app-selector-wen

通过优先级队列、多模型路由、容错和语义缓存,高效管理并发的LLM请求,优化AI工作流。

karakan-app-selector-wen 是什么?

该技能旨在优化AI工作流中的并发LLM请求管理。它通过实现优先级队列,确保关键任务优先处理,并支持多模型路由,可根据请求类型或负载智能选择最合适的模型。其容错机制能在单个端点失败时自动切换到备用模型,保证服务高可用性。此外,语义缓存功能通过缓存相似请求的结果,显著减少重复计算和API调用成本。该技能适用于需要高吞吐量和低延迟的AI应用,如实时聊天机器人、数据处理流水线等,支持在Claude Code、Cursor等主流AI agent平台上运行,通过灵活的配置适应不同的使用场景。

兼容平台~Claude Code~Codex CLI~Cursor
npx skills add tatsuki817/karakan-app-selector-wen

Installed? Explore more 生产力与协作 skills: steipete/gemini, steipete/gh-issues, steipete/skill-creator · View all 6 →

在你喜欢的 AI 中提问

打开一个已预加载此 Agent Skill 的新对话。

文档

karakan-app-selector-wen 是做什么的?

通过优先级队列、多模型路由、容错和语义缓存,高效管理并发的LLM请求,优化AI工作流。

相关技能