CommunitySchreiben & Editierengithub.com

lizhiyao/oh-my-knowledge

Evaluierungsframework für LLM-Wissenseingaben – Prompts, RAG-Korpora, Skills, Agent-Workflows. Fix the model, vary the artifact. Integrierte statistische Strenge: Bootstrap-KI, Krippendorff-α, Längenentzerrung, Sättigungskurven.

Was ist oh-my-knowledge?

Oh-My-Knowledge ist ein umfassendes Evaluierungs-Framework, das speziell für die systematische Bewertung von Wissenseingaben in Large Language Models (LLMs) entwickelt wurde. Es richtet sich an Entwickler und Forscher, die Prompts, RAG-Korpora, Skills oder Agent-Workflows testen und optimieren müssen. Der zentrale Ansatz lautet „Fix the model, vary the artifact“ – das LLM bleibt konstant, während die Eingabequalität variiert wird, um deren Einfluss isoliert zu messen. Das Framework bietet integrierte statistische Methoden wie Bootstrap-Konfidenzintervalle, Krippendorff-α für Inter-Rater-Reliabilität, Längenentzerrung zur Vermeidung von Verzerrungen und Sättigungskurven zur Bestimmung des optimalen Stichprobenumfangs. Es unterstützt gängige KI-Entwicklungsumgebungen wie Claude Code, Cursor und Codex und ermöglicht reproduzierbare, datengestützte Entscheidungen bei der Verbesserung von Wissensgrundlagen.

Funktioniert mit~Claude Code~Codex CLI~Cursor
npx skills add lizhiyao/oh-my-knowledge

Installed? Explore more Schreiben & Editieren skills: steipete/notion, langchain-ai/langchain, bytedance/podcast-generation · View all 6 →

In Ihrer bevorzugten KI fragen

Öffnet einen neuen Chat, in dem dieser Agent-Skill bereits geladen ist.

Dokumentation

Was macht oh-my-knowledge?

Evaluierungsframework für LLM-Wissenseingaben – Prompts, RAG-Korpora, Skills, Agent-Workflows. Fix the model, vary the artifact. Integrierte statistische Strenge: Bootstrap-KI, Krippendorff-α, Längenentzerrung, Sättigungskurven.

Verwandte Skills