Was macht apple-on-device-ai?
Integriere ki auf dem Gerät (On-Device AI) mithilfe des Foundation Models Frameworks, Core ML und Open-Source-LLM-Laufzeiten auf Apple Silicon. Abgedeckt werden Foundation Models (LanguageModelSession, @Generable, @Guide, SystemLanguageModel, strukturierte Ausgabe, Tool Calling), Core ML (coremltools, Modellkonvertierung, Quantisierung, Palettisierung, Pruning, Neural Engine, MLTensor), MLX Swift (Transformer-Inferenz, einheitlicher Speicher) und llama.cpp (GGUF, plattformübergreifendes LLM). Verwende diesen Skill beim Erstellen von Tool-Calling-KI-Funktionen, beim Arbeiten mit geführten Generierungsschemata, beim Konvertieren von Modellen oder beim Ausführen lokaler Inferenz.