Que fait apple-on-device-ai ?
Intégrez l'IA sur l'appareil en utilisant le framework Foundation Models, Core ML et des runtimes LLM open source sur Apple Silicon. Couvre Foundation Models (LanguageModelSession, @Generable, @Guide, SystemLanguageModel, sortie structurée, appel d'outils), Core ML (coremltools, conversion de modèles, quantification, palettisation, élagage, Neural Engine, MLTensor), MLX Swift (inférence de transformeurs, mémoire unifiée) et llama.cpp (GGUF, LLM multiplateforme). Utilisez cette compétence lors de la création de fonctionnalités d'IA avec appel d'outils, du travail avec des schémas de génération guidée, de la conversion de modèles ou de l'exécution d'inférences sur l'appareil.