apple-on-device-ai 是做什么的?
使用 Foundation Models 框架、Core ML 和 Apple Silicon 上的开源 LLM 运行时集成设备端 AI。涵盖 Foundation Models(LanguageModelSession、@Generable、@Guide、SystemLanguageModel、结构化输出、工具调用)、Core ML(coremltools、模型转换、量化、调色板化、剪枝、神经引擎、MLTensor)、MLX Swift(变压器推理、统一内存)和 llama.cpp(GGUF、跨平台 LLM)。在构建工具调用的 AI 功能、处理引导生成模式、转换模型或运行设备端推理时使用。