dpearson2699/Apple-온디바이스-AI

Apple-온디바이스-AI은(는) 무엇을 하나요?

Foundation Models 프레임워크, Core ML 및 오픈소스 LLM 런타임을 사용하여 Apple Silicon에서 온디바이스 AI를 통합합니다. Foundation Models (LanguageModelSession, @Generable, @Guide, SystemLanguageModel, 구조적 출력, 도구 호출), Core ML (coremltools, 모델 변환, 양자화, 팔레트화, 가지치기, Neural Engine, MLTensor), MLX Swift (트랜스포머 추론, 통합 메모리), 그리고 llama.cpp (GGUF, 크로스 플랫폼 LLM)을 다룹니다. 도구 호출 AI 기능 구축, 유도 생성 스키마 작업, 모델 변환 또는 온디바이스 추론 실행 시 사용하세요.