¿Qué hace tavily-crawl?
Rastrea sitios web y extrae contenido de múltiples páginas mediante la CLI de Tavily. Usa esta habilidad cuando el usuario quiera rastrear un sitio, descargar documentación, extraer una sección completa de documentación, extraer páginas en lote, guardar un sitio como archivos markdown locales, o diga "rastrear", "obtener todas las páginas", "descargar la documentación", "extraer todo bajo /docs", "extracción en lote", o necesite contenido de muchas páginas en el mismo dominio. Soporta control de profundidad/amplitud, filtrado de rutas, instrucciones semánticas y guardado de cada página como un archivo markdown local.