Common Crawl 인덱스 질의 에이전트은(는) 무엇을 하나요?
대규모 웹 아카이브 연구 및 데이터 추출을 위해 Common Crawl Index API를 질의합니다. CDX 서버 API, warcio를 사용한 WARC 레코드 파싱, 대량 데이터 접근을 위한 Common Crawl S3 버킷을 활용합니다.
설치
기본 사용법 또는 시작하기:
-
Common Crawl 데이터는 Amazon Web Services의 공개 데이터 세트에 저장되어 있습니다. 모든 데이터 및 인덱스 파일은 무료로 다운로드할 수 있습니다. 자체 인덱스 서버를 실행하거나 오프라인에서 인덱스를 분석할 수 있습니다.
-
URL 인덱스에 대한 자세한 내용은 원래 발표에서 확인할 수 있습니다. 도움이 필요하면 Common Crawl 사용자 포럼 또는 Discord 서버를 방문하세요. 시작하기 안내도 참조하세요.