bright-data-best-practices 是做什么的?
使用内置最佳实践构建生产级 Bright Data 集成。为开发者使用编码助手(如 Claude Code、Cursor 等)实现网络抓取、搜索、浏览器自动化和结构化数据提取提供参考文档。涵盖 Web Unlocker API、SERP API、Web Scraper API 和 Browser API(Scraping Browser)。
概述
本技能文档旨在帮助开发者通过 AI 编码助手高效集成 Bright Data 平台。它提供了代码示例、配置参数和错误处理策略,确保集成过程稳健且可维护。
支持的 API
Web Unlocker API
- 自动处理 IP 轮换和浏览器指纹识别
- 适用于高难度目标网站
SERP API
- 从 Google、Bing 等搜索引擎获取实时搜索结果
- 支持自定义查询参数
Web Scraper API
- 提取结构化数据(如产品信息、价格)
- 支持自定义选择器和分页
Browser API(Scraping Browser)
- 通过 Puppeteer/Playwright 控制无头浏览器
- 适用于 JavaScript 渲染页面和复杂交互
环境变量
在项目中设置以下环境变量以安全使用 Bright Data API:
export BRIGHTDATA_USERNAME="your_username"
export BRIGHTDATA_PASSWORD="your_password"
export BRIGHTDATA_ZONE="your_zone"
示例代码
使用 Web Unlocker 抓取单个页面
import requests
url = "https://example.com"
proxy = f"http://{BRIGHTDATA_USERNAME}:{BRIGHTDATA_PASSWORD}@zproxy.lum-superproxy.io:22225"
response = requests.get(url, proxies={"http": proxy, "https": proxy})
print(response.text)
使用 SERP API 获取搜索结果
import requests
params = {
"source": "google",
"query": "latest AI trends"
}
response = requests.get("https://api.brightdata.com/serp", params=params)
print(response.json())
最佳实践
- 错误重试:对临时故障使用指数退避策略
- 速率限制:遵守 API 配额,避免高频请求
- 数据验证:检查返回数据的完整性
- 安全性:永远不要将凭据硬编码到代码中
调试和故障排除
查看 Bright Data 官方文档的日志和状态代码:
贡献
欢迎通过 Pull Requests 提交修复或改进。确保所有示例代码经过测试并遵循最佳实践。