Community연구 & 데이터 분석github.com

geniusdapeng-collab/WorkLoom-video-edit

用 Scrapling 做批量公开数据采集——自适应元素定位(页面改版自动重定位)、爬虫模板(CrawlSpider/SitemapSpider 等)、断点恢复、自动限速、结构化导出。适用于竞品监控、比价、内容采集等高频批量场景。

WorkLoom-video-edit란 무엇인가요?

WorkLoom-video-edit is a Claude Code agent skill that 用 Scrapling 做批量公开数据采集——自适应元素定位(页面改版自动重定位)、爬虫模板(CrawlSpider/SitemapSpider 等)、断点恢复、自动限速、结构化导出。适用于竞品监控、比价、内容采集等高频批量场景。.

지원 대상~Claude Code~Codex CLI~Cursor
npx skills add https://github.com/geniusdapeng-collab/WorkLoom-video-edit/tree/HEAD/skills/registry/scrapling-collector

Installed? Explore more 연구 & 데이터 분석 skills: affaan-m/uspto-database, affaan-m/scholar-evaluation, affaan-m/literature-review · View all 6 →

즐겨 사용하는 AI에게 물어보기

이 에이전트 스킬이 미리 로드된 새 채팅을 엽니다.

문서

自适应数据采集框架(Scrapling 采集面)

触发(何时用)

  • 批量数据采集:要从一批页面/整个站点抓取结构化数据(价格、房源、商品、文章),不是操作单个页面时;
  • 目标站结构会变动:选择器经常失效、需要"记一次、自动跟着页面改版走"的自适应定位时;
  • 需要现成爬虫范式:整站爬取(CrawlSpider)、站点地图(SitemapSpider)、Feed/Shopify 采集,不想从零写循环时;
  • 需要后台 API 数据:页面数据其实来自 XHR/fetch 接口,用 capture_xhr 直接收响应比解析 DOM 更快时;
  • 需要结构化交付:结果直接导出 JSON/JSONL/CSV/XML 进下游流程时。

何时不用它(分工纪律):

场景用谁
单次页面操作(点击/填表/截图/登录态操作)computer-use 或 browser-playwright 技能
固定流程固化(每天同样的点击序列)browser-playwright 技能
多账号矩阵、强反封锁对抗、Cloudflare 付费级防护browser-act 技能(可选,须审批)
采集公开页面数据、结构变动频繁的站点本技能

步骤

  1. 判断抓取层级:静态页用 Fetcher(纯 HTTP,最快);动态渲染用 DynamicFetcher(Playwright Chromium);有拦截用 StealthyFetcher(指纹伪装)。能用浅的就不用深的;
  2. 记住关键元素:首次解析用 auto_save=True 保存元素特征,后续调用传 adaptive=True——页面改版后按相似度自动重新定位,不再因选择器失效返工;
  3. 批量任务用 Spider:start_urls + parse 声明式写法;开 AutoThrottle(按目标站响应自动调速,被限速按 Retry-After 退避);大任务开断点保存(Ctrl+C 可恢复);
  4. 接口数据直接收:数据来自后台 API 时用 capture_xhr 收 XHR 响应,跳过 DOM 解析;
  5. 导出进下游:内置 JSON/JSONL/CSV/XML 导出,直接对接 WorkData 或文件交付;
  6. 多会话:不同目标/不同反爬级别用会话路由(sid)分流,代理经 ProxyRotator 轮换(客户自带代理)。

边界(什么不做)

  • 只采公开数据:目标站须为公开页面或客户已获授权;目标站清单进围栏审批(fenceParams.targetDomainsRequireApproval),未批准的目标不采;
  • 尊重 robots.txt:respect_robots_txt=True 为默认;关闭须审批并留痕;
  • 不硬闯反爬:StealthyFetcher 的指纹伪装用于正常采集防误伤;solve_cloudflare 级对抗默认关闭,开启须审批(与 browser-act 同纪律);Akamai/DataDome 级企业防护不硬碰,转人工评估;
  • 限速是天条:AutoThrottle 常开;单目标站日请求上限由 fenceParams.dailyActionCap 约束,默认 500 起;
  • 登录态由用户本人完成,API Key 与登录态只存本机,不进技能正文、不出站;
  • 采到的数据按 WorkData 三段瀑布处理(PII 脱敏后才可进上下文或出站)。

安装与依赖

pip install "scrapling[fetchers]"   # Python ≥ 3.10
scrapling install                    # 下载浏览器依赖(DynamicFetcher 用)

MCP 服务器形态(scrapling[ai])为可选增强,默认不启用;启用须审批并声明出站。

Individual skills in this repo

This repo contains 20 individual skills — each has its own dedicated page.

geniusdapeng-collab/WorkLoom-video-edit

配乐交付规范官方套件:原节目默认来源、显式独立分轨授权、单次实际混音、曲目许可与字节证据,完整平台/电平/选段工艺参数和用户返修归因。成功源镜不经声音品质复检,不按余量/可闻度/卡点分数自动重试或降级;绑定 G-BGM0..G-BGM5,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

曲库与许可合规官方套件(随 bundles/ai-video 分发):无版权曲库怎么接、许可白名单与商用红线、TASL 署名怎么出、AI 生成音乐的许可陷阱(MusicGen 权重 CC-BY-NC)、自算作曲为什么是默认路径。安装后被 BGM 配乐师调用;绑定围栏 G-BGM0..G-BGM5,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

配乐定调官方套件(随 bundles/ai-video 分发):题材×场景×情绪→调式/调性/BPM/和弦/配器/结构的选型法,含 32 个题材配方(16 既有 + T-15 新增 16)、速度决策(配方 BPM vs 剪辑点反推)、禁忌清单与"允许不配"。安装后被 BGM 配乐师调用;绑定围栏 G-BGM0..G-BGM5,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

人声分离纪律官方套件(随 bundles/ai-video 分发):什么时候真需要分轨、两档引擎链(demucs/audio-separator → ffmpeg 中心声道近似)、质量等级与诚实标注、单声道与失败处理、与 UVR/Spleeter 的关系。安装后被 BGM 配乐师调用;绑定围栏 G-BGM0..G-BGM5,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

SRT/ASS、字体解析、实际烧录与文字扩展轨的完整执行纪律;默认一次处理、原片原声保持,核对时间轴和真实产物,不抽帧评审可现度或循环选优;遵守 G-SUB 围栏的原片、字体、权限和执行回执约束。

geniusdapeng-collab/WorkLoom-video-edit

摄影知识库调用技能(随 bundles/ai-video 分发):19 篇九章式摄影知识(光学/景别/运镜/光线/色彩/材质/天气/风格/情绪),每篇第六章是「意图→提示词」核心调用区。用于写镜头提示词前定光圈/焦距/景别/光位/色调/材质,把参数意图翻译成画面语言。绑定制片与摄影指导岗位及围栏 G-KB0–G-KB4;卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

调色交付规范官方套件:Rec.709 本地加工、平台派生、滤镜和来源证据、真实产物哈希、版本回滚与用户反馈归因。成功渲染素材默认接受,保留完整参数与工艺参考,未测画面品质如实为空,实际缺件、授权或加工失败保持阻断;绑定 G-COL0..G-COL4,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

调色执行纪律官方套件(随 bundles/ai-video 分发):规格读取、明确校正与风格配方、单次请求加工、多镜参考匹配、来源和输出字节留痕,保留目标值与 profile 工艺知识。成功源镜默认接受,独立诊断不接入品质否决或自动重做;绑定 G-COL0..G-COL4,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

题材、场景、情绪与平台到单次调色配方的选型方法;保留题材表、参数建议、操作流程与失败诊断,成功渲染素材默认进入后期,不以画面评分复核或重做。

geniusdapeng-collab/WorkLoom-video-edit

多镜色彩一致性官方套件:指定参考镜、逐镜派生曝光和色度校正、完整批次结果、原片只读与当前字节证据。保留参考选择与诊断残差的工艺知识,成功源镜默认接受,成片不以残差、肤色或主观跳变自动拒绝重做;绑定 G-COL0..G-COL4,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

评论三级分流 SOP 官方套件(随 bundles/ai-video 分发,F8.1 官方套件级):评论采集→意图分类→三级分流(夸赞 auto/咨询 review/负面 review+告警/敏感 block)、投诉维权关键词必审+告警、外发回执落账。安装后被评论区运营调用;绑定围栏 G10,卸载即撤销(F8.2/L8.3)。

geniusdapeng-collab/WorkLoom-video-edit

封面设计官方套件:按明确标题、主视觉镜号/时刻、平台与账号字体色板一次本地合成,保留字号、安全区、人物布局和标题工艺知识。成功源镜默认接受,不调用模型选帧或整图质量评审,不做 PSNR/墨迹投票自动重做;实际来源、字体、请求和产物失败明确,绑定 G-MAT1/G-SUB3。

geniusdapeng-collab/WorkLoom-video-edit

封面设计知识库(cover-kb)调用技能。为封面设计师岗位提供「平台规范 / 账号定位 / 题材映射 / 钩子公式 / 构图工艺」的结构化检索与注入纪律(14 篇九章式,确定性检索,无向量库)。绑定围栏 G-SUB2/G-SUB3/G-MAT1;卸载即撤销封面 know-how 注入能力。

geniusdapeng-collab/WorkLoom-video-edit

母版、旁挂字幕、软轨、封面、变体、工程与清单的完整交付纪律;含产物表、变体设计、执行参数、来源哈希与逐层失败 SOP。按声明配方实际执行,保留来源与真实错误,不以差异评分、声音质量或默认增强模型再次拒收素材;绑定 G-DLV0..G-DLV9,供后期交付与封面岗位调用。

geniusdapeng-collab/WorkLoom-video-edit

返修闭环官方套件:反馈归因、层影响分析、基础工程版本/SHA 前置条件、独占版本认领、本地增量重合成与复用证据。保留完整反馈表、并发冲突和存储失败 SOP;成功镜头默认接受,组件或旧品质失败不重新生成,点名新生成保持 G8/G-DLV5,绑定 G-DLV4..G-DLV7。

geniusdapeng-collab/WorkLoom-video-edit

导演评审官方套件(随 bundles/ai-video 分发,F8.1 官方套件级):6 问评审 + 5 维评分 + 硬阻断打回、事实红线一票否决、跨集连贯性校验,含硬阻断优先级/平均分不得掩盖短板/事实红线以 confirmed 字段为准等决策原则、四种评审形态打法、五步 SOP 与失败模式表。安装后被连贯审查官调用;绑定围栏 G6,卸载即撤销(F8.2/L8.3)。

geniusdapeng-collab/WorkLoom-video-edit

字体许可合规官方套件(字幕师专业套件):OFL-1.1/Apache-2.0/厂商免费商用三类白名单判定、OFL 四条义务(可商用/禁单售/改后改名/保留声明)、不做子集化的理由、客户自备商用字体的登记口径、证据留痕与围栏 G-SUB5 对应关系。安装后被字幕师调用;绑定围栏 G-SUB1/G-SUB5,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

字体选型官方套件(字幕师专业套件):场景×语言硬过滤、五维加权打分(作品类型/BGM节奏/粗细/艺术气息/气质关键词)、账号视觉锤锁定、中英混排搭配、上位提示词气质命中、否决项与"允许报告无合适字体"。安装后被字幕师调用;绑定围栏 G-SUB0/G-SUB1/G-SUB3/G-SUB5,卸载即撤销。

geniusdapeng-collab/WorkLoom-video-edit

情报五站方法论官方套件(随 bundles/ai-video 分发,F8.1 官方套件级):采集/评价/竞品/核验/装订五站流水,含决策原则(无源不入库/置信度三级/域名去重/冲突不仲裁)、实物 8 路与服务 6 路两套打法、五步 SOP(每步带回执与失败路径)、关键指标护栏与失败模式表。安装后被情报科五站与调研员调用;绑定围栏 G1,卸载即撤销(F8.2/L8.3)。

geniusdapeng-collab/WorkLoom-video-edit

原声 program、显式签章分轨与配乐的来源、策略、时间轴和一次混流方法;默认保留原声,不自动分离或测声音品质,真实非法分轨与混流失败明确停止。

관련 스킬