Douyin Scraper V2
v1.0.0抖音图文笔记采集工具。支持自然语言搜索(如"搜索一下海鲜视频"),自动提取关键词 → 搜索 → 筛选「图文·一周内」→ Playwright 截图(绕过反爬虫)→ Baidu OCR 识别图片文字 → 输出 Markdown 报告(含热度评分)。当用户提到"抖音搜索"、"抖音图文采集"、"抖音笔记抓取"、"抖音爬虫"等相关关键词时,可以使用此工具。
运行时依赖
安装命令
点击复制技能文档
douyin-scraper 抖音图文笔记采集工具 —— 一条命令完成:搜索 → 筛选图文 → 截图 → OCR → Markdown 报告。 ⚠️ 前置配置
- 安装依赖 pip install playwright requests python-dotenv python -m playwright install chromium
- 配置 Baidu PaddleOCR Token 在技能目录创建 .env: BAIDU_PADDLEOCR_TOKEN=你的token 获取 Token:访问 百度 AI Studio,免费注册,每天 1 万次免费调用。
- 登录抖音(只需一次) python /scripts/login.py 浏览器打开抖音,扫码登录后关闭。登录状态自动保存,后续无需重复操作。
🗣️ 自然语言搜索(Agent 入口) 当用户用自然语言提出搜索需求时,先提取关键词,再调用脚本。 提取规则 从用户输入中提取核心搜索词(去掉"搜索一下"、"帮我找"、"看看"等助词) 如果用户指定了数量,提取为 --count;否则用默认值 如果用户说"只要图片"或"不用识别文字",加 --no-ocr 关键词尽量简短精炼(2-6字),不要把整个句子当关键词
示例 用户输入 提取关键词 命令 搜索一下海鲜视频 海鲜 --keyword "海鲜" 帮我找找韩国医美相关内容 韩国医美 --keyword "韩国医美" 抖音上最近有什么减肥餐笔记 减肥餐 --keyword "减肥餐" 看看咖啡相关的图文,要5条 咖啡 --keyword "咖啡" --count 5 搜一下宠物猫,不用OCR 宠物猫 --keyword "宠物猫" --no-ocr 抖音搜索穿搭技巧 穿搭技巧 --keyword "穿搭技巧"
Agent 执行步骤 从用户输入提取关键词 运行命令: python /scripts/full_workflow.py --keyword "<提取的关键词>" [--count N] [--no-ocr] 脚本完成后,读取 output/ 下生成的 Markdown 报告 向用户摘要报告内容(笔记数量、热度最高的几条、关键发现)
🔧 直接命令行使用 # 采集 10 篇图文笔记(含 OCR) python /scripts/full_workflow.py --keyword "韩国医美" # 指定数量 python /scripts/full_workflow.py --keyword "减肥餐" --count 5 # 跳过 OCR(仅截图) python /scripts/full_workflow.py --keyword "咖啡" --no-ocr
参数 说明 默认值 --keyword 搜索关键词 必填 --count 采集笔记数量 5 --no-ocr 跳过 OCR 关闭
输出 报告保存至 output/notes_{keyword}_{timestamp}.md,图片保存至 data/images/。 每篇笔记包含: 🔥 热度分数(点赞数 / 发布天数)及计算公式 👍 点赞数、发布时间、作者、原文链接 📝 原文描述 🔍 OCR 识别的图片文字(支持多图) 🖼️ 本地截图路径
技术特点 Playwright 截图:通过 element.screenshot() 截取内容图,绕过抖音图片 URL 反爬虫 图文过滤:自动识别并跳过视频,只采集「图文」类型笔记 OCR 噪音过滤:自动去除截图中的抖音导航栏文字(精选/推荐/关注 等) 多图支持:一篇图文多张图片逐张截图 + OCR,合并识别结果 反检测:有头浏览器(headless=False)+ 拟人操作节奏,避免触发验证码 热度公式:likes / days_ago,越新越热排越前
目录结构 douyin-scraper/ ├── scripts/ │ ├── full_workflow.py # 主流水线 │ └── login.py # 登录脚本 ├── data/ │ └── images/ # 截图 ├── output/ # Markdown 报告 ├── profile/ # 浏览器登录状态 └── .env # Token 配置