AgentHubAgentHub

使用场景/网页抓取与采集

网页抓取 MCP 推荐

从网页提取结构化内容、爬取文档、监控变更。适合调研、内容聚合、知识库构建。

共匹配 889 个资源 · 第 10 / 19 页

什么是网页抓取与采集?

网页抓取类 MCP Server 把互联网内容变成 AI 可直接消费的结构化文本:Firecrawl 类服务负责整站爬取与 Markdown 转换,Fetch 类服务负责单页拉取与重定向处理。相比浏览器自动化,它们不渲染交互、速度快、token 消耗低,是构建 RAG 语料与知识库的首选采集层。

典型工作流:用 Firecrawl MCP 批量爬取文档站 → 清洗为 Markdown → 送入向量库(如 Qdrant / Chroma MCP)→ 再用检索 MCP 让 AI 基于自有语料回答。AgentHub 上每个抓取类资源都附带安装命令与客户端配置,可直接复制到 Cursor 或 Claude Code。

合规边界:只抓取公开页面,遵守目标站点 robots.txt 与服务条款;控制并发与频率,避免给对方服务造成压力;需要登录才能访问的内容不要自动化批量拉取。

适合做什么

  • 新闻/文档采集
  • 竞品页面监控
  • 构建 RAG 语料
  • 批量导出公开数据

不太适合

  • 登录后敏感数据爬取
  • 违反 robots.txt 或站点 ToS 的场景
常见组合: Firecrawl / Fetch MCP + 向量库 → 自动入库与检索

相关资源

查看全部 →
Screenshot & PDF Capture — Full-Page Chromium Rendering icon

Screenshot & PDF Capture — Full-Page Chromium Rendering

MCP Serversmithery4.3k

Web capture API for AI agents. Take full-page screenshots (PNG/JPEG/WebP) and generate PDFs from any URL using headless Chromium. Custom viewport size, device emulation, and scroll capture. Tools: capture_screenshot (image), webpage_to_pdf (PDF). Use this for visual regression testing, documentation, archiving web pages, or generating reports. IMPORTANT: For text extraction from pages, use web_scrape_to_markdown. For custom PDF generation from data, use document_generate_pdf. Returns: base64-encoded image or PDF. No API key required — x402 micropayment $0.008/call on Base L2.

streamable-http
WorldMonitor 全球情报 icon

WorldMonitor 全球情报

MCP Serversmithery2.8k

以 74 个工具的 MCP 服务器提供实时全球情报:市场行情、冲突事件、国家风险与韧性评分、航运咽喉要道、海事、航空与机票定价、能源、气候、健康、网络威胁、制裁、贸易流向、预测,以及 AI 生成的全球/国别简报。另附 25 个 Agent Skills、6 个工作流提示、11 个资源与 10 个交互式聊天内应用。发现过程匿名——无需密钥即可连接并调用 tools/list、prompts/list、skills/list。几乎所有工具都支持 JMESPath 投影,智能体只取所需字段。get_sources 免费匿名;登录账号每天可少量使用缓存类工具;完整访问需 OAuth2 或从 worldmonitor.app/pro 获取 API 密钥。

streamable-http
Meta-Stamp Pockets 授权内容库 icon

Meta-Stamp Pockets 授权内容库

MCP Serversmithery2.7k

面向 AI 智能体的授权创作者内容。以预先索引的 Pocket 形式发现音乐、视频与文本目录——只需数百 token 而非上万 token 的抓取,30 毫秒内返回。发现功能免费;内容拉取通过 HTTP 402 付费墙按次授权——连接即合约,每次拉取收入的 85% 即时结算给版权方。工具:list_pockets、search_pockets、pull_content。浏览无需密钥;拉取内容会返回带注册说明的 402 响应——按提供的 URL 注册、以 Bearer token 附上 API 密钥,即可拉取带完整署名与审计链路的授权内容。

streamable-http
ToolSnap MCP icon

ToolSnap MCP

MCP Serversmithery2.1k

Context-efficient microtools for AI agents. 33 tools total. Flagship fetch_extract: 98.1% median token reduction (53,820 → 2,001 tokens) — saves ~$0.156/call at Sonnet pricing vs loading raw HTML. Paid tools: web extraction, full-page screenshots, background removal (fal.ai rembg), keyword research (DataForSEO), PDF text extract, HTML-to-Markdown, page asset/link inventory, temporary file upload. 20 always-free utility tools: UUID, hash, Base64, URL encode/decode, JSON format/query, timestamps, text stats, regex extract, CSV/JSON query, RSS/sitemap parse, and more. Pricing: $0.02 USDC on Base via x402 (EIP-3009), or $0.01 prepaid (deposit ≥$0.50 USDC, off-chain debit, no per-call gas). First call free per wallet on most tools. Includes pay-proxy: local stdio bridge that auto-signs x402 challenges — any MCP client gains payment capability without code changes or API keys.

streamable-http
Compress.new icon

Compress.new

MCP Serversmithery1.6k

Convert any webpage to clean markdown and feed it directly into AI agent workflows. Why This Matters? Adding webpages to LLM conversations usually means dumping raw HTML, bloated with ads, scripts, and formatting noise. This MCP integrates compress.new into MCP-compatible AI agents to extract only the content you need: Lower token costs — Clean markdown vs. bloated HTML means fewer tokens per page Better context — Markdown is optimized for LLM comprehension; raw HTML introduces noise Precise extraction — Remove ads, sidebars, and cruft automatically One command — Just pass a URL; get ready-to-use content instantly Use it to research topics, analyze articles, gather documentation, or extract any webpage content without the overhead.

streamable-http
邮件发送器 —— 通过 API 发交易型邮件 icon

邮件发送器 —— 通过 API 发交易型邮件

MCP Serversmithery1.6k

面向 AI 智能体的邮件发送 API。以编程方式发送交易型邮件——支持文本或 HTML 正文、自定义主题与发件地址,并返回投递状态确认与消息 ID,由 Resend 提供能力。工具:email_send_message。当智能体需要发送通知、报告、告警或外呼邮件时使用。注意:发送前先用 email_verify_address 校验收件地址以避免退信。返回:{id, status, from, to, subject}。无需 API 密钥——在 Base L2 上以 x402 微支付 $0.003/次。

streamable-http

常见问题

网页抓取 MCP 和浏览器自动化 MCP 怎么选?

静态或服务端渲染的页面、整站文档爬取用抓取类(Firecrawl/Fetch);需要点击、滚动、登录交互或抓渲染后截图,用浏览器自动化(Playwright MCP)。

Firecrawl MCP 需要 API Key 吗?

托管版需要;也可以自部署开源版,或用免费的 Fetch MCP 做单页抓取。资源详情页会标注分发方式与所需环境变量。

抓回来的内容如何喂给 AI 检索?

常见做法是 Markdown 清洗后写入向量库 MCP(Qdrant、Chroma、pgvector 等),再配合检索 Skill 或 Context7 类知识库 MCP 完成问答。

配套安装与配置教程

相关场景