什么是 IndexNow 与传统抓取?
IndexNow代表了搜索引擎发现和索引网站内容的新发展。
与传统的抓取方式(搜索机器人每隔一段时间抓取一次内容)不同,IndexNow 允许您的网站在发生变化时直接向搜索引擎推送更新。
这种由 API 驱动的现代协议由微软必应创建,并得到了Yandex 的支持,通过减少冗余抓取,索引速度更快,服务器负载更低,环境效率更高。
传统抓取:工作原理
谷歌和必应等搜索引擎通常使用自动机器人(爬虫)来查找新内容并编制索引。
这些机器人会定期重新访问您的网站以检测更新。这个过程包括
- 从数据库中获取已知 URL。
- 跟踪内部和外部链接以发现新网页。
- 根据页面重要性和更新频率安排重新抓取。
传统抓取的局限性
- 延迟索引:更新可能需要数天或数周才能出现在搜索结果中。
- 服务器负载高:频繁的机器人访问会消耗带宽和 CPU 资源。
- 浪费抓取预算:抓取程序可能会重新检查未更改的 URL,而遗漏新的 URL。
- 环境成本:数十亿次不必要的抓取请求会消耗全球能源和带宽。
IndexNow 如何工作
有了 IndexNow,无论何时添加、更新或删除内容,您的网站都会立即通知搜索引擎。
每次更改都会触发一个简单的 HTTPS POST 请求,请求发送到包含受影响 URL 的 IndexNow API 端点。
有效载荷示例
{ "host":"www.example.com", "key":"YOUR-UNIQUE-KEY", "urlList":[ "https://www.example.com/new-page", "https://www.example.com/updated-page" ] }这种直接推送意味着您的内容在几分钟内就能被发现并编入索引,而不是几天。
IndexNow 相对于传统抓取方式的优势
| 优势 | 传统抓取 | 立即索引 | 
|---|---|---|
| 发现方法 | 拉(机器人请求内容) | 推(网站通知搜索引擎) | 
| 索引速度 | 慢速(数小时至数天) | 即时(分钟) | 
| 服务器负载 | 高(频繁重新抓取) | 低(机器人点击较少) | 
| 带宽效率 | 效率低 | 效率高 | 
| 抓取预算浪费 | 常见 | 最少 | 
| 环境影响 | 能源利用率高 | 环保 | 
IndexNow 的搜索引擎优化优势
- 索引速度更快- 新网页或更新网页几乎会立即出现在搜索结果中。
- 抓取预算优化--只抓取重要的 URL,节省带宽。
- 提高新鲜度--您的最新内容更快到达用户。
- 更高的排名潜力- 及时更新可对可见度和点击率产生积极影响。
- 可持续性- 减少抓取浪费有助于降低搜索引擎的碳足迹。
实施步骤
1.生成并托管您的密钥
创建一个唯一的 API 密钥,并将其上传到您网站的根目录:
https://www.example.com/YOUR_KEY.txt
2.自动发送 URL 通知
使用 CMS 或 SEO 插件,在发布或更新内容时发送 IndexNow pings。
例如,Rank Math、Yoast、Wix 和Cloudflare已经支持本机功能。