首选域怎样避免重复建设页面:从URL到内链的排查清单

📍 WDQWDWQD987AAAAA:216.73.217.31
📱 Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)
🔗 /0be2f21d9b1a.html
📄

首选域怎样避免重复建设页面:从URL到内链的排查清单

避免重复建设页面的核心,是让同一份内容只对应一个规范URL,并让站内所有入口、外链和站点地图都指向这个URL。首选域解决的是“用哪个域名或主机名作为主入口”,但重复页面往往不只来自域名,还来自协议、www、路径、参数和分页。下面这份清单按检查项逐一处理,每项都说明查什么、怎么查、结果说明什么。

先确定首选域,再谈页面去重

首选域是你在多个可访问主机名之间选定的唯一主入口。常见候选包括 example.com 与 www.example.com,以及 http 与 https 两种协议。它不是单纯的技术偏好,而是会影响链接权重集中、Cookie 作用域和后续所有规范URL的书写。

选定后要全站一致:页面里的绝对链接、站点地图、canonical 标签、结构化数据中的URL,都使用首选域。只改一处,等于没改。

检查同一内容是否存在多个路径

主机名统一之后,重复仍可能出现在路径层。典型情况是同一篇文章既可以通过栏目页到达,又存在带日期的归档路径,或带 ?id=123 参数与静态化路径并存。

  1. 查什么:抽取10到20个有代表性的页面,看它们是否有两个以上可访问URL。
  2. 怎么查:用站内搜索、标签页、归档页、旧版路径分别访问同一篇内容;再查看页面源代码中的 canonical 指向哪个URL。
  3. 结果说明什么:若多个URL返回200且 canonical 各不相同,说明内容被拆成多份;应确定一个规范URL,其余做301跳转到它,或至少在页面中声明正确的 canonical。

这里要区分“可能原因”和“已定位原因”。多个URL可访问只是现象,它可能来自路径设计、参数生成或历史改版,不能只凭一个现象断定是某一种成因。逐个访问并记录返回状态,才能确认。

用内链和站点地图固定规范入口

即使 canonical 写对了,如果站内大量链接仍指向非首选域或旧路径,搜索引擎仍会反复抓取那些地址。内链是站内最直接的“投票”,站点地图则是你主动提交的URL清单。

分页是容易忽略的一类。列表页的第2页、第3页属于不同URL,但它们不是重复内容;真正要避免的是同一页内容被参数、排序方式或会话ID复制出多份。对排序、筛选参数,可考虑用 canonical 指向无参数版本,或按实际需要决定是否允许抓取。判断依据是:该参数是否改变了页面的核心内容。只改变排列顺序、不改变内容集合的,通常可以归并。

改版与迁移时的防重复步骤

重复建设页面最集中的时点是改版、换域名或调整URL结构。此时旧URL和新URL会同时存在,处理顺序很重要。

  1. 先列出旧URL清单,确认每个旧URL对应的新URL。
  2. 对确实迁移的页面设置301跳转到新URL,不要跳转到首页。
  3. 对已删除且无替代内容的页面,返回404或410,不要用200返回一个空页面。
  4. 更新站内所有指向旧URL的链接,避免跳转链过长。
  5. 提交新的站点地图,并观察旧URL是否逐渐被替换。

判断结果的方法是看返回状态:301表示永久迁移,200表示正常页面,404表示不存在。若旧URL返回200且内容与新URL相同,就是典型的重复页面。

可执行的自查清单

下一步,从你站点里挑一个同时存在两种访问方式的页面,记录它的多个URL、返回状态和 canonical 指向,再决定保留哪一个作为规范URL。

图1 图2

nginx