首选域怎样避免重复建设页面:从URL到内链的排查清单
📍 WDQWDWQD987AAAAA:216.73.217.31
📱 Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)
🔗 /0be2f21d9b1a.html
📄
首选域怎样避免重复建设页面:从URL到内链的排查清单
避免重复建设页面的核心,是让同一份内容只对应一个规范URL,并让站内所有入口、外链和站点地图都指向这个URL。首选域解决的是“用哪个域名或主机名作为主入口”,但重复页面往往不只来自域名,还来自协议、www、路径、参数和分页。下面这份清单按检查项逐一处理,每项都说明查什么、怎么查、结果说明什么。
先确定首选域,再谈页面去重
首选域是你在多个可访问主机名之间选定的唯一主入口。常见候选包括 example.com 与 www.example.com,以及 http 与 https 两种协议。它不是单纯的技术偏好,而是会影响链接权重集中、Cookie 作用域和后续所有规范URL的书写。
- 查什么:四个组合是否都能打开同一份内容,即 http、https、带www、不带www。
- 怎么查:分别输入四个地址,观察是否返回相同页面,还是出现跳转或直接返回200。
- 结果说明什么:如果多个组合都返回200且内容相同,说明存在主机名层面的重复;应保留一个作为首选域,其余做整站跳转。
选定后要全站一致:页面里的绝对链接、站点地图、canonical 标签、结构化数据中的URL,都使用首选域。只改一处,等于没改。
检查同一内容是否存在多个路径
主机名统一之后,重复仍可能出现在路径层。典型情况是同一篇文章既可以通过栏目页到达,又存在带日期的归档路径,或带 ?id=123 参数与静态化路径并存。
- 查什么:抽取10到20个有代表性的页面,看它们是否有两个以上可访问URL。
- 怎么查:用站内搜索、标签页、归档页、旧版路径分别访问同一篇内容;再查看页面源代码中的 canonical 指向哪个URL。
- 结果说明什么:若多个URL返回200且 canonical 各不相同,说明内容被拆成多份;应确定一个规范URL,其余做301跳转到它,或至少在页面中声明正确的 canonical。
这里要区分“可能原因”和“已定位原因”。多个URL可访问只是现象,它可能来自路径设计、参数生成或历史改版,不能只凭一个现象断定是某一种成因。逐个访问并记录返回状态,才能确认。
用内链和站点地图固定规范入口
即使 canonical 写对了,如果站内大量链接仍指向非首选域或旧路径,搜索引擎仍会反复抓取那些地址。内链是站内最直接的“投票”,站点地图则是你主动提交的URL清单。
- 查什么:导航、面包屑、正文推荐位、分页链接是否统一使用首选域和规范路径。
- 怎么查:随机打开若干栏目页,查看链接的 href 写法;再检查 sitemap 中列出的URL是否与 canonical 一致。
- 结果说明什么:若 sitemap 与 canonical 指向不同URL,说明你向搜索引擎传递了矛盾信号,应统一为同一个规范URL。
分页是容易忽略的一类。列表页的第2页、第3页属于不同URL,但它们不是重复内容;真正要避免的是同一页内容被参数、排序方式或会话ID复制出多份。对排序、筛选参数,可考虑用 canonical 指向无参数版本,或按实际需要决定是否允许抓取。判断依据是:该参数是否改变了页面的核心内容。只改变排列顺序、不改变内容集合的,通常可以归并。
改版与迁移时的防重复步骤
重复建设页面最集中的时点是改版、换域名或调整URL结构。此时旧URL和新URL会同时存在,处理顺序很重要。
- 先列出旧URL清单,确认每个旧URL对应的新URL。
- 对确实迁移的页面设置301跳转到新URL,不要跳转到首页。
- 对已删除且无替代内容的页面,返回404或410,不要用200返回一个空页面。
- 更新站内所有指向旧URL的链接,避免跳转链过长。
- 提交新的站点地图,并观察旧URL是否逐渐被替换。
判断结果的方法是看返回状态:301表示永久迁移,200表示正常页面,404表示不存在。若旧URL返回200且内容与新URL相同,就是典型的重复页面。
可执行的自查清单
- 四个主机名组合是否只有一个返回200,其余跳转到首选域。
- 每个页面的 canonical 是否指向首选域下的唯一URL。
- 站内链接、sitemap、结构化数据是否与 canonical 一致。
- 带参数的URL是否被正确归并或允许抓取,依据是内容是否真正不同。
- 旧URL是否已301到对应新URL,而非首页或空页面。
下一步,从你站点里挑一个同时存在两种访问方式的页面,记录它的多个URL、返回状态和 canonical 指向,再决定保留哪一个作为规范URL。