检查高收录域名在移动端与桌面端的差异,核心不是看页面“长得像不像”,而是核对同一 URL 返回的 HTML、状态码、canonical、robots 元标签和可抓取链接是否一致。先用抓包或源码对比找出不一致的 URL,再判断哪些差异会影响收录,最后按影响面排序处理。人手有限时,优先处理“移动端被阻止抓取或 canonical 指向错误”这类会直接改变索引结果的问题。
移动端和桌面端使用同一套 URL 时,搜索引擎通常期望两端内容等价。真正需要优先处理的差异包括:
noindex。字体大小、图片裁切、模块顺序这类视觉差异,只要内容与链接等价,通常不是收录差异的首要原因。先把抓取和索引信号对齐,再谈体验优化。
最直接的做法是模拟两种 User-Agent,请求同一个 URL,比较响应。可以用命令行工具执行:
curl -A "Mozilla/5.0 (iPhone; CPU iPhone OS 17_0 like Mac OS X) AppleWebKit/605.1.15" -I https://example.com/page
curl -A "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36" -I https://example.com/page
把 example.com/page 换成你要查的真实 URL。重点看三处:HTTP 状态码、Location 响应头、Vary 响应头。如果移动端返回 301 跳到另一个地址,而桌面端直接 200,这就是需要记录的第一类差异。
适用条件:站点对移动端和桌面端使用同一 URL,仅靠 UA 判断设备。若站点本身用 m. 子域或独立移动 URL,则应改为对比两套 URL 的 canonical 与互相指向关系,而不是只比响应头。
拿到两端 HTML 后,逐项核对以下标签是否一致:
<title> 与 <meta name="description"> 是否指向同一主题。<link rel="canonical"> 的 href 是否相同。<meta name="robots"> 是否在移动端多出 noindex 或 nofollow。<h1> 与主体正文是否都存在,而不是移动端只剩导航和推荐位。<a href> 形式存在,而不是仅靠 JavaScript 点击事件。判断结果:如果 canonical 在移动端指向桌面版 URL,而桌面版又指回自己,规范信号就互相矛盾;如果移动端 robots 含 noindex,该 URL 在移动优先抓取背景下可能被排除。这里要区分“可能原因”和“已经定位的原因”:看到 noindex 只能说明存在阻止索引的信号,最终是否被移除,还要结合抓取与索引状态核实。
robots.txt 的抓取限制不等于可靠的索引移除。它只控制抓取,不直接控制已收录 URL 的移除。因此要分别核查:
Disallow。可执行步骤:从站点地图或日志中抽取 20 到 50 个高价值 URL,用上面的 curl 方法批量对比状态码和 canonical,把结果记成两列。出现“移动端状态码非 200”或“canonical 不一致”的 URL 排在最前,其余视觉差异排后。
按影响面排序:先修移动端返回错误状态码或 noindex 的页面,再修 canonical 冲突,最后处理内容缺失和内链不可抓取。验收信号是:同一 URL 在两种 UA 下返回相同状态码、相同 canonical、均无 noindex,且主体内容与主要链接都能在 HTML 中找到。
下一步:选一个你怀疑收录异常的高价值 URL,用两种 User-Agent 各请求一次,把状态码、canonical、robots 元标签三项并排记录,先确认差异属于抓取层还是索引层,再决定是否批量处理。