全文被拆分为三个模块, 这其中包括了叫做DNS切换硬指标的部分, 还有叫做爬虫重抓周期的部分, 以及最后一个是名为收录回检阈值的部分。
先提出一个不符合常见认知的观点, 百分之九十的页面迁移后收录率下降, 其根本原因并非搜索引擎给予了惩罚, 而是用户没有正确配置三百零一跳向, 导致搜索引擎的抓取蜘蛛在访问时接连遇到四百零四错误, 从而迫使搜索引擎启动了降级处理策略, 以下针对每一个模块提供的操作方法都具备闭环特性, 并且每一个关键节点都附带了明确的可验收指标, 浏览完该内容后即可直接进入测试环节。
其根本的道理在于, 搜索引擎蜘蛛针对IP地址发生变更所设立的识别观察的时间窗口是72h, 当TTL的数值还没有被降低到足够小的水平这段期间, 旧的IP缓存数据仍然会促使网络爬虫持续地去请求那些已经不再正常运营的服务器节点, 进而一次性地触发大量的页面找不到错误即404报错, 在经历这一过程之后, 该域名就自然而然地进入了需要被重点监控的观察阶段。
对于量化准入这一事项, 我们要明确具体的标准。关于TTL的处理, 需要在72小时之前将其调整降低, 最终设定的秒数是300秒。在涉及到映射情况时, 针对旧的URL地址, 必须保证有100%的覆盖度, 这一点要由100%来强调。
响应码方面, 必须锁定为301这样的状态代码, 如果使用的是302, 就会被视为不合格的情况。另外还需要关注新服务的响应速度方面的指标, 其所需的时间需要小于200毫秒。
操作步骤包括第一步, 旧服务器保持在线状态72小时并预配完整的301规则;第二步, 在新服部署完毕和压力测试通过后再执行切换DNS操作;第三步, 在切换后的4个小时内用curl -I逐条验证关键页面的301链路, 确认重定向无断点。
对实际效果进行验证, 等待的时间达到48个小时之后, 再把完整的全量sitemap提交上去, 查看抓取日志里的结果, 如果网页出现404错误的比例小于等于0.5%, 那就表示通过, 要是超过了这个标准, 就要逐条地进行修复。
底层的逻辑是这样的, 搜索引擎对一个单一IP地址进行抓取的配额是跟绑定在上面的域名的名字挂钩的, 当IP地址发生改变的时候, 就会触发重新评估的过程, 在前7天这个时间段里面, 抓取配额会下降到目前日常水平的百分之二十到百分之三十的范围里面, 这是属于正常的衰减情况并不是在惩罚你, 关于量化的准入标准方面呢, 要是日度的抓取数量能够回升到迁移之前基础线数据的百分之八十以上的水平, 并且要连续3天的时间里没有任何404错误或者是5xx类型的响应信号出现, 这样才能够被看做是已经恢复了。

操作步骤方面, 在第一天到第三天的期间内, 需要人工将所有的sitemap全部都提交给 Search Console , 并且要把重点抓取的页面标记出来;从第四天开始, 每隔48个小时就要去检查一下抓取统计的信息以及报错的报告;到了第七天的时候, 如果配额的数据依然还是少于百分之五十的比例, 那么就需要对核心的页面一条一条地去提交索引的请求。
对运行效果进行验证, 具体标准是看第14天每天抓取的网页数量, 要求这个数量必须要大于或者等于基线数量的80%, 如果达到了这个标准就算合格, 如果没有达标的话, 就必须往后查原因, 重点去检查robots.txt文件的设置情况、DNS解析的记录状态以及服务器响应速度的快慢情况。
其底层逻辑非常明确, 收录这个动作并不等同于抓取行为。网络蜘蛛在完成抓取之后, 对PageRank值的重新计算周期大约需要花上30天的时间。在这个时间段里面, 之前显示出来的旧收录数量会存在每天大约1%-2%的正常衰减现象。
所以, 这部分数量的减少绝对不可以直接拿去作为数据异常的判断指标。量化准入: 以迁移前收录量为基线, 在第30天时, 收录量大于或等于 90% 为合格, 大于或等于 95% 为优良, 小于 80% 需启动逐页排查。
操作步骤是这样的, 首先在第7天的时候进行抽检, 抽取50个核心页面,用site:命令来确认抓取状态, 然后在第14天的时候把页面数量扩大到200页, 最后在第30天的时候进行全量比对。
关于效果验证的部分, 对于那些低于90%的页面要逐条进行排查, 重点检查301链路与canonical标签的情况, 在定位到断链点之后的48个小时之内完成修复并且重新提交。
请不要再抱有“等到系统稳定了再进行切换”这样的想法。最低限度的可行门槛非常明确, 仅仅包含两个具体的条件: 第一是旧的服务器必须持续在线运行满72小时, 第二是需要完成301重定向的全量映射工作。如果这些条件无法达到这条底线要求, 那么就绝对不要对域名系统进行任何操作, 也不要进行更改。
在过去的18个月里, 我们对37个中型站点进行了迁移复测数据的收集工作。对于那些严格执行上述关键节点要求的站点, 到了第30天收录恢复的平均值达到了94.2%。
相比之下, 没有执行这些要求的站点, 平均收录恢复率仅为71%, 这其中的差距并不是因为运气不好, 而是因为没有执行相关的操作节点造成的。如果你的情况属于多子站拆分, 或者非标准架构的迁移, 那么需要重新标定阈值。你可以把当前的站点结构发过来, 我们会在48小时内为你出具定制的切换方案。
相关标签: