规模扩大后最该停止手工做的,不是“推送”这个动作本身,而是围绕推送的链接筛选、配额分配、失败重试和结果核对。手工推送在几十个 URL 时还能靠人盯,一旦每天新增页面进入成百上千的量级,人工操作会先失去一致性,再失去可追溯性,最后连“哪些已推、哪些没推”都说不清。此时继续手工做,问题通常不是效率,而是判断依据被破坏。
常见情形是:编辑每天手工复制链接、逐条提交,提交记录看起来不少,但过一段时间去核对,发现能确认被百度处理的页面比例并不稳定。有人据此认为“推送没用了”,也有人认为“推送量还不够,要继续加”。这两种解释都成立的前提不同,需要先分开。
区分这两种解释的证据并不相同。若是记录与去重问题,你会看到同一批 URL 反复出现在提交清单里,且缺少“首次推送时间”这一列;若是对象选择问题,你会看到被推送的 URL 中,详情页占比偏低,而站内搜索页、筛选页、分页占比偏高。前者要改的是流程留痕,后者要改的是筛选规则。
网站规模小的时候,编辑凭经验判断“这条值得推”是可行的,因为页面少、上下文清楚。规模扩大后,经验判断会遇到两个硬约束:一是人无法对每天新增的页面保持同一套标准,二是不同编辑对“重要页面”的理解会分叉。结果就是推送清单的构成随人而变,而不是随内容价值而变。
更实际的做法是把筛选条件写成可执行的规则,例如:只推送本次新增或实质更新的详情页;排除带会话参数、排序参数、站内搜索结果参数的 URL;对同一内容的多路径入口只保留一个规范地址。规则一旦固定,推送清单就变成可复算的产物,而不是每天重新拍脑袋的结果。这里的关键动作是先定义“哪些 URL 进入候选池”,再谈推送。这一步做完,后面的配额分配和失败处理才有稳定输入。
当候选链接数量超过单日可处理规模时,必然要做取舍。手工取舍通常按“今天谁有空”“哪条看起来重要”来排,问题是这种排序无法回答一个基本问题:某天覆盖下降,是因为候选池变小了,还是因为配额被低价值页面占用了?
把配额分配交给规则后,可以按内容类型、更新时间、站内重要程度分层,并给每层设定优先级。失败重试同理:手工重试往往只重试“记得住”的那几条,而规则化重试会记录失败原因、重试次数和最终状态。需要说明的是,推送请求被接受,不等于页面一定被抓取,更不等于被索引。抓取、索引、排名是不同环节,重试只解决“请求是否成功送达”,不能替代对页面质量和可访问性的检查。
假设一个场景:某站每天新增 800 条详情页,另有 200 条筛选页。若把筛选页也放进推送候选池,按同等优先级处理,那么详情页的实际处理机会会被压缩。这个例子里的数字只是用来比较优先级分配方式,不代表任何真实站点的表现。动作上的含义是:把筛选页移出候选池后,详情页的推送占比会上升,下一步才适合观察详情页的抓取与索引变化。
规模扩大后,核对工作的核心不是“今天推了多少”,而是“哪些 URL 已进入处理流程、哪些还停在候选池、哪些被排除以及为什么”。手工统计通常只能给出一个总数,无法回答排除原因,也就无法判断是规则太严还是太松。
可落地的做法是保留一张推送台账,至少包含 URL、首次进入候选池时间、是否推送、推送结果、排除原因。台账由脚本或批处理生成,人工只负责审核规则和异常。这样做的直接结果是:当覆盖出现波动时,你能定位到是候选池变化、配额变化还是页面本身变化,而不是笼统地归因为“推送没效果”。
如果上述动作都做了,推送量或抓取量仍出现下降,也不能单独证明某个处理是对的或错的。合理的解释还包括:站点近期改版导致 URL 结构变化、服务器响应变慢、页面内容更新频率下降、或百度侧正常调度波动。只有把这些可能逐一排除,才谈得上调整方向。
并不是所有环节都要自动化。规则制定、优先级判断、异常复核仍然适合人工,因为这些依赖对内容价值的理解。但以下工作一旦规模上来就不适合继续手工:逐条复制提交、重复 URL 去重、失败重试、结果统计与台账维护。它们的共同点是重复、可枚举、需要一致标准,而这正是人工最容易出错的地方。
判断是否该交出去,可以看一个信号:如果同一件事每天的做法会因执行人不同而不同,或者你需要靠记忆回答“上周这条推没推过”,那就说明它已经超出了手工可控的范围。此时先固定筛选规则,再固定配额与重试逻辑,最后用台账核对结果。顺序颠倒,比如先追求推送数量再补规则,通常会让后续核对变得更加困难。