网站规模扩大后,最先不该再手工做的,不是写标题,而是“逐页决定哪些URL该被搜索引擎看见”。当页面从几十个变成几千个,手工维护收录范围、内链入口和失效跳转,错误率会随着页面数上升,而且很难复盘。更稳妥的做法是:把可规则化的判断交给模板和批量流程,把需要判断力的部分留给人工,比如内容是否值得存在、某个栏目是否应该整体退出。
规模扩大不等于所有手工工作都要停。以下三类通常可以保留人工:
判断标准很简单:如果同一类判断在几十个页面上重复出现,且判断依据可以写成条件,它就不适合继续手工做。反之,如果每个页面的处理理由都不同,手工反而更可靠。
页面少的时候,手工加<meta name="robots" content="noindex">或调整robots规则还能记住。页面上千后,手工维护会出现两种相反的错误:该放开的被挡住,该挡住的被放开。前者让有效页面长期不进索引,后者让低质页面占用抓取预算。可核对的证据是:抓取统计里某类URL长期为零,同时站内搜索或日志里又有用户访问,这通常说明规则和实际需求脱节,而不是“搜索引擎不喜欢这个站”。
动作上,先把页面按“必须收录、可收录可不收录、不应收录”分成三类,用模板或批量规则一次性处理,再抽查边界样本。结果会直接影响下一步:如果边界样本仍大量误判,说明分类条件还不够细,应先改条件,而不是继续手工补漏。
规模扩大后,靠编辑在正文里手动加链接,会出现明显的分布偏差:早期页面链接多,新页面几乎没人指向。更麻烦的是分页、筛选和归档页,手工调整一次,下次改版又要重来。适合改写的做法是:把内链拆成“固定入口”和“动态推荐”两层。固定入口由模板控制,动态推荐按规则生成,人工只决定规则本身。
这里有一个常见反常现象:某批页面手工加了大量内链后,抓取量反而下降。合理解释不止一种,可能是这些链接指向的页面本身重复度高,也可能是链接集中在少数模板里,导致其他入口被稀释。要区分这两种解释,可以对比同一批页面在“只改模板”和“只加手工链接”两种情况下的抓取分布,而不是直接归因于链接数量。
页面规模上来后,失效链接会持续产生,手工逐条改既慢又容易漏。更适合批量处理:先按失效类型分组,再决定是重定向、返回410还是保留并更新内容。这里的关键取舍是:不是所有失效URL都值得重定向。如果原页面没有外部链接、没有搜索流量、也没有用户需求,重定向到一个不相关页面反而制造新的混淆。
假设某站有800个失效URL,其中约200个有外部链接指向。可以先把这200个单独处理,其余按规则返回410或合并到相近主题。这个假设只用于说明分组方法,不代表任何真实站点数据。做完这一步后,下一步应观察这些URL的抓取和索引状态是否按预期变化;如果没有变化,要先检查规则是否真的生效,而不是立刻加大重定向数量。
面对一项手工工作,先问三个问题:
更实际的顺序是:先保留人工复核,再把重复判断改写成规则,最后才减少人工介入。反过来做,容易在规则还没稳定时就失去发现问题的能力。
当网站规模扩大后,可以按以下顺序处理:
这样做的结果不是立刻减少工作量,而是让工作从“逐页救火”变成“维护规则和复核异常”。下一步是否继续扩大自动化范围,取决于规则在边界样本上的表现,而不是取决于页面总数又增加了多少。