技术SEO

内容再好，爬虫抓不到、收录不进去也是白搭。这里深入技术SEO，从抓取预算、robots与sitemap、canonical与hreflang到JS渲染、日志分析和索引膨胀治理，帮开发和SEO协作把工程底子打牢。

配套专题 抓取与收录指南 这一页管的是上线前把抓取和收录做对

  • 把188个海外品牌站的首页在两个时间点各抓一次，337份可解析文档、17423条head声明，逐类统计那些语义上本该唯一的字段被写了几遍、值一不一样；再用一个最小的本地服务制造六组典型冲突，交给真实的浏览器内核解析，看它最终采纳了哪一条。文中给出重复率与冲突率的两次快照对照、内页与首页的差距、七类字段各自的裁决方式、被一个div赶出head的三条声明、编码声明写到十几万字节之后为什么仍然没事，以及三档整改优先级和一段能直接接进流水线的检…

    重复的meta标签，浏览器和搜索引擎各按各的规矩挑

  • 做法是用真实浏览器逐页打开55个英文独立站的首页、商品页，再从首页现场找出联系页与账号页，把每个页面上的input、select、textarea连同type、autocomplete、required、pattern、maxlength、inputmode与名字来源一并取下来。同一个站里声明完全相同的控件按签名合并，避免主题挂在每一页的抽屉表单被重复计数；从没可见过又没有任何说明文字的字段单独剔出，因为那多半是跟踪像素注入的参数框。另…

    表单字段的四件事：51个站的邮箱框，全写上的只有6个

  • 从116个海外品牌独立站的sitemap里各随机抽6条地址做实抓，把提交层、交付层、索引层三处的声明逐条比对。做法是先确认sitemap本身拿得到，再按固定随机种子抽样，一次请求同时取回状态码、跳转链、页面与响应头里的索引声明和canonical，最后对所有非200的地址换普通浏览器身份重抓一次做对照。文中给出一致率、各项失分分布、系统性与零星的分辨方法、六步自查顺序，以及五处差点搞错的判据。

    sitemap提交的地址，页面自己认不认账？

  • 把142个海外品牌独立站首页的最终响应逐字段拆开，按十二种形态归类，再对着规范逐条判它们的下场。做法是先切出跳转链最后一段2xx响应，再按字段名分组找同名重复，然后查缓存、防嵌套、Cookie到期这三对经典冲突，最后把内容安全策略里的关键字逐个过一遍。文中给出各形态的站数分布、平台指纹与自写部分的拆分、六步自查顺序，以及把合并误判成矛盾之后数字从69降到57的修正过程。

    HTTP响应头自相矛盾：142个站里108个在犯

  • 把57个英文电商站的19405个分类按建立年份切成五个桶，逐桶交叉商品数、描述长度、题图、sitemap收录与首页导航覆盖这五项指标；再用一组正则按handle的命名把它们分成促销、节日、赠品、联名等类别，跟空置率交叉；接着把分类的年龄与它里面商品的货龄配对，看货架和货哪一头更旧；最后用真实浏览器逐个打开每站最老与最新的分类页，核对状态码、最终地址与robots标记，并把不可靠的读数逐条剔出去。

    分类页越老越荒废？19405个实测，最乱的是三年前建的那批

  • 实验台从60个英文电商站的公开商品清单接口取回43912件在售商品与19405个分类的全部时间字段，再隔10.2小时把同一批站原样复抓一遍做纵向对照，用同一次测量里的另外两个字段当基线，判断哪一个字段真的记录了内容变动。随后按建档年份把商品分桶，逐站配对比较老货与新货在sitemap收录、首页两跳可达、前台是否仍在售三个维度上的差别，最后用真实浏览器逐个核对可疑读数，扣掉地区路由与渲染异常的站点。

    商品上架时间实测：43912件里老货没掉队，漏的是新货

  • 把143个站声明的sitemap两层全拉下来，435份文件、41万条地址，逐条解析修改时间字段，再按2小时22分、7分钟、4秒三种间隔各重抓一遍做前后比对；对声称刚刚改过的页面另做一次正文闭环，逐字比对标题、描述、H1与正文词集；最后用两种身份同时请求同一份文件，把测量顺序造成的假差异从身份差异里扣干净。文中给出覆盖率、精度、年龄七档分布、时间戳聚集度、索引层与子文件层的对账结果，一次把尺子量歪的完整复盘，以及一套可以在自己站上一分钟跑…

    sitemap lastmod记的是哪一刻？41万条实测

  • 按RFC 9309从零实现一遍匹配器，再用三种办法把157份robots.txt的合并效果逐条判出来：给每条规则生成一个一定能匹配的代表路径，做删除实验看这条规则删掉之后判定变不变，以及把规则随机洗牌五遍验证顺序到底有没有影响。文中给出撞车率、胜负分布、空转成因分类、三种解析器读法的分歧规模，以及一套五步自查顺序和两次量错口径的完整过程。

    robots.txt两条规则撞车，赢的不是先写的那条

  • 做法是把同一批分类从三条独立路径各取一份清单：不用登录就能读的分类出口、站点递给爬虫的sitemap、以及首页渲染后DOM里能点到的链接。sitemap那一份要按语言分卷拆开只取根语言，否则翻译过的handle会被算成另一批；导航那一份不能只抓静态HTML，得用无头浏览器渲染后取并集。空货架的判定不数页面上的商品链接，改用商品清单接口加浏览器里正文区可见的商品卡两条一起看。

    分类页开了19405个，首页只点得到一成七

  • 量法是每个站的首页连打三次、再各取一个CSS、一个JS、一张图片、一个网站图标和robots.txt，逐个记下全部缓存相关响应头，用Age字段反查谁真的把它存下来过。尺子中途出过两次问题：并发开太高让11个站返回429，差点被读成这些站没数据；以及把不带Age当成没被缓存，而115个站里91个不带Age，其中72个带着CDN自己的命中标记。

    写着每次都要回源，CDN手上那份副本已经躺了9小时

  • 实验台分三层搭：分母取各站公开的商品清单接口并翻页到底，第一跳取首页渲染后DOM里的分类链接（只用静态HTML会漏，gymshark从0变92），第二跳取这些分类各自的商品清单。名次按商品在各分类里的最好位置计，再按每页24、36、50三档分别换算页码，不预设某个站用了哪一档。逐条扣掉地区路由、变体级伪商品、语言分卷重复、翻页截断、导航不走collections路径这五类干扰，60个候选站最后41个进干净口径。

    商品页从首页点两下到不了，六成还挂在sitemap上

  • 给robots.txt做一次分组体检的完整量法：先数通配组的Disallow条数，再数每个专属组的条数，两边做减法找出被漏掉的路径；接着把不会生效的Crawl-delay、Noindex、Host这类字段清掉；最后用测试工具按地址乘爬虫名做一个小矩阵逐个验证，把结果存下来当回归基线。文中给出157份真实robots.txt的实测数据、三种写法的效果对照表、五步自查清单，以及把平台默认模板接管过来之后要承担什么。

    robots.txt分组不继承：157个站的实测

  • 要判断一个站的承诺有多少是说给机器听的，有一套可以照着跑的量法。第一步把页面上人能读到的文字提出来，去掉脚本和样式只留正文，用一组模式匹配承诺类表述：免运费、免退货、多少天退货、多少天试用、多少天送达、多少年质保、终身质保、满意保证，各语言的常见说法都要覆盖。第二步在同一个页面的机器可读部分里找对应字段：配送详情、退货政策、退货天数、免运费门槛、处理时长、运输时长。两步结果交叉，就能算出只对人说、两边都说、只对机器说和两边都没说各有多少…

    配送和退货承诺，63个站说给人听，11个说给机器听

  • 把响应的不成文缺省测出来的完整做法：对同一个地址发三次请求，分别换掉语言偏好、去掉压缩声明、保持原样，再比对最终地址、页面语言标记、标题与正文体积这四项稳定证据；拿到变化维度清单之后逐项去核对Vary头，多了删、少了补。文中给出139个站的实测分布、判据从宽到严导致数字缩水3.8倍的完整过程、五分钟版与半天版两套清单，以及修复该落在哪一层。

    Vary响应头实测：说变的3个，真变的17个

  • 把一个页面对自己地址的所有声明抠出来做对齐，这件事有一套可复现的跑法。先取事实，用跟随跳转的请求拿到服务器实际服务的那个地址，别拿你输入的那个当基准；再从原始源码里取出规范网址、og:url、hreflang默认版本、结构化数据里的url这四处声明；然后做分层比对，第一层严格比字符串，第二层忽略末尾斜杠，第三层忽略www，记下它在哪一层变成一致，那一层就是问题的性质；最后比对站点地图，逐字符比。一个页面十分钟，全站按模板抽八到十个就够。

    canonical你说了不算：132个首页有23%自相矛盾

  • 一个页面拿不到，先别急着改内容。正确的顺序是把同一个地址换几种身份各要一次，逐项比较状态码、正文字节数和最终落点，两次结果不一样就说明问题出在送达层而不是内容层。本文给出七种身份对照的完整跑法，包括基线怎么从数据内部长出来、什么算真的拿到了页面、拒绝页可以用哪四类信号自动识别、声明层与送达层的两层对齐审计怎么在半小时内做完，最后是一份每天跑一分钟、覆盖五个地址三种身份的监测清单。

    robots.txt说允许，GPTBot仍有10个站进不去

  • 排查条件请求要按关卡来：先看响应头里有没有可以拿来协商的凭据，再连发两次看凭据稳不稳，然后带着凭据重发一次看回不回304，最后确认最后修改时间填的不是当前时刻。文中把这套顺序在211个国际化电商域名上走了一遍，逐关给出该看哪个头、判据定在哪、失败对应哪种成因，末尾附一张四种失败对应四种修法的对照表和一份三分钟自检。

    304状态码能省抓取预算，142个站只有52个回得出

  • 排查顺序比工具重要：先抓一次首页把标签剥干净数字符，判断这一页有没有把内容交出来；正文正常再进第二层，在字节里找按钮的名字、图片的替代文本、表单标签和地标区域；只有字节里找不到、而页面上确实有的，才需要打开浏览器看渲染后的无障碍树。文中把这三层在211个国际化独立站上走了一遍，逐层交代口径怎么定、基线从哪来、哪些样本必须先剔掉，末尾给出一张行业参照表、一份分诊流程和三个能在一个下午跑完的动作。

    AI爬虫读不到你的正文？132个独立站首页有28个是空壳