保哥笔记 — 文章列表 第 5 页

  • 把188个海外品牌站的首页在两个时间点各抓一次，337份可解析文档、17423条head声明，逐类统计那些语义上本该唯一的字段被写了几遍、值一不一样；再用一个最小的本地服务制造六组典型冲突，交给真实的浏览器内核解析，看它最终采纳了哪一条。文中给出重复率与冲突率的两次快照对照、内页与首页的差距、七类字段各自的裁决方式、被一个div赶出head的三条声明、编码声明写到十几万字节之后为什么仍然没事，以及三档整改优先级和一段能直接接进流水线的检…

    重复的meta标签，浏览器和搜索引擎各按各的规矩挑

  • 从73个多语言站的首页抽出2529条语言版本声明，实抓258个目标页，逐个解析对面自己的清单，按规范要求做集合比对与逐地址标法比对；非正常响应一律换第二种身份重抓一次，把不受接待与真的坏掉分开；跨域目标另做一次平台指纹对照。文中给出集群规模与跨域分布、自指与集合一致率、标法冲突的形态排序、跳转造成的错位比例、按责任方划分的问题清单，以及一套先修自己再推别人的优先级与可直接抄的沟通结构。

    hreflang互指对不上，多半是另一边先改的

  • 做法是用真实浏览器逐页打开55个英文独立站的首页、商品页，再从首页现场找出联系页与账号页，把每个页面上的input、select、textarea连同type、autocomplete、required、pattern、maxlength、inputmode与名字来源一并取下来。同一个站里声明完全相同的控件按签名合并，避免主题挂在每一页的抽屉表单被重复计数；从没可见过又没有任何说明文字的字段单独剔出，因为那多半是跟踪像素注入的参数框。另…

    表单字段的四件事：51个站的邮箱框，全写上的只有6个

  • 从116个海外品牌独立站的sitemap里各随机抽6条地址做实抓，把提交层、交付层、索引层三处的声明逐条比对。做法是先确认sitemap本身拿得到，再按固定随机种子抽样，一次请求同时取回状态码、跳转链、页面与响应头里的索引声明和canonical，最后对所有非200的地址换普通浏览器身份重抓一次做对照。文中给出一致率、各项失分分布、系统性与零星的分辨方法、六步自查顺序，以及五处差点搞错的判据。

    sitemap提交的地址，页面自己认不认账？

  • 把122个海外品牌站首页上的3102条资源提示逐条拆开，跟页面实际加载的资源域名做差集，再把所有第三方主机拿去做域名解析与请求验活，最后用同一批站在两个时间点的快照比对这块配置动没动。文中给出五种提示类型各自的空转率、重复声明的规模与三种成因、字体预加载缺跨域属性的比例、被指得最多的第三方域各自的空转情况、两次快照的变更率，以及一套先删哪些、哪些要先确认、删完怎么验证的完整操作顺序。

    preconnect指着的域名，有8个已经不存在了

  • 把142个海外品牌独立站首页的最终响应逐字段拆开，按十二种形态归类，再对着规范逐条判它们的下场。做法是先切出跳转链最后一段2xx响应，再按字段名分组找同名重复，然后查缓存、防嵌套、Cookie到期这三对经典冲突，最后把内容安全策略里的关键字逐个过一遍。文中给出各形态的站数分布、平台指纹与自写部分的拆分、六步自查顺序，以及把合并误判成矛盾之后数字从69降到57的修正过程。

    HTTP响应头自相矛盾：142个站里108个在犯

  • 把57个英文电商站的19405个分类按建立年份切成五个桶，逐桶交叉商品数、描述长度、题图、sitemap收录与首页导航覆盖这五项指标；再用一组正则按handle的命名把它们分成促销、节日、赠品、联名等类别，跟空置率交叉；接着把分类的年龄与它里面商品的货龄配对，看货架和货哪一头更旧；最后用真实浏览器逐个打开每站最老与最新的分类页，核对状态码、最终地址与robots标记，并把不可靠的读数逐条剔出去。

    分类页越老越荒废？19405个实测，最乱的是三年前建的那批

  • 实验台从60个英文电商站的公开商品清单接口取回43912件在售商品与19405个分类的全部时间字段，再隔10.2小时把同一批站原样复抓一遍做纵向对照，用同一次测量里的另外两个字段当基线，判断哪一个字段真的记录了内容变动。随后按建档年份把商品分桶，逐站配对比较老货与新货在sitemap收录、首页两跳可达、前台是否仍在售三个维度上的差别，最后用真实浏览器逐个核对可疑读数，扣掉地区路由与渲染异常的站点。

    商品上架时间实测：43912件里老货没掉队，漏的是新货

  • 把143个站声明的sitemap两层全拉下来，435份文件、41万条地址，逐条解析修改时间字段，再按2小时22分、7分钟、4秒三种间隔各重抓一遍做前后比对；对声称刚刚改过的页面另做一次正文闭环，逐字比对标题、描述、H1与正文词集；最后用两种身份同时请求同一份文件，把测量顺序造成的假差异从身份差异里扣干净。文中给出覆盖率、精度、年龄七档分布、时间戳聚集度、索引层与子文件层的对账结果，一次把尺子量歪的完整复盘，以及一套可以在自己站上一分钟跑…

    sitemap lastmod记的是哪一刻？41万条实测

  • 按RFC 9309从零实现一遍匹配器，再用三种办法把157份robots.txt的合并效果逐条判出来：给每条规则生成一个一定能匹配的代表路径，做删除实验看这条规则删掉之后判定变不变，以及把规则随机洗牌五遍验证顺序到底有没有影响。文中给出撞车率、胜负分布、空转成因分类、三种解析器读法的分歧规模，以及一套五步自查顺序和两次量错口径的完整过程。

    robots.txt两条规则撞车，赢的不是先写的那条

  • 做法是把同一批分类从三条独立路径各取一份清单：不用登录就能读的分类出口、站点递给爬虫的sitemap、以及首页渲染后DOM里能点到的链接。sitemap那一份要按语言分卷拆开只取根语言，否则翻译过的handle会被算成另一批；导航那一份不能只抓静态HTML，得用无头浏览器渲染后取并集。空货架的判定不数页面上的商品链接，改用商品清单接口加浏览器里正文区可见的商品卡两条一起看。

    分类页开了19405个，首页只点得到一成七

  • 量法是每个站的首页连打三次、再各取一个CSS、一个JS、一张图片、一个网站图标和robots.txt，逐个记下全部缓存相关响应头，用Age字段反查谁真的把它存下来过。尺子中途出过两次问题：并发开太高让11个站返回429，差点被读成这些站没数据；以及把不带Age当成没被缓存，而115个站里91个不带Age，其中72个带着CDN自己的命中标记。

    写着每次都要回源，CDN手上那份副本已经躺了9小时

  • 实验台分三层搭：分母取各站公开的商品清单接口并翻页到底，第一跳取首页渲染后DOM里的分类链接（只用静态HTML会漏，gymshark从0变92），第二跳取这些分类各自的商品清单。名次按商品在各分类里的最好位置计，再按每页24、36、50三档分别换算页码，不预设某个站用了哪一档。逐条扣掉地区路由、变体级伪商品、语言分卷重复、翻页截断、导航不走collections路径这五类干扰，60个候选站最后41个进干净口径。

    商品页从首页点两下到不了，六成还挂在sitemap上

  • 给robots.txt做一次分组体检的完整量法：先数通配组的Disallow条数，再数每个专属组的条数，两边做减法找出被漏掉的路径；接着把不会生效的Crawl-delay、Noindex、Host这类字段清掉；最后用测试工具按地址乘爬虫名做一个小矩阵逐个验证，把结果存下来当回归基线。文中给出157份真实robots.txt的实测数据、三种写法的效果对照表、五步自查清单，以及把平台默认模板接管过来之后要承担什么。

    robots.txt分组不继承：157个站的实测

  • 要判断一个站的承诺有多少是说给机器听的，有一套可以照着跑的量法。第一步把页面上人能读到的文字提出来，去掉脚本和样式只留正文，用一组模式匹配承诺类表述：免运费、免退货、多少天退货、多少天试用、多少天送达、多少年质保、终身质保、满意保证，各语言的常见说法都要覆盖。第二步在同一个页面的机器可读部分里找对应字段：配送详情、退货政策、退货天数、免运费门槛、处理时长、运输时长。两步结果交叉，就能算出只对人说、两边都说、只对机器说和两边都没说各有多少…

    配送和退货承诺，63个站说给人听，11个说给机器听

  • 要判断一份hreflang声明里有多少是实的，有一套可以照着跑的量法。把首页里所有带alternate的链接标签整个取出来，别只按一种属性顺序匹配，逐条记下语言地区码和目标地址；先数声明总条数，再数目标地址去重之后还剩几个，两个数一除就是虚声明倍率；接着把每条拆成语言和地区两半分别统计，看语言那一半有几种、地区那一半有几个；最后把页面顶部的语言属性和正文实际语言做一次对照，检验可核验的那半准不准。默认项要单独计数，别混进语言里。

    hreflang里236条地区声明，背后只有6个真页面

  • 要判断一段内容的来源能不能被核实，有一套可以照着跑的量法。先把目标站的首页抓下来存成文件，从中取出机器可读的结构化数据块，把代表组织的那个实体找出来；然后逐字段清点有无，把字段按外人能不能独立查证排成一列——名称和描述属于纯自述，网址和标志一点就知道，关联主页要去对面看，法定名称和税号能在登记处查；最后画出填写率随可核验度变化的那条线，看它在哪一档出现断崖。整套逻辑不到两百行，唯一要留神的是结构化数据的嵌套解析，只在顶层找会漏掉一大半样…

    AI水印怎么检测？测到不等于它写的，测不到也不等于不是