抓取控制

robots.txt两条规则撞车，赢的不是先写的那条

按RFC 9309从零实现一遍匹配器，再用三种办法把157份robots.txt的合并效果逐条判出来：给每条规则生成一个一定能匹配的代表路径，做删除实验看这条规则删掉之后判定变不变，以及把规则随机洗牌五遍验证顺序到底有没有影响。文中给出撞车率、胜负分布、空转成因分类、三种解析器读法的分歧规模，以及一套五步自查顺序和两次量错口径的完整过程。