AI爬虫到底抓你什么？代码逆向出爬虫真实偏好8步实操
14种AI客户端、3类抓取经济学、5种日志里的病：别再照官方文档和llms.txt模板猜了。这篇用一个能复现请求指纹的模拟器加访问日志反查，把robots、llms.txt、渲染策略从凭感觉改成可验证的工程，再讲清怎么固化成每季度自动复跑的能力
标签
AI爬虫
保哥笔记 AI爬虫 标签下共 26 篇文章合集，含《JS渲染实测131个站：担心的三件事，两件没发生》《首页的title、og:title和H1，说的常常不》《robots.txt说允许，GPTBot仍有10个站》等，与 技术SEO、GEO、robots.txt 主题密切相关，覆盖 SEO/GEO 实战角度的深度解析与可落地方案。
-
-
AI爬虫抓不到JS渲染？CSR／SSR／ISR引用率实测
GPTBot普遍不渲染JavaScript，CSR站点对AI爬虫几乎透明。本文实测四象限渲染策略对AI引用率的影响、三家不同栈改造前后数据对照，给一组可在自己服务器跑出来的UA模拟命令，配hydration后改DOM等隐性坑的排查清单。
-
碳中和SEO运营：5步从页面碳足迹到爬虫抓取的同一套规范
低碳SEO常被当成营销噱头或道德议题,其实它是一道工程题:本文从网页碳排放的能耗模型讲起,拆解绿色徽章为何不是排名信号、页面瘦身按图片字体脚本的什么顺序与阈值推进、CDN与绿电主机怎么辨洗绿、以及AI爬虫暴涨后抓取预算这道账被怎样重算,最后给一套能排进季度的可持续SEO体检清单。
-
防火墙到底拦不拦得住AI爬虫？答案没那么简单
收录静悄悄掉，技术 SEO 没毛病，外链也都还在——很可能 WAF 把 Googlebot 和 AI 爬虫一并拦了。本文按现代 Bot Management 怎么识别 bot、误拦的早期信号有哪些、GSC 与日志双向确诊路径、Cloudflare 与 Akamai 与 Imperva 与 AWS 与自建 nginx 五种环境的放行配置、AI 爬虫该放还是该挡六件事讲透，配一份半年掉 60% 收录的真实复盘。
-
WordPress拦截恶意User-Agent：functions.php老代码的eregi()死亡迁移、mu-plugins升级与Nginx/CF三层防护
WordPress 网站常被空 UA 的采集器、扫描器、SQL 注入工具骚扰？网传 functions.php 用 eregi() 的代码在 PHP 7+ 直接 fatal。本文给出 stripos 现代写法、mu-plugins 替代 functions.php 的工程化做法、AI 爬虫该拦还是该放、Nginx map / Cloudflare WAF 三层防护、fail2ban 联动动态拉黑、攻击者绕过升级思路与 FAQ。
-
WordPress robots.txt 2026怎么写？虚拟与物理优先级、AI爬虫拦放
WordPress 的 robots.txt 写错会让 Google 抓不到内容、写『通用版』反而屏蔽掉 CSS/JS 让移动友好性扣分。本文给出 2026 年标准模板：虚拟 robots.txt 与物理文件的优先级判定、wp-content/wp-includes 不再屏蔽的理由、GPTBot/ClaudeBot 等 AI 爬虫的拦放分类、Allow/Disallow 在 Google/Bing/百度的优先级差异、附件页处理、Site…
