BERT是什么？Google读懂整句人话的语言理解模型讲透

摘要：BERT是Google在2019年10月正式上线搜索的自然语言理解模型，第一次让机器双向读懂一句话里介词、语序和上下文的意思，官方说它影响了大约十分之一的英文搜索。它不是给页面打分的排名器，而是帮Google先弄明白你到底在问什么——所以对它最好的优化，说白了就是把话写通顺、写得像个真人在说。这篇我把BERT到底是什么、它跟RankBrain／神经匹配／蜂鸟／MUM怎么分工，还有外贸和多语言站该怎么落地，一次讲清楚。

前阵子有个做户外装备的客户找我，说他那个英文产品详情页怎么都排不动。我打开一看就乐了：整页英文是机器翻过来又硬塞了一堆关键词的，读起来像喝多了在说绕口令。他还挺委屈，说词都堆齐了呀。我说问题恰恰就出在这儿——你以为Google在数你写了几个词，其实人家早就在读你这句话到底通不通了。这背后管事的，就是今天要聊的BERT。

先说清楚：BERT到底是个什么东西？

BERT是Google 2019年用到搜索里的一个语言理解模型，全名叫Bidirectional Encoder Representations from Transformers，翻成人话就是基于Transformer的双向编码器。名字很唬人，核心其实就一件事：它读一句话的时候，不是从左往右一个词一个词地猜，而是把整句话的左右文一起看，再来判断每个词在这儿到底是什么意思。

打个比方，你听人说话，光听前半句往往会理解偏。别人说“我把苹果放桌上了”，这个苹果是水果还是手机，你得等他把整句甚至下一句说完、结合场景才敢下结论。BERT干的就是这活儿——它把一句查询里前后的词都拿来互相印证，尤其是那些以前搜索引擎当成噪音直接扔掉的小词：of、to、for、no这类介词和否定词。别小看这些词，它们经常是一句话意思的命门。

Moz那篇讲 BERT在自然语言处理里到底扮演什么角色的科普里有个说法我很认同：BERT让机器第一次真正开始理解语言的细微差别，而不是把它当成一袋无序的词。以前的搜索更像在做关键词的连连看，现在则多了一步——它要先读懂你这句话的语法骨架，再去找匹配的答案。这一步看着小，落到结果上却能差出十万八千里。

我那个户外客户，到底是怎么靠“把话写顺”翻身的？

回到开头那个客户。他的老页面里塞满了waterproof、jacket、best、cheap这种词，语法七零八落。用户真实会搜的是什么呢？是“can you wear a rain jacket over a puffer”这种带完整语境的问句——外面套不套得下、怎么搭。老页面里这些词都有，可拼不成人话，Google读不出它在回答哪个具体问题。

我让他做的事特别朴素：把机翻痕迹清掉，请母语的人把每段改成正常人会说的英文，该有的介词、连接词补齐，把“防风外套能不能罩在羽绒服外面”这类真实场景一句句写清楚。没加新词，甚至删掉了一批堆砌的关键词。三周后，那些长尾问句一个接一个开始给他带流量。他还问我是不是偷偷发了外链，我说没有，你只是终于把话说明白了，BERT听懂了而已。这就是我一直讲的写给人看，顺带就喂饱了机器。

更妙的是，改完之后来的流量质量也不一样。以前那批靠堆词勉强来的访客，一看内容驴唇不对马嘴，扭头就走；现在来的都是带着具体问题来的人，停留久、问得细，转化自然也跟着起来。这就是意图匹配对上号的连锁反应——BERT帮你筛掉了无效流量，把对的人送到了对的页面。

BERT是什么时候上线的？凭什么说它影响了十分之一的搜索？

2019年10月，Google搜索副总裁Pandu Nayak在那篇宣布BERT用于搜索的官方博客里说，这是过去五年最大的一次飞跃，影响大约十分之一的英文查询。到2019年12月，它扩展到了七十多种语言。为什么是十分之一而不是全部？因为短查询、导航类查询本来就没什么语境可读，你搜个品牌名，读不读语序都一样。BERT真正发力的地方，是那些长的、口语化的、带一堆小词的复杂问句——恰恰是人们越来越习惯的那种自然表达。

官方举过一个后来被反复引用的例子：查询“2019 brazil traveler to usa need a visa”。这里的to是关键——是巴西人去美国，还是美国人去巴西？以前搜索引擎会忽略这个to，结果给出反过来的答案。BERT上线后，它读懂了to指向的方向，返回的才是巴西公民赴美签证的信息。

还有个常被拿来讲的例子是“do estheticians stand a lot at work”，过去stand会被理解成“忍受”，BERT才明白这里问的是美容师上班是不是得一直站着。一个小小的介词，或者一个有好几种意思的多义动词，落在不同语境里意思能天差地别，这就是双向阅读真正的价值所在。你会发现这些例子有个共同点：它们都是口语化的完整问句，而不是几个干巴巴的关键词——这正是自然搜索越来越普遍的样子，也是BERT被造出来要对付的场景。

“双向”到底比以前强在哪儿？

这得从它之前的模型说起。过去很多语言模型是单向的，要么从左读到右，要么从右读到左，预测一个词的时候只能看它一边的上下文。BERT的原始论文（Devlin等，2018）提出了一种叫遮盖语言模型的训练法：把句子里一部分词随机盖住，让模型根据剩下的左右文去猜被盖住的是什么。这么一训练，它就被逼着必须同时理解一个词的前后文，而不是偷懒只看半边。论文里还有个叫“下一句预测”的任务，让模型学会判断两句话是不是前后接得上，这对理解一整段的逻辑很有用。

结果就是，同一个词在不同句子里，BERT能给出不同的理解。bank在“river bank”和“bank account”里是两码事，靠的就是旁边那些词。搜索引擎能读懂这一层，意味着你不用再把每个同义词、每种说法都硬塞进页面，它能顺着语境把你和用户的真实意图对上号。这也顺带解释了一个老误区：关键词其实不必一字不差地出现在页面上，页面照样能排上那个词，因为机器认的是意思不是字形。

BERT、RankBrain、神经匹配，到底谁管谁？

这仨最容易被搅成一锅粥，我尽量掰开说。RankBrain作为Google第一个机器学习排名系统，2015年上线，主要处理它从没见过的新查询，把陌生的词和已知的概念关联起来，还会参考用户的互动来调整。它管的是“词和查询”的关联。

神经匹配这套被叫做超级同义词的系统，2018年用于搜索，擅长在词和概念之间做模糊的意思匹配——你页面上没写那个词，但表达的是那个意思，它也能对上。它管的是“词和概念”的模糊连线。

BERT呢，管的是“语言本身的结构”——语序、介词、上下文这些语法层面的东西。Search Engine Journal那篇 BERT更新的完整拆解里专门强调过一句我很想转述给客户：BERT不是用来判断内容好坏的，它是用来读懂查询的，所以根本没有“BERT优化”这回事。Google自己也澄清过，这三者不是谁替代谁，而是分工协作，在不同环节各干各的活。RankBrain帮着理解陌生查询，神经匹配连接近义表达，BERT读懂句子结构，最后拼出一个更贴近你真实意图的理解。

那BERT和蜂鸟、MUM又是什么关系？

如果说前面三个是同一层的工友，那蜂鸟和MUM就是不同楼层的了。蜂鸟是2013年那次搜索引擎的整机重写，它搭起了“懂整句意图”的地基和框架。BERT不是来取代蜂鸟的，而是在蜂鸟这个框架里，加装的一层更强的语言理解能力——地基是蜂鸟打的，BERT是后来装进去的高级零件。

MUM是2021年Google拿出来的下一代，多任务、跨语言、跨模态，官方说它比BERT强上千倍。你可以理解成BERT只读文字、只做理解这一件事，MUM能同时处理文字和图片、跨越语言，还能做多步推理。想看这四代从关键词匹配一路演变到意图理解的全景脉络，串起来看会清楚很多。一句话收尾：蜂鸟是框架，RankBrain、神经匹配、BERT是框架里的三种能力，MUM是能力的全面升级。

BERT能不能被优化，甚至被骗？

我知道很多人最关心这个。答案是：骗不动，也没接口给你优化。BERT没有一个像meta标签那样的入口让你去讨好它，它是嵌在理解环节里的底层能力，你能碰到的只有一样东西——你写出来的文字本身。当年BERT刚上线，Search Engine Land在 对这次更新的解读里就点明了：你没法针对BERT做优化，能做的只有把内容写得让人和机器都读得懂。

所以那些老套路彻底失灵了：堆同义词、把关键词硬塞进每一段、为了密度写出不像人话的句子，在BERT眼里全是减分项。因为它读的是意思和结构，你写得越拧巴、越机械，它越判断不出你在讲什么。反过来，你把话写顺、把用户的真实问题一个个正面回答清楚，它自然能把你对上那些查询。有意思的是，这条规律和AI时代的写作要求撞了个正着——不管是Google的BERT还是后来那些大模型，喜欢的都是同一种东西：清楚、自然、真在回答问题的内容。

那到底该怎么写，才算对BERT友好？

我给客户的建议一向就三条，特别土但特别管用：

• 把话写通顺。句子读起来别拗口，该有的介词、连接词别为了塞词删掉。一句“wear over jacket rain”和“can you wear this over a rain jacket”，机器读到的意图完全是两回事。
• 围绕真实问题组织内容。先想清楚用户到底会怎么问，把那个完整的问句和对应的答案写明白，而不是围着一个干巴巴的关键词打转。
• 别怕自然语言的长句。过去大家怕长尾词太细不值得做，现在恰恰相反，越是口语化的长问句，越是BERT发挥的主场，也越是竞争小、意图准的好机会。

给你一个我常用的对照，一看就懂。差的写法：“Waterproof jacket men outdoor best price buy online”——一串名词砸过来，机器读不出这是在回答谁的什么问题。好的写法：“男士户外防水外套怎么选？我们按防水等级、透气和预算分了三档，帮你在雨天登山时不至于被浇透。”后者词更少，却把场景、意图、答案全交代清楚了，BERT一读就知道该把它匹配给哪些查询。

顺带说个很多人不知道的点：BERT不光影响普通的十条蓝链，也用在精选摘要的抽取上。Google当年宣布时就提到，BERT帮助它在更多国家和语言里挑出更贴切的精选摘要片段。这意味着你把某段话写得又准又完整、直接正面回答一个具体问题，被抽成摘要、被AI引用的概率也跟着涨——这条在今天AI搜索的语境里，价值只会更高。

说到底，你不需要“为BERT优化”，你需要的是别再为那套过时的关键词游戏而写。把读者当成一个活人，把他的问题当成真问题来答，BERT这关自然就过了。理解系统到底站在整条搜索流水线的哪一环，可以对照Google搜索中心的搜索工作原理文档看一遍，抓取、索引、理解、排名各是各的活，别混着焦虑。

做外贸、做多语言站，BERT这条对我意味着什么？

这才是我们这拨人最该上心的地方。BERT从2019年底就扩展到了七十多种语言，也就是说，它读你英文站的方式，和读德语、西班牙语站是一样的逻辑。这里头藏着两个坑和一个机会。

第一个坑是机翻。机器翻出来的文案经常语序别扭、介词乱用，在BERT眼里就是一堆读不通的句子，你词填得再满也没用。我见过太多站栽在这上面，钱花在流量上，内容却是一眼假的机翻。第二个坑是照着中文思维直译，英文母语者根本不会那样说话，语境一错，意图就对不上。你想想，你自己看到一段中式英文都皱眉，凭什么指望Google读得津津有味？

那机会是什么呢？就是绝大多数同行还在堆词、还在用机翻糊弄，你只要请母语的人把内容写得像人话、把目标市场用户真实的问法一句句答清楚，你就已经赢过一大片了。这事听着不性感，没有什么黑科技，但它是BERT时代最实在的护城河。保哥干了二十多年，越到后面越信一个理儿：搜索引擎的每一次进化，本质上都在奖励那些老老实实把内容做好的人。BERT只是把这句话，又用技术的方式重讲了一遍。

常见问题解答

BERT是一个排名算法吗？

严格说不是。它是一个语言理解模型，任务是帮Google弄懂查询和内容的意思，本身不直接给页面打分排序。它影响的是“理解”这一环，理解准了，匹配和排名才更靠谱。把它当成排名器去对待，你就会走进“为它优化”的死胡同。

BERT上线后，我需要重新做关键词研究吗？

关键词研究照做，但重点要变。别再纠结把某个词一字不差塞进去多少次，而要去研究用户真实的问法、完整的问句和背后的意图，围绕这些来组织内容。工具给你的还是词，但你脑子里装的应该是一个个活生生的问题。

BERT只对英文有效吗？

不是。它2019年10月先用于英文，同年12月就扩展到了七十多种语言。你做任何语言的站，只要那门语言在覆盖范围内，逻辑都一样：把话写自然。多语言站尤其要警惕机翻，那是BERT时代最容易踩的坑。

BERT和ChatGPT是一回事吗？

不是一回事，但沾亲。它俩都基于Transformer这套架构，可BERT是专做“理解”的编码器模型，用来读懂输入；而ChatGPT这类是生成式模型，用来产出文本。一个偏读，一个偏写，出身相近，干的活不同。

BERT还在用吗，会不会被MUM淘汰？

还在用。MUM是能力更强的下一代，但不等于BERT退役了。这些系统更多是层层叠加、协同工作，而不是简单地一个换掉一个。搜索引擎的底层能力，通常是越加越厚，而不是推倒重来。你今天做的自然语言优化，喂饱的不只是BERT，也是它上面那层层叠加的所有理解能力，一份功夫，长期都算数。

我怎么知道自己的页面对BERT友好不友好？

没有专门的检测工具，但有个土办法：把你的文案念给一个不懂SEO的普通人听，如果他听着别扭、不知道你在讲啥，那BERT大概率也犯迷糊。读起来像人话，就是最好的自查。

权威参考资料