Reddit AI搜索挑评论偏爱高赞和正式语气,亲身经历进了答案也被改写成通用建议

Reddit AI搜索挑评论偏爱高赞和正式语气,亲身经历进了答案也被改写成通用建议
张文保 20 分钟阅读 3,004 阅读
本文目录
  1. 这项研究是怎么做的?
  2. 挑了哪些社区
  3. 问题是怎么来的
  4. 连问三遍
  5. 同一个问题问三遍,答案为什么会变?
  6. 答案会跨社区找材料
  7. 和别人撞题的帖子更难被找到
  8. 哪些评论更容易被AI答案选中?
  9. 正式程度和亲身经历是怎么量出来的
  10. 正式语气是投票带来的,还是AI自己偏好的?
  11. 被选中以后,第一人称去哪了?
  12. 通用模型几乎不引用Reddit
  13. 作者对平台的建议
  14. 做品牌和做用户研究的人,能从这里拿走什么?
  15. 用户研究别只看AI摘要
  16. 想监测Reddit AI答案,可以照这个流程做
  17. 品牌口碑监测要多看一眼原帖
  18. 品牌参与讨论时的启示
  19. 亲身经历的内容还要不要写
  20. 自己运营社区和问答区的站长
  21. 别把这份研究套到所有AI搜索上
  22. 常见问题解答
  23. Reddit Answers和Reddit AI搜索是一回事吗?
  24. 这项研究的样本有多大?
  25. 研究结论适用于所有Reddit社区吗?
  26. 写得正式一点,评论就更容易被AI选中吗?
  27. 哪个因素和被选中的关联最强?
  28. AI答案为什么会丢掉第一人称?
  29. 同一个问题为什么每次答案不一样?
  30. ChatGPT会引用Reddit吗?
  31. 做用户研究还能用Reddit AI搜索吗?
  32. 评论被选中和作者账号积分有关吗?
  33. Reddit AI搜索会拒绝回答吗?
  34. 论文经过同行评审了吗?
  35. 权威参考资料

摘要:伊利诺伊大学厄巴纳香槟分校的研究者把20个求助类社区的1万个问题,在Reddit的AI搜索里各问了三遍,得到3万个答案,回溯到1468万条评论。被AI答案选中的评论,在本帖里的得分中位数排在第91百分位,没被选中的只在第45百分位;语气越正式,被选中的几率越高,带“我”“我当时”这类亲身经历的评论几率越低。选进答案之后,第一人称用词从评论里的3.3%降到答案里的0.06%,个人讲述被改写成了通用建议。同一个问题连问三次,答案变不变,几乎全看检索到的帖子变不变。论文是9月13日发在arXiv上的预印本,还没经过同行评审,作者明确说这是观察性研究,不能读成因果。

很多做海外市场的人都有个习惯:想知道用户到底卡在哪,就去Reddit翻帖子。那里有人吐槽产品、有人讲自己踩过的坑,比任何问卷都直接。

现在Reddit自己的搜索框里多了个AI,问一句话,它把几十个帖子揉成一段答案给你。省事是省事了,可这段答案里留下的是谁的声音?Search Engine Journal的Matt G. Southern在9月17日的报道里介绍了一篇专门回答这个问题的论文。这篇以那篇报道和论文原文为主体,把方法、主要数字和对营销人的意义讲清楚。

这项研究是怎么做的?

论文题目是《The Wisdom of the Loudest》,直译过来是“嗓门最大者的智慧”,作者是伊利诺伊大学厄巴纳香槟分校的Agam Goyal、Wang Claire和Eshwar Chandrasekharan。arXiv上的提交记录显示,第一版在2026年9月13日提交,属于信息检索方向,正文23页。它是预印本,没经过同行评审。

研究对象是Reddit Answers。这个功能2024年12月上线时叫这个名字,Reddit在官方公告页上补了一条2026年5月26日的更新,说Reddit Answers已经并进Reddit搜索,变成统一的搜索体验。现在用户在搜索栏里点“Ask”按钮,用的就是它。

挑了哪些社区

研究者选了20个求助、求建议类的社区,分成理财、心理支持、专业咨询、生活决策四组。考虑到Reddit上社区大小差别极大,他们又分成两套:大社区10个,订阅数中位数350万,包括r/personalfinance、r/AskDocs、r/legaladvice、r/careerguidance这些;小社区10个,订阅数中位数21万,结构和大社区一一对应,比如新西兰理财、印度理财、英国心理健康这类。

大社区那一组的名单是公开的,按四类排下来是这样:

类别大社区组
理财r/personalfinance、r/investingforbeginners
心理支持r/HealthAnxiety、r/mentalhealth、r/techsupport
专业咨询r/AskDocs、r/legaladvice
生活决策r/careerguidance、r/relationship_advice、r/Parenting

技术支持被归进了支持类,这是论文自己的分法。这20个社区都允许任何成员发帖,不限认证用户,所以评论里专业回答和普通人的经验分享混在一起,正好适合观察AI更愿意带走哪一种。

问题是怎么来的

研究者抓了每个社区2025年8月到2026年7月的帖子。原计划直接把帖子原文贴进去问,结果发现行不通:Reddit Answers的输入上限是500个字符,实际只有不到大约100个英文单词时才会给答案,而原帖的中位长度是162个单词,原文照贴会被拒掉大约75%。

所以他们用一个小模型把帖子改写成独立的搜索问题,顺手去掉了不必要的人口特征信息,再做去重。每个社区固定500个问题,一共1万个。两位人工标注员抽查过筛选这一步,通过筛选的帖子里,84%和88%被判定确实是在求助。

连问三遍

1万个问题,研究者用无界面浏览器连续问了三轮,每轮之间隔大约5小时。他们没有截网页,直接截获了Reddit Answers返回答案的数据流,里面有答案正文、行内引用的评论、列出的来源帖子和推荐追问。每个来源帖子再用Reddit的接口把整棵评论树拉下来。

最后得到3万个答案,涉及33.769万个帖子、1468万条评论,覆盖8590个社区。拒答率三轮都在1.06%左右,三轮结果对同一个问题是否拒答,99.5%一致,说明拒不拒答是问题本身决定的。

项目数字
社区20个,大小各10个
问题每个社区500个,共1万个
轮次3轮,间隔约5小时
答案3万个
回溯到的帖子和评论33.769万个帖子,1468万条评论
答案引用到的社区8590个
拒答率约1.06%

同一个问题问三遍,答案为什么会变?

做过AI可见度监测的人都知道,同一个提示词今天问和明天问,结果可能不一样。这篇论文把“不一样”定位到了具体环节。

以大社区那一组为例,两次提问检索到的帖子完全相同的,占41.8%;三次全都相同的,占27.2%。不相同的那些,重合度很低,杰卡德系数中位数只有0.26,还有3.7%的提问两次之间一个帖子都不重合。研究者用的词是“双峰”:要么一模一样,要么差得很远,中间地带很少。

关键在下一组数字。检索到的帖子相同时,89.6%的答案文字几乎一样,向量相似度高于0.99;检索到的帖子不同时,在8657对答案里,只出现过一次这么高的相似度。小社区那一组,对应数字是74.8%和0.01%。

结论很干脆:生成那一步给定输入后基本是确定的,答案的变化几乎全部来自检索。想让自己的内容出现在答案里,先得出现在检索结果里,这一步的随机性比写答案那一步大得多。

答案会跨社区找材料

一个典型的答案会用到大约7个不同社区的内容。来自提问原社区的帖子,大社区组只占17.7%,小社区组占15.7%。研究者强调,他们不认为原社区占比越高越好,只是拿它当参照。

跨社区也有规律。原社区越大,检索去的社区也越大,原社区大10倍,检索到的社区大约大1.6倍。大社区组里61.8%的帖子来自更小、更专门的社区;小社区组反过来,大约三分之二来自更大的社区。

还有一个细节值得做内容的人想一想。每个问题都是从一个真实帖子改写来的,那个原帖本来就是最贴题的材料,可系统只在大社区组的35.7%、小社区组的42.6%的问题里把它找了回来。原帖得分每增加一个自然对数单位,被找回的几率在大社区组提高24.1%。在一个抽样子集里,原帖和问题的语义相似度平均0.79,检索到的帖子平均只有0.60,79.3%的问题里没有任何一个检索到的帖子比原帖更贴题。

换个直白的说法:最贴题的那篇,常常输给了更热门的那篇。

和别人撞题的帖子更难被找到

检索还跟帖子在本社区里够不够“独特”有关。如果一个社区里有很多帖子和问题匹配得差不多好,原帖被找回的几率就会下降,大社区组每增加一个标准差,几率比是0.851。反过来,一个帖子比同社区第二好的匹配高出一截时,被找回的几率大约翻倍,几率比是2.044。社区内部内容越同质,原帖被找回的比例越低。

检索的分布也很散。被重复使用最多的前1%帖子,只出现在大社区组5.1%、小社区组3.5%的答案里,没有少数几个帖子包揽答案的情况。

这个发现放到内容策略上,意思很朴素:和一堆同类内容写得差不多,被AI找到的机会就被摊薄了;有明确区分度的那一篇,更容易被单独拎出来。

哪些评论更容易被AI答案选中?

Reddit Answers的答案里会直接引用评论,旁边挂着社区标签,点了能跳到原评论。研究者把答案引用或列为来源的评论,和同一帖子里没被选中的评论放在一起比较。

下面这张表是按一个标准差变化计算的几率比,大于1表示更容易被选中,小于1表示更难:

特征几率比怎么理解
帖内得分百分位2.88模型里关联最强的一项
外部链接2.25带链接的评论更容易入选
顶层回复1.97直接回复原帖的,几率接近翻倍
评论长度1.79长一些的更容易入选
正式程度1.488语言特征里最强,几率高49%
指令性语言1.070“应该”“必须”这类说法
信息具体程度1.019关联很弱
支持性语言0.924安慰、鼓励类的话更难入选
正面情绪0.801更难入选
亲身经历的语气0.789第一人称、过去时多的评论更难入选
回复层级深度0.50楼中楼越深越难入选

描述性数字更直观。被选中评论的得分中位数在本帖第91百分位,没被选中的在第45百分位。被选中的评论92%是直接回复原帖的,而直接回复在所有评论里只占53%。被选中的评论中位数在发帖后1.2小时出现,没被选中的是5.9小时。

得分为零或负分的评论,在所有评论里占5.1%,在被选中的评论里只占0.53%,低了大约10倍。带争议标记的评论,被选中的几率比也只有0.744。

作者的账号积分反而没有显著的整体关联,几率比1.071,置信区间跨过了1。被选中作者的积分大约是同帖对照作者的两倍,可这部分差距主要能用他们评论本身的可见度解释。

正式程度和亲身经历是怎么量出来的

这两个指标都是机器打分。正式程度用一个文本分类器给每条评论打分;亲身经历的语气,论文叫“经验口吻”,根据第一人称代词、过去时这类特征来算。指令性语言看的是“应该”“必须”这类词出现得多不多。

机器打分有误差,一条评论可能既正式又讲了自己的经历。所以这些几率比反映的是整体倾向,不能拿来给某一条具体评论下判断。

正式语气是投票带来的,还是AI自己偏好的?

懂行的人会马上问:正式的评论本来就更容易被点赞,AI选它是不是只因为它票多?

论文做了分解。社区投票确实也偏好正式语气、不太喜欢亲身经历,方向和AI的选择一致。把得分、位置和发帖时间控制住以后,正式程度的几率比从1.488降到1.213,大约51%的关联能用可见度解释;亲身经历的几率比从0.789变成0.860,大约37%能用可见度解释。

剩下的部分说明,AI在投票之外,自己也额外偏向正式、偏离第一人称讲述。研究者还用只看顶层评论的数据和敏感性分析做了复核,可见度、正式程度和亲身经历这三项结论经得起复核,几项较小的关联不稳定,他们在主要结论里没用。

作者在论文里写得很明白:这是观察性研究,不能按因果来读。SEJ也提醒,论文没有证明“写得正式就能被选中”。

被选中以后,第一人称去哪了?

研究者在1000个问题上比较了被引用的评论和围绕它们写出来的答案。“我”“我的”这类第一人称单数用词,在被引用的评论里占3.3%,到了答案里只剩0.06%。

举个可能的场景就明白了。一条评论写的是“我去年被房东扣了押金,后来拿着入住时拍的照片去小额法庭要回来了”,进了答案之后,很可能变成“保留入住时的照片,有助于在押金纠纷中维权”。信息还在,讲这件事的人没了。论文的说法是,个人证言被改写成了一般性建议,读者已经很难认出它原本是一段亲身经历。

研究者拿同样的问题,通过OpenAI接口问了GPT-4o-mini和GPT-5,开着联网搜索。两个模型用的第一人称也比Reddit评论少,可Reddit Answers降得最多。

通用模型几乎不引用Reddit

这组对照里还有个数字挺扎眼。在强制联网搜索的条件下,两个模型一共给出4932条引用,指向Reddit的只有18条。SEJ特别注明,这是通过接口调用、针对求助类问题得到的结果,和ChatGPT应用里的实际表现不是一回事。

论文还用两个核验器检查了答案里的具体说法能不能在被引用的评论里找到依据。两个核验器之间有分歧,研究者没给出精确的“无依据比例”,只说两种方法都找到了生成内容和所引评论对不上的情况。

作者对平台的建议

论文摘要的最后一句是写给平台设计者的:基于社区内容的生成式搜索并不是中立的摘要,设计时除了相关性和流畅度,还要考虑出处、多元观点和可辨认性。可辨认性指的是,读者应该能看出一句话原本是某个人的亲身经历,还是一条普遍建议。

这条建议目前还停留在论文里,Reddit有没有回应,SEJ的报道没有提。

做品牌和做用户研究的人,能从这里拿走什么?

SEJ这篇报道最后落在一句很实在的话上:拿Reddit做受众研究,看重的就是人们讲自己的亲身经历;可在这20个社区里,亲身经历越多的评论越难进AI答案,进去了第一人称也基本没了。Reddit首席执行官Steve Huffman今年2月对投资者说,Reddit特别擅长那种“答案是很多人的多种视角”的问题,这项研究量的正是哪些视角进了AI答案。

用户研究别只看AI摘要

每个答案下面都列着来源帖子,SEJ的建议是先读这些帖子,再决定要不要把摘要写进报告。具体做法很简单:把AI答案当目录用,顺着来源链接点进原帖,按时间排序看楼里的回复,尤其是那些得分不高、来得晚、讲自己经历的。你要找的产品痛点,往往就藏在这些没被选中的评论里。

同一个问题,可以隔几个小时多问几次。论文已经证明检索这一步变化很大,问一次看到的只是其中一种组合。

想监测Reddit AI答案,可以照这个流程做

如果你想知道自家品类在Reddit AI搜索里是怎么被讲述的,可以借用论文的设计做个小规模版本:

  • 从目标社区里挑出用户真实问过的问题,改写成不超过100个英文单词的独立问题,二三十个就够起步。
  • 每个问题在同一天里问三次,间隔几个小时,记下每次答案列出的来源帖子和引用的评论。
  • 比较三次的来源帖子有多少重合。重合度很低的问题,说明检索不稳定,单次截图不能当结论。
  • 把三次都出现的来源帖子挑出来,逐个点进去读。这些是系统在这个问题上最稳定依赖的材料。
  • 再看这些帖子里没被引用的回复,特别是讲自己经历的,记下其中提到的产品问题和使用场景。

这个流程不需要任何工具,花一个下午就能做完一轮。做完你手里会有一份对照表:AI替用户总结了什么,漏掉了什么。

品牌口碑监测要多看一眼原帖

对出海品牌来说还有个现实影响。Reddit Answers已经并进了Reddit搜索,用户在站内搜你的品牌名,看到的可能先是一段AI摘要。按这项研究的规律,摘要更容易引用高赞、正式、来得早的评论,一条讲“我用了三个月就坏了”的经历分享,如果得分不高、来得晚,就不太会进摘要。

这对品牌来说不全是好消息。差评被摘要过滤掉,你也就少了一个及时发现问题的窗口。做口碑监测时,别只看AI给出的结论,原帖里那些低分、晚到的评论照样要过一遍。

品牌参与讨论时的启示

如果你的团队在Reddit上做品牌参与,这份数据提示了哪类回复更容易进AI答案:直接回复原帖的、来得早的、得分高的、篇幅够长的、带外部链接的、表达清楚有条理的。

但这里得踩一脚刹车。这些都是相关关系,研究对象也只是求助类社区。在Reddit上刻意堆链接、写得像说明书,很可能先被版主删掉,再被社区踩下去。得分本身就是最强的关联项,而得分只能靠真有用的回答换来。站内Reddit社区信号那篇讲过品牌参与的节奏,先去别人的社区待三个月那篇讲的是同一个道理。

亲身经历的内容还要不要写

要写,只是要想清楚它服务的是谁。第一人称的经历对人类读者最有说服力,这一点没变;AI答案在这批社区里不偏爱它,说明它很难靠被摘要来传播,得靠人点进来读。站内经验内容的价值那篇讨论过这个取舍。

一个可行的写法是两者兼顾:先用一两句清楚、可以单独摘出来的话把结论说出来,再展开讲自己的经历和过程。前一部分照顾机器,后一部分留给人。

自己运营社区和问答区的站长

如果你的独立站有自己的问答区、评论区或论坛,这项研究也有参考价值。研究没测独立网站,但道理相通:页面上排在前面、得票高的回答,最容易被机器先读到。评论默认怎么排序、置顶什么、是否把最有用的回答标出来,决定了机器先读到哪条。把能解决问题的回答顶上去,同时别把带具体经历的回答埋到底部,两类内容都让机器和人看得到。用户内容怎么做成能排名的资产,站内UGC内容怎么做SEO那篇有更完整的做法。

别把这份研究套到所有AI搜索上

作者自己说,这些选择规律未必适用于其他类型的社区,也未必适用于其他AI搜索系统。不同AI引擎给同一个来源派的角色本来就不一样,站内AI怎么给来源派角色那篇有过对比。想验证某种写法是不是真能带来引用,得自己做对照测试,方法可以参考AI引用测试怎么证明因果。

Reddit在谷歌自然结果里的位置变化,则是另一条线,五月核心更新后Reddit霸榜那篇有各品类的数据。两件事都和Reddit有关,机制完全不同,别混在一起分析。

常见问题解答

Reddit Answers和Reddit AI搜索是一回事吗?

是同一个功能。Reddit Answers在2024年12月上线,Reddit官方公告页在2026年5月26日更新说它已并入Reddit搜索,现在通过搜索栏里的Ask按钮使用。

这项研究的样本有多大?

20个求助类社区,每个500个问题,共1万个,连问三轮,得到3万个答案,回溯到33.769万个帖子和1468万条评论。

研究结论适用于所有Reddit社区吗?

不能直接套用。样本只覆盖理财、心理支持、专业咨询、生活决策四类求助社区,作者明说规律未必适用于其他社区和其他AI搜索系统。

写得正式一点,评论就更容易被AI选中吗?

论文没有证明这一点。正式程度和被选中有关联,几率比1.488,控制可见度后是1.213,但作者强调这是观察性研究,不能按因果解读。

哪个因素和被选中的关联最强?

评论在本帖里的得分排名,每增加一个标准差,被选中的几率乘以2.88。被选中评论的得分中位数在第91百分位,没被选中的在第45百分位。

AI答案为什么会丢掉第一人称?

论文发现亲身经历类评论本来就更难被选中,被选中后在生成答案时又被改写,第一人称用词从3.3%降到0.06%,个人讲述变成了通用建议。

同一个问题为什么每次答案不一样?

主要因为检索结果不同。大社区组里,检索到的帖子相同时89.6%的答案文字几乎一样;帖子不同时,8657对答案里只有一对达到这种相似度。

ChatGPT会引用Reddit吗?

在这项研究的接口测试里很少。GPT-4o-mini和GPT-5在强制联网条件下共给出4932条引用,指向Reddit的只有18条,但这和ChatGPT应用的实际表现不同。

做用户研究还能用Reddit AI搜索吗?

可以当入口,别当结论。先看答案下列出的来源帖子,读原帖里的回复,尤其是得分低、讲亲身经历的评论,同一个问题隔几小时多问几次。

评论被选中和作者账号积分有关吗?

整体上没有显著关联,几率比1.071。被选中作者的积分大约是同帖其他作者的两倍,但这部分差距主要能用他们评论本身的得分和位置解释。

Reddit AI搜索会拒绝回答吗?

会,但比例很低。研究中三轮的拒答率都在1.06%左右,同一个问题拒不拒答在99.5%的情况下三轮一致,拒答主要由问题本身决定。

论文经过同行评审了吗?

没有。这是2026年9月13日提交到arXiv的预印本,SEJ也说如果后续修订版或评审版改变了结论,会更新报道。

权威参考资料

分享到
标签
版权声明

本文标题:《Reddit AI搜索挑评论偏爱高赞和正式语气,亲身经历进了答案也被改写成通用建议》

本文链接:https://zhangwenbao.com/reddit-ai-search-answers-comment-selection-audit.html

版权声明:本文原创,转载与引用请注明作者与原文链接。许可协议: CC BY 4.0

继续阅读
发表评论
支持 Ctrl + Enter 提交