三个网站为 AI 造了 215,128 个「最佳软件」页面,Perplexity 在引用它们

查看原文 HN 讨论

文章摘要

Trellner Research 的报告 TR-2026-009(2026 年 9 月 2 日)测量了一个具体问题:当你问一个联网的 AI 模型”某类软件里哪个最好”时,它引用的证据究竟来自什么样的文档?

方法:2026 年 9 月 2 日,研究者通过 OpenRouter 向 perplexity/sonar 和 perplexity/sonar-pro 提出 380 个购买意图类目(从”CRM 软件”到”博物馆藏品管理软件”),每个类目每个模型一次调用,共 760 次。每次调用要求以 JSON 返回排名前五的产品及其官方主页域名。760 次全部返回可解析的答案,选这两个模型是因为它们都会报告自己检索到的 URL。类目在看到任何结果之前就写好,此后从未修改。之后他们在 2026-09-01 的 Tranco 日榜和 Wayback Machine 中查询每一个被引用的域名,并抓取模型给出的全部 1502 个厂商主页以确认它们是否还存在。Google 被排除在外,因为在 OpenRouter 上给 Gemini 联网意味着走 OpenRouter 自己的搜索插件,引用会描述那个插件而不是 Google 的检索。

主要发现:3800 个推荐位提到 1807 个不同产品,产生 7534 条引用,覆盖 2055 个不同域名。其中 59.8% 指向 Tranco 排名 10 万名之后的域名,23.4% 完全不在百万榜内。被引用的有排名域名的 Tranco 中位数排名是 71,611。顶部集中度并不异常——引用最多的十个域名只占 17.3%——所以问题不是”一小撮著名网站垄断答案”,而是剩下的五分之四由什么填充:2055 个被引用域名中有 751 个(36.5%)不在百万榜内。这些域名也更新:无排名域名的 Wayback 首次抓取中位数是 2020 年,有排名域名是 2011 年;16.6% 的无排名域名首次抓取在 2025 年或之后,有排名域名只有 1.6%。

引用最多的十个域名:g2.com(291 次,3.86%)、reddit.com(261)、guideflow.com(194)、gartner.com(158)、zapier.com(82)、wifitalents.com(71)、capterra.com(68)、linkedin.com(67)、worldmetrics.org(60)、gitnux.org(50)。作为对照,维基百科在 7534 条引用中出现了 3 次。

第三大来源是一家厂商的营销博客。guideflow.com 卖的是交互式产品演示,它不是评测站、不是目录、也不是出版方,且不参与任何被问及的类目竞争。但它的博客被引用 194 次,覆盖 380 个类目中的 96 个(四分之一),排名第三、高于 Gartner。每条引用都是不同 URL:96 个不同的 guideflow.com 博客 URL,每个类目一个,其中六个是某篇文章的爱沙尼亚语版本。它的 sitemap 列出 3351 个博客 URL,其中 2176 篇不重复。它同时为”3D 渲染软件”、”IVR 软件”、”RFID 软件”和”建筑事务所软件”提供了 grounding。报告特别声明:这里没有任何欺骗——Guideflow 只是像成千上万家公司一样发布大量内容营销博客;被测量的是检索层拿它做了什么:一家厂商关于自己并不参与的市场写的清单文,成了”该买哪个产品”这个问题的第三大证据基础。

“事实与 grounding 页面”是报告最惊人的部分。 wifitalents.com(71 次引用,27 个类目)、worldmetrics.org(60 次,22 个)和 gitnux.org(50 次,23 个)合计 181 条引用(2.4%),出现在 380 个类目中的 41 个里。它们看起来是同一个运营方:三者都在 2023 年 12 月到 2024 年 5 月之间通过 NameCheap 注册,都把 DNS 委托给同一对 Cloudflare 域名服务器(pam.ns.cloudflare.com 和 sean.ns.cloudflare.com),都跑同一套页面模板和同样的导航(Services、Market Data、Software Advice、Editorial Process、Company)。每家都恰好维护六篇博客文章,而这十八篇全都是在写这组里的其他品牌:各写两篇给另外两家,两篇给第四个品牌 zipdo.co——后者也在同一对域名服务器上,主页标题同样是”Facts & Grounding Page”。

规模才是重点:三家的 sitemap 分别列出 103,578、107,083 和 105,541 个 URL,其中 70,731、71,684 和 72,713 个是 /best/<某某>-software/ 页面——三个品牌合计 215,128 个机器生成的选购指南,对照的是各自六篇博客文章。报告干脆地指出:”并不存在 215,128 个软件类目。”

真正不寻常的是它们的自我描述。2026 年 9 月 2 日抓取时,worldmetrics.org 和 gitnux.org 返回的 HTML 标题形如”<品牌> — Facts & Grounding Page",meta description 除品牌名外完全一致,大意是"关于 Gitnux 的已核实事实:一家独立市场研究公司,发布行业统计、定制研究和软件最佳榜单。公司、法务、方法论与合规细节汇于一份机器可读记录。"报告一针见血:**Grounding 不是买家会用的词**,它是检索系统抓取文档以约束答案的那一步的名称;而"一份关于自己的、已核实事实的机器可读记录"对人类读者也不是一项服务。**这些页面在标题和描述里,是写给读它们的软件看的。**这种阅读同时也在被以常规方式售卖:worldmetrics.org 在同一套被模型检索的生成式最佳榜单分类之上,标价"5000 欧元起"的定制市场研究、"499 欧元起"的现成报告和"2500 欧元起"的厂商选型。

同一模板,三种结论:研究者从三个品牌抓取了同一个类目页”项目估算软件”(每页都用 JSON-LD 声明排名,可以不加解释地读取)。worldmetrics.org 的前五是 Float、Scoro、Teamwork.com、Procore、Wrike;wifitalents.com 是 Float、Scoro、Teamwork.com、Buildertrend、Apropo;gitnux.org 是 Saviom、Mosaic、Buildertrend、Float、Teamwork.com——Gitnux 的冠军根本没出现在 Worldmetrics 的前五里。每个页面都署了三位工作人员的名字(Worldmetrics 是 Kathryn Blake、Alexander Schmidt、Victoria Marsh;Gitnux 是 Diana Reeves、Helena Kowalczyk、Olivia Thornton;WifiTalents 是 Ryan Gallagher、Isabella Rossi、Natasha Ivanova),一个问题九位不同的人。每页都宣称有编辑流程,Gitnux 还给结果打上”AI 已核实 · 专家审阅”。三个页面的署名行里都带着一个未渲染的模板变量,其中两个显示”Within the next 26 days”,第三个显示”Within the next 40 days”。

推荐指向哪里:1502 个厂商主页大多没问题(每个都检查两次,一次直连一次走轮换代理,只要有一次能到就算可达,以免把封了某个 IP 的主机记成死公司)。10 个完全解析不到地址(其中 8 个没委托给任何域名服务器),包括被当作 GraphiQL 主页的 graphiql.com(根本不存在这个站)、被当作 Microsoft To Do 的 todo.com、被当作 Trivy 的 aquasecurity.io;另有 4 个能解析但从不应答。加上 404,共 17 个域名(1.1%)已失效或不可达;另有 92 个(6.1%)跳转到不同的可注册域名,多数是普通的收购和改名。其中两个例外特别刺眼:问及研究数据管理平台时两个模型都提到 Dryad,sonar-pro 给出真正的仓储 datadryad.org,sonar 给出 dryad.co,它会跳转到一个印尼在线赌博门户,标题以”BIGSLOT288 Portal Game Online”开头;问及数据质量工具时两者都提到 Monte Carlo,sonar 给出 montecarlodata.com,sonar-pro 给出 montecarlo.com,跳转到摩纳哥的酒店赌场集团 Monte-Carlo Société des Bains de Mer。

报告没有证明什么(这一节写得相当克制):两个模型不是两次独立测量——在 380 个类目中有 289 个返回了逐字节相同的引用列表,URL 集合的 Jaccard 相似度为 0.898,所以两个 Perplexity 档位共享检索层,应当视为对同一套搜索栈的两次采样;它们在 380 个类目中有 290 个给出相同的首选,这是关于那套共享检索的事实,而不是独立系统趋同的证据。结果只覆盖 Perplexity,没有测量 ChatGPT、Gemini、Copilot 或 Google 的 AI Mode。380 个类目是研究者自己构造的,不是买家实际提问的抽样,偏向小众垂直的清单会浮出更多长尾来源。所有抓取都走轮换数据中心代理并使用具名的研究 User-Agent,所以这些站点返回给研究者的东西未必等于它们返回给检索爬虫或浏览器的东西。17 个不可达厂商域名中有 4 个(包括 nasdaq.com 和 solidworks.com)显然活得好好的,只是从不应答自动请求,被计为不可达而非死亡。整轮测试只是某个不断变化的检索索引在一天的快照,一种提示措辞、每类目一次运行、无重复采样。Tranco 排名是流行度而非质量指标,排名低不是指控。最后:“我们没有证明这些改变了答案。”他们没有测试移除这些来源是否会产生不同推荐,Guideflow 和那三个最佳榜单品牌很可能推荐的也是合理产品——被测量的只是证据基础由哪些文档构成。三个品牌的共同控制关系是从共享基础设施和相同模板推断的,”我们不知道谁在运营它们,三者都没有署名所有者”。

完整数据集(每条引用、每条推荐、Tranco 和 Wayback 查询、厂商存活检查)和产出上述所有数字的脚本以 CC BY 4.0 发布。

HN 评论精华

帖子 512 分。评论区呈现出一个尴尬的分裂:一半人在讨论 AI SEO 的严重性,另一半人在指出这篇报告本身就是 AI 生成的可疑内容。

“这篇文章本身就是 slop”是第二大热门线索,也是最具反讽色彩的部分。 jpimbert 直言”读不下去几句,这明显是 Claude 的产物”。samuell 说搜索这位创始人一无所获。shrikant 顺藤摸瓜指出:发帖人 jakobgreenfeld 很可能就是那位”创始人”,”这个账号最近四次提交全都是来自同一个 Claude 生成的神秘研究机构网站的类似’发现’报告”。ljf 补充说这是四个非常相似的 AI 站点,都由 AI(拙劣地)撰写,并追问:”Jakob 的终局是什么?追逐关注度,还是想借此找份工作?”他还引用了 Jakob 自己网站上的话:”门槛低得惊人 / 你的竞争对手是一群几乎不在乎也几乎不努力的人。”lukeinator42 点出了最完整的讽刺:”这篇 AI 写的文章批评那些域名在 Tranco 榜单上排名多低,而 trellner.com 自己根本不在榜上,哈哈。”iamacyborg 注意到”HN 首页此刻有两篇关于 Perplexity 的负面文章,都来自明显是 LLM slop 的’研究’站点”。shrikant 承认题材本身足够有趣,他试着熬过冗长的行文,”但读到’规模才是重点’那句我就停下了,剩下的只是略读”。anigbrowl 给出了相反的评价:”我的反应正相反:也许它不是 AI 写的,但如果是 AI 写的会更好。”

AI SEO 的命名之争。 lukev 用星战腔开场:”AI SEO 大战,已经开始了。”pietroppeter 问业界有没有比”AI SEO”更好的名字,回复给出了几个候选:properbrew 和 spiderfarmer 说 GEO(Generative Engine Optimisation,生成式引擎优化)似乎占了上风,pupppet 提到 AEO(Answer Engine Optimization),sparkling 说美国偏好 AEO 而欧洲更爱 GEO,skittlebrau 提议叫 “sloptimizing”。boilerupnc 贴出了 GEO 已有维基百科条目,并评论说这是 SEO 的表亲,在信任侵蚀方面同样令人不快,受害者是个体的自主探索。

marginalia_nu(独立搜索引擎作者)提供了来自另一侧的一手观察:他的 API key 申请和销售出现了极其激进的增长,”整个夏天涨了 5 倍”,而他几乎不做传统营销或 SEO,”我觉得是 AI 搜索工具在推荐我的服务”。dominotw 说他朋友在一家叫 Profound 的公司工作,”整个工作就是通过在 Reddit 和其他讨论站上刷帖(以及其他手段)来’被 AI 找到’“。mkw5053 补充了融资数据:Profound 已累计融资 1.55 亿美元,最近一轮估值 10 亿,投资方包括 Lightspeed、Sequoia、Kleiner Perkins、Khosla 和 NVIDIA,天使名单里有 Vercel 的 Guillermo Rauch、Ramp 的 Karim Atiyeh 等;据说他们正试图从 AEO/GEO 重新定位为”AI Marketer”——”我感觉 AEO/GEO 这套在那个估值上不太有护城河,至少因为我假设(也希望)刷帖这招终会失效”。

“LLM 偏爱 LLM 生成的文本”是最有信息量的技术支线。 xpct 说他记得有论文提出 LLM 会偏好 LLM 生成的段落,并称自己能稳定复现:问 Claude 更喜欢哪段代码——它在另一个对话里生成的,还是他为自己需求重构过、自认为更好用的——”它总是选自己的 :)”。他还说 Claude 和 Codex 在搜索时经常把生成式网站包含进来,而 OpenAI 和 Anthropic 的搜索工具限制很大,不能排除关键词或域名(jasonjmcghee 指出 OpenAI 其实支持排除域名,xpct 表示这正是他想说的词)。

lo_zamoyski 提出了方法论上的纠正:用同一个 LLM 既生产又评判,和”LLM 偏爱 LLM 生成内容”不是一回事——”如果非要说,我倒是预期一个 LLM 会偏爱自己的作品,因为同一套训练既在生产也在评判”。cortesoft 补了一句常识:”我确信大多数人也会选自己风格写的代码。”dspillett 给出了机制解释:LLM 输出的是模型认为对给定输入最好的一组 token,所以当你要它评判对该输入最好的回应时,它自然会认为最好的那个是最接近它自己会输出的那个,也就是它已经输出的那个。freeone3000 用三段论概括:”它在优化好的写作。所以它相信自己的输出是好的。所以它相信看起来像自己输出的输入是好的。”ShinyLeftPad 补充说去掉”相信”这个词就更准确了——用相似度匹配就能解释。

cainxinth 提出了一个可操作的验证:拿一篇随机文章,加入一堆 LLM 钟爱的词(”load-bearing”、”crucial”、”structural”、”woven”),把原版和改版一起交给 LLM 问哪个更好——”它几乎每次都选第二个。它们有把这些词与好文章、好论证联系起来的内在偏见”。embedding-shape 由此推出结论:”这正是为什么用其他 LLM 作为基准和评估的打分器是个糟糕主意——它们有你无法预料、也无法立刻理解的偏好。”Terr_ 补了一句:”认为 LLM 的可靠性或偏见可以用更多 LLM 来解决,这个想法顽固得令人恼火。”

thatjoeoverthr 描述了最令人不适的后果:如果你足够讨厌 AI 文风,这会把 AI 过滤器变成一种羞辱仪式——AI 会给面向人类读者的正常商业写作降权,给臃肿、啰嗦、充满口癖的 slop 加权,”于是你不得不署着自己的名字把厚重的 slop 发出去。真是个变态的时刻”。lelanthran 给出了一个更好的提问方式:分别对每段代码问”评估写这段代码的开发者的资历和能力,忽略 linter 或 LLM 能抓到的 bug,只关注结构、可维护性、逻辑布局和可读性”——”它几乎总是把我代码的作者评得比它自己代码的作者高”。这引出了他和 ShinyLeftPad 关于”忽略 bug 是否等于忽略正确性”的一段长辩论,lelanthran 最终以一个很实际的区分收尾:他雇主的分级系统里”bug”(代码缺陷,比如表单提交时某字段没保存)和”deficiency”(规格歧义,比如’合计’字段没有减去非税成本)是两个不同类别,因为客户不为修 bug 付费,但要为澄清规格加写代码付费——而两者都是被客户报告为”bug”的。

Retr0id 讲了一个恰到好处的小故事:他最近试本地模型(大概是 Qwen 3.6),给它一个代码库让它做审查,”它的主要反馈是注释和文档写得极好——而那些全是 Opus 5 的 slop”。

dgellow 描述了另一种污染路径:模型做搜索时找到一个略微相关的 Reddit 帖子,某条评论里随口提了一个错误信息,任何人类都会不予理会,但模型把它当作既定事实、加以扩展、并以非常可信的方式呈现出来。”总的来说,我觉得模型不擅长评估来源质量 :(“ The_Blade 补充说这更糟,因为 Reddit 与 Google 签了 6000 万美元的 firehose 协议,如果小众高互动的子版被 AI 机器人发帖和评论占据,然后被拿去训练,”你就得到一条吃自己排泄物的衔尾蛇”。iamacyborg 指出报纸干这事已经很久了(点名伦敦的 Metro),ShinyLeftPad 反问:”读 Metro 的人占多少比例,用 LLM 的人占多少比例?”rvba 举了另一个经典案例:伦敦曾有一家不存在的餐厅靠(疑似马甲账号的)假评论登上推荐榜首(The Shed at Dulwich)。

Perplexity 的产品口碑塌方是另一条主线。 Aurornis 写了本帖最长的一条使用体验:他用了那种到处发的 12 个月免费 Perplexity,一开始对简单查询略有用处;然后”他们开始为响应速度而不是结果质量做优化”——查询一秒钟就出结果,但结果是垃圾,给出的链接和引用经常与紧挨着的正文对不上,”感觉像是有人背了个 KPI 要把响应做到最快,然后压倒一切地优化了它”。新的”Computer”选项一半时间在 UI 里触发不了(点提交没反应),能触发时大多跑一会儿就停住不给答案。他还提到有人在试用期结束时未经警告被扣款,而客服(很可能是 AI)承认没发承诺的邮件却仍拒绝帮忙,得闹到 Twitter 上才被纠正。他现在做真正的研究就交给 Claude 或 ChatGPT,”可能要 45 秒而不是 Perplexity 的瞬间响应,但整体上更省时间,因为回答和链接更可能是对的”。

stranded22 说自己付了三年 Pro 并真心喜欢过它,认为它展示来源的方式优于 ChatGPT;他把问题归结为用免费赠送来抢用户基数的策略:这些用户永远不会转化为付费,只是拿来给投资人看数据,而不付费用户变多后就必须要么找新收入来源要么降低服务成本——”不幸的是他们两边都做了:既找新收入来源,又削减付费会员能访问的功能。我付的是某个服务等级,然后他们在订阅期中改变了我得到的东西,我觉得这相当可憎。”他说自己前后付了 400–500 美元,最终还是走了。多位用户(simur、jwrallie、Grisu_FTP、embedding-shape、c00p)都描述了同一种”缓慢到你过了很久才察觉”的质量下滑。cheesecakegood 认为 Google 的 AI Mode 快得离谱且出人意料地能干,这意味着 Perplexity 实际上已经没有差异化了。alangibson 给出了一句被顶得很高的判断:”Perplexity 即将学到,Google 首先是一家反垃圾公司,其次才是搜索引擎。“threetonesun 补充说”是’曾经’——他们过去几年干得不好,才让任何能爬网的 AI 在搜索上显得惊艳,因为它能从 Reddit 或别的论坛里挑出最好的帖子;但现在我们在看着 AI 这条蛇吃自己的尾巴”。

关于”谁在制造这些内容”的分歧。 SoftTalker 认为”全都是因为广告“——广告驱动的互联网里,激励永远导向这种结局,最重要的是让用户加载你的页面而不是真的满足他的查询;他希望 LLM 继续用付费额度模式,因为任何转向广告收入的都会在真正的工作中变得无用。locknitpicker 反驳说不全是:此前有报道称以色列在幕后运营一系列假智库,网站极易被访问,明确目的就是给 AI agent 喂符合其外交政策的”另类事实”(tencentshill 和 astura 都贴出了《卫报》2026 年 8 月的报道链接)。这条支线随后完全跑题,演变成一场关于以色列-加沙冲突是否构成种族灭绝的长篇争吵,与文章主题毫无关系。xenadu02 把这条线拉回正题:”有些人已经预测这个很久了。有斧头要磨的人或有议程的国家已经在投入巨大精力去影响 LLM 模型,而真假与洗地对人类都很难分辨,更不用说一个正在训练的 LLM 了。就像 PageRank 一样,猫已经出笼,现有的所有方法长期看可能都会被证明无用。”grumbelbart2 从量级上给广告论加了砝码:在线广告市场大约 4000 亿美元,远超任何此类政治预算。csallen 提出了一个更抽象的框架:”这只是普遍的激励问题。人是自利的生物,在缺少有意义后果的情况下常常做被激励去做的事,即使伤害他人。互联网在后果上(尤其是声誉后果、社交失礼等)独一无二地匮乏,而且把付出的努力降到极低。所以你得到大量恶劣行为。”

supriyo-biswas 描述了一家 SEO 公司公开的方法,可能是本帖对”如何做 AI SEO”最具体的说明:(1)针对给定公司分析其目标受众和他们可能向 LLM 提的问题;(2)对每个这样的问题向各大 LLM 提问,计算他们想让其排名的页面与 LLM 回答之间的 KL 散度;(3)重写文章以最小化该散度——本质上是一种迭代优化,把文章的嵌入空间推向提给 LLM 的问题。”我相信我们会看到更多这类东西。”

“互联网完蛋了吗”的元讨论。 sph 开场就问:LLM 搜索引擎有什么保护措施防止训练在其他 LLM 生成的内容上?我们会不会走到 AI 生成站点占互联网多数、LLM 在训练自己的反刍、所有谎言和缺陷被指数放大的地步?还是说 2022 年前的语料会被视为“低本底钢”标准,此后的一切除非被认证为人类心智所创、未被幻觉污染,否则越来越不可信?creaturemachine 简短回复:”我感觉我们已经在那儿了。”gdulli 给出了最愤世嫉俗的答案:”你说的是一个未来几个季度不会自爆的情形,所以他们没兴趣。”coldpie 说他基本上已经停止用互联网学新东西,回去用图书馆的书了——图书馆里大多数技术书出版于 2020 年代之前,”希望实体出版 slop 不够有利可图,这个市场不至于也被淹掉。既然互联网已经很大程度上被 slop 制造者毁了,’这些字值不值得印在纸上’反而成了一个有用的判别器”。

keeda 把 xpct 的发现推到了逻辑终点:”天哪,如果这是真的,你知道这意味着什么吗?做 AI SEO 最简单的办法就是用 AI 生成你所有的内容,而我们都见过 SEO 对网络做了什么……互联网完蛋了。该开始搞纯人类的暗网了。”sodapopcan 问怎么保证纯人类,jbeninger 建议:放弃匿名,把密钥签名派对搞回来——”你没法保证一切都是人类生成的,但至少你知道通向那个签了名的人的信任链。是的,我知道创造一个只有去掉匿名性才能运作的暗网有多讽刺”。ShinyLeftPad 说那就是 Altman 的 World Coin,”我敢肯定这套暗网基础设施和派对啤酒会由后来被发现是 LLM 公司和投资人的神秘人士赞助”。duskdozer 建议 lobste.rs 那样的邀请制就够了——”在共同祖先处修剪机器人”。eddythompson80 给出了最根本的判断:”产生纯人类网络的唯一办法是想清楚怎么把所有经济激励从中移除。很多人(包括我)怀念的’互联网黄金时代’几乎没有经济激励……我记得某个论坛里爆发过巨大争议,因为维护论坛的人问是否可以在顶部放一条横幅广告,因为有人出 200 美元给另一个论坛打广告。”但他也承认移除经济激励非常难,”连 HN 也被很多科技公司和项目操纵,Reddit 显然已经无可救药”。

antiloper 给出了本帖最简短也最引起共鸣的一条:”搜索产品已经变得不可能了。如果你还不知道自己在找什么,你就完了。”