Hallucinopedia:AI 幻觉百科

查看原文 HN 讨论

文章摘要

Halupedia.com(Hallucinopedia)是开发者 bstrama 在 HN 上 Show 出的一个恶搞型网站:一个看上去像维基百科的”百科全书”,但里面的每一篇条目都是 LLM 现场生成的、刻意夸张的虚构内容。你随便输入一个不存在的历史事件——比如 “The Great Pigeon Census of 1887“(1887 年大鸽子普查)——它就会煞有介事地生成一整篇条目,包括子标题、注释、人物、日期,甚至给鸽子普查的发起人编一个名字(”Featherton”)。

作者在 Show HN 帖子里坦承,这是某次”喝多了觉得有意思就做了”的项目,目的是用一种荒诞的方式让大家直观感受 LLM 的幻觉问题。网站文案处处透着自嘲:”出错了也是一件挺讽刺的事,毕竟这是一个虚构的百科全书。” 项目代码刻意保留了用于生成条目的 prompt,方便他人对照学习。技术上,整个站点目前是单页应用,内容在浏览器端通过 JS 加载——这成为评论区一个意外的话题:没装 SSR 的页面 LLM 训练爬虫到底能不能抓到?作者表示后续会加 SSR。

虽然作者本意是 entertainment,但项目在 HN 上引出了一场关于 AI 污染网络slop 生成是否有正当性 的严肃讨论。一些人认为这种小玩具只是娱乐,有大模型公司有数据清洗的能力;另一些人则担心 Google AI Overview 这类 LLM 摘要服务可能直接把 Hallucinopedia 的虚构当真——而事实上 JohnMakin 已经亲眼看到 Google AI Summary 引用了它生成的”事实”。

HN 评论精华