老网络去哪儿了?我们跟踪了 657,607 条链接来寻找答案

查看原文 HN 讨论

文章摘要

一份旧的 0.mk 数据库备份里躺着 657,958 条创建于 2009 到 2014 年之间的短链接,连同它们的点击计数。团队恢复了其中 657,607 条 2015 年前的记录,并在 2026 年 8 月挨个访问了每一个目标地址。在 655,178 条安全、可爬取的链接记录中,76.7% 已经不再返回一个能加载的页面。

0.mk 是北马其顿的第一个短链接服务,2009 年由三个人利用业余时间做的兴趣项目,通常每周只投入几小时。十七年后,其中一人在一块硬盘上找到了旧数据库备份,决定把它复活。作者明确声明这不是整个网络的普查——大多数用户在马其顿——而是一个线上社区在那段时期分享内容的一份大规模幸存记录,包含本地新闻、个人博客、图床、论坛和当时的主流平台。

生存测试的结果:在 655,178 条可爬取的历史链接中,51.24% 连接失败(DNS、超时、TLS),25.44% 返回 HTTP 错误(4xx/5xx),只有 23.32% 加载成功(2xx/3xx 响应)。而文章立刻指出,连这 23.3% 都高估了幸存率——一堵登录墙、一个塞满广告的停放域名、一条”此内容已不可用”的提示,都算作”加载成功”。一个能工作的页面,不代表原来的内容还在那里。

数据的严谨性在几处细节上体现得很好。为什么是 657,607 条链接但只有 494,781 个 URL?因为多条短链接有时指向完全相同的目标,这类重复记录有 162,826 条。把每个目标只算一次后剩下 494,781 个不重复 URL,其中 492,620 个可爬取,加载成功的只有 21.3%——去掉重复目标后这个百分比几乎没动,78.7% 仍然打不开。在不重复 URL 层面,55.0% 在网络层失败(对不确定的结果已经从第二个网络重试过),23.7% 返回 HTTP 错误。最常见的 HTTP 结果是 404,覆盖 76,403 个不重复 URL;另有 29,663 个返回 403 或 429——这些页面对爬虫没有加载,但可能只是在阻止自动请求而非真的消失了。作者因此坚持使用”没有加载”而不是”已经消失”的措辞。域名层面的图景一样:133,605 个可爬取主机名中,只有 34,827 个至少有一个 URL 能加载,另外 98,778 个一个都没有。

按年份看,2009 到 2014 年各年”没有加载页面”的比例在 URL 层面分别是 64.58%、60.39%、92.53%、59.43%、75.06%、78.16%。2011 年那个 92.53% 的异常值有一个明确解释:一个账号创建了 83,398 个指向同一个主机名(pelaphptutorials.com)的不重复链接。把这个主机只算一次,2011 年的数字就变成 61.74%,与 2010 和 2012 年几乎完全一致。作者据此提醒:原始链接量不是用户增长曲线——去掉那一批后 2011 年从 103,053 条记录降到 19,655 条,而 2012 年是 23,148 条。

一个反复出现的结论是:可辨认的幸存者多是巨头——YouTube、维基百科、谷歌旗下的各种产品;而个人博客、论坛、本地新闻站、图床散布在整个”不可用”集合里。中心化的网络总体上比小网络扛得更好。

文章有一节题为”墓园漫步”,列出了这个 2010 年代互联网博物馆里的一些住户:Facebook 老照片 CDN(fbcdn.net)有 835 条链接指向,一个都没加载;Google Code 有 803 条,现在多数 URL 重定向到其归档;PureVolume 有 796 条,老服务没了但域名还有响应;Rapidshare 139 条、Megaupload 71 条、Picasa 网络相册 69 条,无一 URL 能加载。有意思的对比是:PureVolume 653 个不重复 URL 中有 633 个现在返回页面,Google Code 754 个中有 628 个能加载或重定向——原来的服务没了,但域名还在响应。一个 HTTP 响应不等于内容被保存了下来。

还有一层”马其顿地层”:这些链接指向 A1 电视台(2011 年关闭),以及《Utrinski Vesnik》《Dnevnik》《Vest》三家报纸(均于 2017 年停刊)。数百条指向本地新闻的链接,如今除了偶尔在互联网档案馆里,别处都读不到了。作者用了一句很有分量的话——短链接活得比新闻编辑部更久。

最后是几件”珍宝”。有史以来第一条被缩短的链接(2009 年 7 月 14 日凌晨 3 点 52 分)不是什么宣言或发布公告,而是某人 WordPress 博客上的一个 CSS 样式表,总共两次点击——”帝国的起点都很卑微”。第二天有人缩短了 localhost,0.mk/localhost 指向 http://127.0.0.1/,得到两次点击,每一次都把访客送回了他们自己的机器——”最短的 URL 指向最孤独的目的地”。最短的链接指向了最长的域名:0.mk/1 记录了 10,415 次点击,指向一个 63 个字符的、2000 年代的猎奇长域名,而那个域名本身现在也没了——四个字符指向六十三个,持续了 17 年。最长的 URL 有 38,753 个字符,是 2012 年的一个 CodePen 链接,查询串里字面重复着 TRYING_THE_MAXIMUM_URL——”有人在测试我们。我们通过了,而且我们还保存着他们的测试。”另有 4,478 条链接指向其他短链接服务(bit.ly、TinyURL、goo.gl)——短链接指向短链接,脆弱性翻倍;谷歌在 2025 年关掉了 goo.gl,所以现在这些全都成了中间缺了一环的链条,我们这一半还能用,指向一个不再解析的服务,作者称之为”链接腐烂的平方“。而那个不朽的:0.mk/7 创建于 2009 年 7 月 15 日,指向 google.com,95,999 次点击并还在增长,十七年和一次复活之后,它今天仍然指向那里。

最后一节解释了 0.mk 为什么回来。2014 年时它的收入覆盖不了托管成本和维护所需的工作,垃圾信息不断,过滤意味着更多工程投入,滥用举报需要人来审核,于是原班人马关掉了服务。十七年后,作者说 AI 改变了这个等式——它现在能处理开发、垃圾检测、滥用审核、支持和监控中的大部分工作,这些正是老项目负担不起的东西,这让复活 0.mk 变得现实。恢复的链接现在跑在 300 多个城市的边缘节点上。

HN 评论精华

(原文抓取成功。需要注意的是,多位 HN 评论者认为这篇文章及整个 0.mk 站点内容为 AI 生成,作者本人在站点上也有一篇名为 zero-humans 的说明页,本总结据原文内容撰写并在评论部分如实记录了这一质疑。)