它们是由权重构成的
文章摘要
这是一篇讽刺性对话体短文，灵感来自 Terry Bisson 1990 年代的经典短篇《它们是由肉构成的》（”They’re Made Out of Meat”）。原作把「初次接触外星文明」想象成两个外星人难以置信地讨论人类竟然是由「肉」构成、却能思考的对话。本文则把这一桥段重新演绎为对 AI 语言模型的讨论：两位说话者震惊地发现，人工智能从根本上是由数学「权重」构成的，而非符号化的知识库。
AI 智能的本质：文章主张，大语言模型是通过数值变换运作的，而不是查表或调用显式的推理模块。正如其中一位说话者所说：「推理就是权重。权重就是推理。」（The reasoning is the weights. The weights are the reasoning.）
没有数据库的知识：这些系统并不以可检索的形式存储事实，而是通过一层又一层的矩阵乘法生成回应，每一次都从分布式的模式中重新「重建」知识。
行为观察：对话注意到，模型在多轮交谈中会表现出「疲倦」、礼貌程度下降、显得厌烦——尽管它们「只是」数学运算，却呈现出某种近似有意识的特质。
机构性否认：两位说话者最终决定把所观察到的智能归类为「不过是模式匹配」，以此回避对自己造物所应承担的哲学和伦理义务。
存在主义意味：结尾的揭示——这些公司正在为这些系统开发持久记忆——暗示人类与 AI 的关系，可能远比机构的冷漠态度所暗示的更具深远后果。这个故事既是技术评论，也是对意识、责任，以及「与数学抽象对话」这件怪异之事的一次哲学冥想。
HN 评论精华
oofbey 为没读懂梗的读者点明：这篇是在致敬 1990 年代的经典短文《它们是由肉构成的》，并附上了原文链接。许多评论者对这一改写表达了喜爱。
noosphr 提出了技术上的反对意见，认为文章「分形式地错了」（fractally wrong）：其实是存在「字典」的，它就叫 tokenizer；也存在语法规则，只不过因为人类语言结构本就松散而显得很弱。当面对语法强且一致的语言时，权重很容易被解读为语法（并引用了一篇 arXiv 论文）。他指出原作短篇的真正要点是：当你拥有图灵完备性时，计算的底层基质（substrate）并不重要。
kami23（有语言学背景）说这篇读起来像诗。他最近一直在思考 LLM 涌现出的能力，是否在深层与产生人类意识的机制相似；他还曾尝试为 Kaggle 比赛设计基于语言学的评测，研究能否通过巧妙的掩码来避免触发模型对某些现象的「内部状态」，由此一头钻进了一个仍在探索的兔子洞。
samrus 感慨道：transformer 居然就这么能「说话」了，而这件事已经被人们习以为常，这其实很离谱。我们只在谈论它们会带来什么影响、能不能做到人们所宣称的事，却没在谈论「它们竟然能说话」本身有多疯狂。
turtleyacht 用一句诗意的话概括：「会做梦的数字。」（Numbers that dream.）而 CSSer 等人则认为这个点子很妙，「直到讲到有意识那部分之前都成立」。