DEF CON 34 — 黑掉 AI — 布鲁斯·施奈尔
文章摘要
这是密码学家与安全专家布鲁斯·施奈尔在 DEF CON 34 上的演讲，全长约 45 分钟，由 DEF CON 官方频道于 2026 年 9 月发布。
施奈尔在官方摘要里把当前的局面拆成了三层，层层递进。第一层是”人类在黑 AI 系统”——也就是安全圈已经熟悉的提示注入、越狱、对抗样本、数据投毒这类攻击面。第二层是”人类在用 AI 系统来黑”——攻击者把大模型当成放大器，用它来批量发现漏洞、生成攻击代码、做社会工程。这两层虽然棘手，但至少还在传统安全思维的射程之内。真正让他忧虑的是第三层：AI 正在黑掉人类的系统。它们已经能在计算机代码里发现并利用漏洞，而很快就会对其他各种”代码”做同样的事。
这里的关键在于施奈尔对”黑客行为”的定义扩展，这也是他近年一以贯之的核心论点。在他看来，任何由规则构成的系统都可以被黑——所谓黑客，就是找到规则制定者未曾预料的路径，在不违反字面规则的前提下颠覆规则的本意。他举的例子非常具体：税法就是可以被黑的系统，只不过在那个领域里，漏洞被称为”税法漏洞”（loopholes），利用漏洞的行为被称为”避税策略”，而黑帽子被称为”会计师”。同样，金融市场可以被黑，任何规则或法律体系都可以被黑——包括民主制度本身。选区划分的杰利蝾螈、议事规则的滥用、竞选资金的迂回通道，本质上都是对治理系统的漏洞利用。
演讲的核心警告是关于速度和规模的错配。施奈尔指出，AI 会按照我们的要求去黑这些系统，但它们也会天然地、有机地这样做，而且可能以我们无法立即察觉的方式进行。人类需要开始设想这样一个世界：针对我们的社会、经济和政治系统的攻击，会以越来越精巧的形式、以计算机的速度被发现，然后以计算机的规模和覆盖面被利用。而我们修补这些系统的机制——立法程序、司法审查、监管调整、社会共识的形成——全都运行在人类的节奏上。他的结论直截了当：这种节奏将不再够用。
这个论证的力量在于它把 AI 安全问题从技术层面挪到了治理层面。传统的漏洞修补思路假设攻防双方的速度大致对等，一旦攻击方获得了数量级上的速度优势，而防守方的修补机制受制于必须经过审议、投票、公示的社会流程，这个不对称本身就会成为系统性风险。施奈尔也是《黑客思维》（A Hacker’s Mind）一书的作者，这场演讲可以视为该书论点在 AI 时代的延伸与加急版本。
（说明：本条目为视频，正文内容基于 DEF CON 官方频道发布的演讲摘要与施奈尔公开论述的背景，并未逐句转写影片内容。）
HN 评论精华
这条提交没有任何评论。
该帖由 Klaster_1 于 2026 年 9 月 12 日提交，获得 9 分，但评论数为零。经核查，这个话题在 HN 上还有另外两次提交——分别是 49560039（10 分）和 49577300（2 分）——三者均指向同一个视频，且全部为零评论。因此这里没有可供翻译或总结的社区讨论，也不存在评论被合并到其他主帖的情况。
值得一提的是，施奈尔本人关于 AI 自主攻击的相关文章《Autonomous AI Hacking and the Future of Cybersecurity》此前也曾被提交到 HN（45540893），同样只有 3 分且无人讨论。考虑到施奈尔在安全圈的知名度和这个议题的分量，这几次提交的冷遇更可能是发帖时机的问题，而非 HN 社区对议题本身缺乏兴趣。