CrankGPT:靠手摇发电运行的本地大模型
文章摘要
CrankGPT 是一个把”AI 耗能”问题做成实物的趣味项目:它在树莓派上本地运行大语言模型,而供电方式不是插座,而是一台手摇发电机。换句话说,你想让模型回答问题,就得自己亲手摇动曲柄发电——以一种近乎行为艺术的方式,让 AI 推理所需的能量变得”看得见、摸得着、摇得累”。
这个项目本质上是对当下 AI 能耗与算力集中化的一次讽刺与反思。当电力由你的手臂直接提供时,每一次推理的成本都被具象化了,也促使人重新审视”轻易调用一次大模型”背后真实的能量代价。
在评论区,不少人围绕”人力到底能输出多少瓦”展开了认真的讨论,也有人联想到《黑镜》中人类蹬车供能的反乌托邦桥段。值得一提的是,项目页面采用了较为花哨的滚动劫持式设计,多位读者建议直接去看技术文档,那里对兼容的模型和实现细节交代得更清楚、阅读体验也更好。
HN 评论精华
- john_strinlai:觉得营销页面读起来很费劲,建议大家直接去看技术文档,体验好得多。
- SecretDreams:怀疑这东西是否真的能用,但认可其立意,并借机批评了 AI 算力向少数富人集中的现象。
- kowbell / smallpipe / iamacyborg:就人体功率输出(瓦数)和骑行者体能展开讨论,争论未经训练的普通人能否持续输出设备所需的约 200 瓦。
- andy_ppp / jszymborski:认为以手摇为约束来做设计反而能逼出更高效、更可持续的工程,甚至开玩笑提议做”手摇供电路由器”来治网瘾。
- soylentcola:联想到《黑镜》里人类蹬车为机器供能的情节,感叹这种讽刺意味十足。
- 542216:吐槽网站的滚动劫持设计,但称赞所链接的技术文档真正提供了关于兼容模型的有用信息。