CrankGPT:靠手摇发电运行的本地大模型

查看原文 HN 讨论

文章摘要

CrankGPT 是一个把”AI 耗能”问题做成实物的趣味项目:它在树莓派上本地运行大语言模型,而供电方式不是插座,而是一台手摇发电机。换句话说,你想让模型回答问题,就得自己亲手摇动曲柄发电——以一种近乎行为艺术的方式,让 AI 推理所需的能量变得”看得见、摸得着、摇得累”。

这个项目本质上是对当下 AI 能耗与算力集中化的一次讽刺与反思。当电力由你的手臂直接提供时,每一次推理的成本都被具象化了,也促使人重新审视”轻易调用一次大模型”背后真实的能量代价。

在评论区,不少人围绕”人力到底能输出多少瓦”展开了认真的讨论,也有人联想到《黑镜》中人类蹬车供能的反乌托邦桥段。值得一提的是,项目页面采用了较为花哨的滚动劫持式设计,多位读者建议直接去看技术文档,那里对兼容的模型和实现细节交代得更清楚、阅读体验也更好。

HN 评论精华