Ollama:全员登船,拥抱开放模型
文章摘要
Ollama 宣布完成 8800 万美元融资,用于加速其开源 AI 模型平台的开发。公司把自己定位为「开发者获取和运行开放模型的首选方式」。
在能力叙事上,官方博客强调了几点:本地模型执行——在自己的硬件上跑开放模型,不需要 API key,也不需要昂贵的服务器;极简的交互界面——一条命令就能启动模型;简洁的 API,便于在开放模型之上构建应用;即将推出的混合推理(hybrid inference),让本地与云端环境之间无缝衔接;以及对新模型的快速支持——新的开放模型一发布就能用上。
云服务方面,Ollama Cloud 提供对 GLM、Nemotron、DeepSeek、Kimi、MiniMax 等强力开放模型的访问,官方称其 token 用量「每个月都翻倍以上」。平台强调三个核心价值:所有权(模型是你可以定制的)、可负担性(不按 token 计费)、隐私(数据留在你的机器上)。
战略层面,Ollama 报告称已服务 890 万开发者,并声称被 85% 的财富 500 强企业使用,认为这体现了开源 AI 在企业级应用中的可行性。本轮融资由 Benchmark、Theory Ventures 和 8VC 领投,天使投资人中包括 Docker 创始人 Solomon Hykes 和 ClickHouse CEO Aaron Katz。
值得注意的是,这篇公告在 HN 上引发的讨论几乎完全脱离了融资本身,转而集中在一个长期积压的社区不满上:Ollama 作为 llama.cpp 的封装层,是否恰当地给予了上游项目应得的署名与信用。整条评论区的情绪强度远超一般融资新闻,构成了本条目真正的看点。
HN 评论精华
-
fnlsnd(本帖最高票,也是整场讨论的引线):「Ollama 这次终于会正确地给 llama.cpp 署名了吗?还是会继续把 llama.cpp 的新功能重新包装成自己的?」mrcwinn 只回了一句「我相信你心里有答案。」
-
khurs:「今天,我们宣布 Ollama 拿到了 VC 的钱……」——给自己记一笔:平台衰化(enshittification)在前方等着。除非它调用的是行业标准 API,否则别用任何 ollama 的服务。
-
intothemild:祝他们好运,但请不要用 ollama,也不要用他们的量化版本。不仅这个应用本身比纯 llama.cpp 更慢,他们的量化质量也常常远非最优。他建议从 unsloth 这类项目入手,软件和量化都全面更好。fwipsy 给了更平衡的评价:unsloth 的量化确实更好,但他几个月前试他们的 Studio 时觉得 bug 一堆;ollama 看起来很基础,但让人不太受挫。
-
sillystuff 贡献了本帖最实用的技术长评,为想迁移的人补充了 llama.cpp 的用法:llama-server 的「router 模式」非常出色——把公共配置放进 ini 文件的 defaults 段,模型专属配置放进各自的段落,然后可以通过 API 在模型间即时切换,自带的 web 前端也支持用下拉菜单切模型。llama-server 可以常驻后台(能设置空闲时间自动卸载权重以释放显存/内存,也能设置最大同时运行模型数、超出时按 LRU 淘汰)。另一个好工具是 llama-bench:你可以给出选项的取值范围,让它把所有组合跑一遍,再把表现最好的设置写回 ini。他举了个例子说明调参的价值:在他的笔记本上跑 Gemma4 31B,调好 batch-size / ubatch-size 并同时启用 spec-type draft-mtp 和 ngram-mod(两者都用了自定义设置)后,平均生成速度提升超过 7 倍。
-
zishha1b0njq 是少数替 Ollama 说话的声音:那篇被顶到最上面的批评文章没有任何实质内容,希望 HN 不要再传播这种寻求戏剧性的帖子,尤其是匿名作者攻击别人辛苦工作的帖子。Ollama 的作者完美吗?不,他们也只是人。但很多人觉得他们的工作有价值,我们应该支持开源。「我可以保证,你不会喜欢那个因为持续的负面情绪而再也没人发布开源项目的世界。」pyaamb 反驳:「你看到有人对 llama.cpp 有负面情绪吗?这不是找戏剧,作者提出的观点非常站得住脚。」pierotofy 更直接:「一边拿别人的工作当自己的功劳,一边融到几千万美元?这确实挺糟,而且很相关。」inigyou 补了一句凉薄的结论:「另见:为什么朋友不该让朋友用宽松开源许可证。llama.cpp 的作者授权了 ollama 这么做……只是无意的。」
-
halJordan 提出了另一侧的反对意见:「别告诉我该做什么。一只脏手洗另一只手,llama.cpp 的很多新功能也是直接照搬 ollama 的功能。你随你的便,但别否认他们对这个生态的贡献,也别为了安抚你的政治立场而否认我的自主选择权。」
-
kypro 描述了一种典型的态度转变:「我见过很多『不要用某某产品』的帖子,通常都是些废话——某个高管政治观点不对,或者产品方向没顺着某个社区的意。这大概是我第一次读这种帖子并立刻被说服该去用点别的东西。」inigyou 反问:「这一篇在种类上跟你不同意的那些没有区别,所以也许该想想你为什么恰恰同意这一篇。」
-
ollamer 给出了具体的功能层面控诉,附上了 GitHub issue #11772:一年过去了,选择性地把 MoE 层卸载到 CPU 这么基础的需求仍然没有实现。在 llama.cpp 上他靠
--n-cpu-moe能让 Qwen 35BA3B 这类模型在笔记本上以 GPU/CPU 混合方式跑到 40 tok/s,而在这个「VC 资助的笑话」上则完全不可用。「我实在想不通,你怎么能做出一个比你抄来的代码还差这么多的封装层。」针对官方那句「Ollama 位于开放模型生态的正中心」,他只回了一个字:「不。」 -
mottosso 试图梳理清楚争议边界:这个帖子里对 Ollama 的恨意很多,我理解得对吗——这一切都基于没有正确地给 llama.cpp 署名?我找不到其他反对理由,除了一些细微的性能差异。而 Ollama 真正出众的地方是用户界面,人们很容易低估这件事有多难、多重要。Towaway69 的回复代表了很多人的真实处境:他前一天读了类似的帖子后弃用了 ollama,「我确实不认同 ollama 的做法,但没错,作为终端用户他们的 UX 好太多了」——他们那套类 Docker 的模型扩展和定义方式(对有 Docker 背景的人来说)非常简单,而用 llama.cpp 装新模型似乎并不轻松,结果 llama.cpp 还把他的笔记本弄崩了(没有报错、没有反馈,桌面直接冻结然后重启)。「只好回到慢得多的 ollama,但它开箱就能用……很遗憾这么说。」
-
woadwarrior01 质疑官方数据:「890 万开发者使用 ollama」这个数字是硬凑的。他找到一篇 2025 年的文章估算全球有 4720 万软件开发者,即便开发者数量在一年内翻倍(考虑到氛围编程兴起也算说得通),十分之一的开发者用 ollama 也极不可能。
-
JSR_FDED 提出了投资角度的疑问:文章里列的这些 VC 不是最蠢的那批,他们究竟为什么要投一个套在真正技术外面的壳?是被「LLM 界的 Docker」这个说法迷住了吗?gkapur 给出了一个信息量很大的解答:Peter Fenton 早在公司还叫 Infra.App 时就投了(当时是访问管理产品,后来转型成桌面 Kubernetes 产品,两次都放弃了),他大概是基于创始人的技术素养投的,然后在 Ollama 跑出来之后陪他们转型。其他投资人(8VC、YC、Pace Capital、GTMFund)基本都是在最初那个想法空间里投的创始人。转型之后,他们对外讲的故事大概就是用量数据。再加上 Peter Fenton 在商业开源上战绩惊人(Docker 系、Elastic、JBoss、CockroachDB、TimescaleDB,算上 Benchmark 还有 Confluent 等),所以一堆人大概是想搭 Fenton / Benchmark 这趟车。他补充说,「投资人不是免费的,但他们非常追热点。在他看来市场上真正精通开源的投资人不到 10 个,也许不到 5 个」,而且不同类型的开源生意路径差别很大,导致这件事更难成为专家——他自己投开源时超过一半的时候都会判断错。
-
trilogic 从创业者视角给了一段感慨:一旦你拿了钱,决定权就不在你手上了。他说自己的项目 Hugston 也曾收到超过 300 万美元的报价来买他们的决策权,但他们没接,坚持了原则。「投资人本身没什么不好,但一旦他们『投资』了,他们就会一直压在你脖子上,董事会每周开。乐趣和创新在那里结束,不愉快的路程从那里开始。」tredre3 反驳:为什么怪投资人?「Ollama 创始人主动去找的、想要这笔钱、拿了这笔钱,所有让人现在讨厌 Ollama 的决定都是他们自己做的。没人逼他们,这一直都是他们的计划。」
-
m_kos 列出了 Ollama 客观存在的两个强项:它让开放模型通过
ollama launch极其容易地接入大量 harness 和助手;以及它 20 美元的订阅相当大方,且声称不记录、不用你的数据训练。eastbound 一句话点出矛盾:「本地运行的原则就是你不在云上。」m_kos 回了句很现实的话:「可惜我没法在本地跑 GLM 5.2。」 -
wazoox 提到一个容易被忽视的锁定效应:很烦人的是,「Page Assist」浏览器扩展、「Murmure」等许多好用的工具都只对 Ollama 即插即用。
-
lioeters:针对官方那句「AI 的个人电脑时刻」,他说 llama.cpp 的作者 Georgi Gerganov 才是这里真正的英雄。rvz 则给出一个更冷峻的框架:既然「本地 LLM 生态不需要 Ollama,它需要的是 llama.cpp,其余只是打包,而更好的打包已经存在」,那就让这些 LLM 干活,做一个开源替代品把 Ollama 做的一切都做掉——毕竟开源就是一种把一切价格打到 0 的定价武器。