2026.11.03 · 行业
Vercel CEO 喊「拥有你的智能」,HN 上的账单从 1,800 美元的二手整机到 7,000 美元的 Mac
11 月 1 日,Vercel CEO Guillermo Rauch 在 X 上写了一句「拥有你的智能」,一天之内 22.8 万次浏览、3,572 个赞。

帖子的后半段比开头实在。他不是让所有人都去跑 128GB 的机器,而是说:那些「绝对单位」级别的大模型本地暂时够不着,所以该守住的是自己的 harness、数据、连接和运行时——那层调度模型的壳和喂给它的东西,也就是 agent 本身,别整包交给别人托管。
第二天 Hacker News 上有人开了个帖子:「你用什么硬件跑本地 LLM?」32 条回复,几乎没人谈立场,全是型号、价格和每秒 token 数。
- 最便宜一档
- $1,800 双 V100 整机
- 中档主板
- $2,699 / 128GB
- 旗舰笔记本
- 约 $7,000
- 27B Q4 吞吐
- 约 55 tok/s
这份清单比评测实在
最便宜的一档是捡二手。一台旧的 Dell T5820 塔机,64GB 内存,插两张 V100 32GB,整机一千八百美元上下,跑 Qwen3.8-27B 的 Q4 量化,单卡大约 55 tok/s。机主说这台管他所有个人项目,正经活还是交给大模型。
中间一档是只买主板。Framework Desktop 的 128GB 版,$2,699 加 $15 加急运费,机箱和电源用家里现成的,再贴两百美元。
再往上就是整机。有人用 M5 Max 的 MacBook,128GB 统一内存、18 核 CPU、40 核 GPU,评论区替他报了价:七千美元左右。他的用法挺清醒——设计和写规格用前沿模型,执行丢给本地。
也有人走极省路线:两年多攒了两张 7900XT 20GB,一张 $590 的开箱货,一张 $420 的二手,三年一共两千四百美元;还有人一千美元以内收了台翻新 M1 Max 64GB。差价接近七倍,跑的东西是同一类。
多卡拼起来,是最贵的那条弯路
一个 5090 用户的总结我觉得最准:一旦开始把权重和 KV cache 拆到几台设备上,或者依赖统一内存,很快就进入收益递减,钱、电、速度三样一起变差。他的建议很土:选能装下「模型权重加上下文」的最便宜单机。
反面例子就在同一个帖子里。有人配了四台 M3 Ultra 的 Mac Studio,每台 512GB 统一内存,回答只有三个字:不推荐。理由是 EXO labs 已经没了,把模型切开跑本身就很难。
还有人用两台 ASUS GX10(换壳的 DGX Spark)做张量并行,跑 DeepSeek-V4-Flash。他买的时候价格「还只是平流层,不是中间层」,结论是就算按今天零售价的一半算,也远不如直接用云。
跑得最多的不是聊天
一个 3090 用户说自己不在这张卡上跑生成模型,太慢也不够准;他跑 embedding、OCR 和做判断的小模型。另一位把设计和规格交给前沿模型,本地只负责执行。还有个混合派:家里的 vLLM 跑 Qwen3.8-27B,前面套一条 Cloudflare tunnel,调度和检索留在云上。
这些用法的共同点很明确:任务固定、调用量大、不需要最新知识。是流水线,不是「替代 ChatGPT」。本地机器真正省下的,是那些每天跑几千次、又不想让数据出门的调用。
买之前先答一个问题
上面这些人有个共同点:都能一句话说清机器每天干什么——批量做 embedding、扫文档、跑测试、压上下文。说不清的人,机器买回来三个月就开始落灰,转手按二手卡折价。
所以门槛不在显卡,在这句话答不答得上来。答不上来,本地和云都是浪费;答得上来,一千八百美元和七千美元的机器都能干活。
我的看法:本地这套东西现在的合理定位,是给固定任务配一台专用机,不是把云搬回家。真准备动手,先去 HN 那个帖子里找一台跟你任务最像的机器,照抄配置,比看任何评测都准。
来源:Guillermo Rauch 原帖(X) · Hacker News 讨论 · AICoder 报道 · ServeTheHome:Framework Desktop 评测
继续读
← 更多文章
Leave a Reply