Vercel CEO 喊「拥有你的智能」,HN 上的账单从 1,800 美元的二手整机到 7,000 美元的 Mac

2026.11.03 · 行业

Vercel CEO 喊「拥有你的智能」,HN 上的账单从 1,800 美元的二手整机到 7,000 美元的 Mac

11 月 1 日,Vercel CEO Guillermo Rauch 在 X 上写了一句「拥有你的智能」,一天之内 22.8 万次浏览、3,572 个赞。

Framework Desktop 128GB 小型主机正面,蓝色背景
Framework Desktop 的 128GB 版(Ryzen AI Max+ 395,Strix Halo)。帖子里有人只买主板,$2,699 加 $15 加急运费,机箱和电源自己配。图片来源:ServeTheHome

帖子的后半段比开头实在。他不是让所有人都去跑 128GB 的机器,而是说:那些「绝对单位」级别的大模型本地暂时够不着,所以该守住的是自己的 harness、数据、连接和运行时——那层调度模型的壳和喂给它的东西,也就是 agent 本身,别整包交给别人托管。

第二天 Hacker News 上有人开了个帖子:「你用什么硬件跑本地 LLM?」32 条回复,几乎没人谈立场,全是型号、价格和每秒 token 数。

最便宜一档
$1,800 双 V100 整机
中档主板
$2,699 / 128GB
旗舰笔记本
约 $7,000
27B Q4 吞吐
约 55 tok/s

这份清单比评测实在

最便宜的一档是捡二手。一台旧的 Dell T5820 塔机,64GB 内存,插两张 V100 32GB,整机一千八百美元上下,跑 Qwen3.8-27B 的 Q4 量化,单卡大约 55 tok/s。机主说这台管他所有个人项目,正经活还是交给大模型。

中间一档是只买主板。Framework Desktop 的 128GB 版,$2,699 加 $15 加急运费,机箱和电源用家里现成的,再贴两百美元。

再往上就是整机。有人用 M5 Max 的 MacBook,128GB 统一内存、18 核 CPU、40 核 GPU,评论区替他报了价:七千美元左右。他的用法挺清醒——设计和写规格用前沿模型,执行丢给本地。

也有人走极省路线:两年多攒了两张 7900XT 20GB,一张 $590 的开箱货,一张 $420 的二手,三年一共两千四百美元;还有人一千美元以内收了台翻新 M1 Max 64GB。差价接近七倍,跑的东西是同一类。

多卡拼起来,是最贵的那条弯路

一个 5090 用户的总结我觉得最准:一旦开始把权重和 KV cache 拆到几台设备上,或者依赖统一内存,很快就进入收益递减,钱、电、速度三样一起变差。他的建议很土:选能装下「模型权重加上下文」的最便宜单机。

反面例子就在同一个帖子里。有人配了四台 M3 Ultra 的 Mac Studio,每台 512GB 统一内存,回答只有三个字:不推荐。理由是 EXO labs 已经没了,把模型切开跑本身就很难。

还有人用两台 ASUS GX10(换壳的 DGX Spark)做张量并行,跑 DeepSeek-V4-Flash。他买的时候价格「还只是平流层,不是中间层」,结论是就算按今天零售价的一半算,也远不如直接用云。

跑得最多的不是聊天

一个 3090 用户说自己不在这张卡上跑生成模型,太慢也不够准;他跑 embedding、OCR 和做判断的小模型。另一位把设计和规格交给前沿模型,本地只负责执行。还有个混合派:家里的 vLLM 跑 Qwen3.8-27B,前面套一条 Cloudflare tunnel,调度和检索留在云上。

这些用法的共同点很明确:任务固定、调用量大、不需要最新知识。是流水线,不是「替代 ChatGPT」。本地机器真正省下的,是那些每天跑几千次、又不想让数据出门的调用。

买之前先答一个问题

上面这些人有个共同点:都能一句话说清机器每天干什么——批量做 embedding、扫文档、跑测试、压上下文。说不清的人,机器买回来三个月就开始落灰,转手按二手卡折价。

所以门槛不在显卡,在这句话答不答得上来。答不上来,本地和云都是浪费;答得上来,一千八百美元和七千美元的机器都能干活。

我的看法:本地这套东西现在的合理定位,是给固定任务配一台专用机,不是把云搬回家。真准备动手,先去 HN 那个帖子里找一台跟你任务最像的机器,照抄配置,比看任何评测都准。

来源:Guillermo Rauch 原帖(X) · Hacker News 讨论 · AICoder 报道 · ServeTheHome:Framework Desktop 评测


继续读

← 更多文章

Leave a Reply