Personal AI. Local-first. For the inner life. 2× DGX Spark · M4 Max 128GB
- Tweets 12,325
- Following 2,576
- Followers 8,594
- Likes 93,464
本地AI将会把消费级硬件推入全面大涨价时代
2026年
7月 DeepSeek-V4-Flash-0731 双机DGX spark 完美适配，变得有生产力，有酒吧和咖啡店搞出用餐免费无限deepseek token。京东自营甚至可以三天连涨三次。
8月 qwen-3.8-27B 横空出世，32G显卡尤其适合，5090 B70 一类开始进入生产力视野。3090 4090等双卡也不错。
9月 Strata降生，10月这几天开始爆火，连12G 16G显卡也不放过了，推一手qwen-3.8-flash-next 爽歪歪，decode 50 token/s 经常都有。不要说 3090 3060 2080ti 这些本地推理常客，连P40, P100, GTX 10, V100, Titan V, Instinct MI50 / MI60, Radeon VII 这些老退休们，都可以捞回来发挥余热，哦，除了prefill慢点，甚至可以当主力。
预测未来：
没有一刻为 12-16G显卡哀悼，
旗舰手机 、4G-8G显卡也加入了战场，因为 jev-like model 的普及，超小参数model也具备生产力，连 970 980 1080 旗舰手机 16G内存版也会用起来，开始大量吞吐 decision token。
至此，
显卡艺术已成，
艺术就是涨价！
5
2
30
3,653
agent的调优，
现在基本已经很少纯人工去看了，
都是设定好批量实验去测试，
一套题安排上3个模型，
每题做3次，
再查看效果和影响如何。
目前做过的一些测量，
其中输入的提示词对于sota的model来说，
越是简短的那些一句话trick，对于通过率的影响越小。
2
4
569
DGX spark 社区真是太棒了，
有人出量化模型，
有人出推理引擎。
有人出网络方案。
现在各种前沿模型glm-5.3-flash、deepseek-V4.1-flash都可以部署在DGX spark *2 了😂
真不愧是工程师们的桌面级入门实验机定位，
可能一线工程师的含量也是所有硬件里最高的。
19
7
81
9,806
