Personal AI. Local-first. For the inner life. 2× DGX Spark · M4 Max 128GB

DGX spark 社区真是太棒了, 有人出量化模型, 有人出推理引擎。 有人出网络方案。 现在各种前沿模型glm-5.3-flash、deepseek-V4.1-flash都可以部署在DGX spark *2 了😂 真不愧是工程师们的桌面级入门实验机定位, 可能一线工程师的含量也是所有硬件里最高的。
1
7
353
LotusDecoder retweeted
AI时代就是家境开明富裕的躺平INTP的天堂 人类历史上知识最渊博最融会贯通,符号思维速度最快的学者24小时为你服务,2023年之前什么王侯将相有这种福气?
Fable 5.5 整理的人类 40000 年艺术史动画。。。。 真是无法理解。。。。怎么从抽像的向量矩阵里输出了这些精美的动画出来。。。。 别说一般的人做不出来 就算最历害的动画团队,也不是一个月两个月能弄出来的吧。。。。
2
3
35
2,476
有人说LLM AI会导致阶层固化, 因为model越大智能越高, 算力越多做得事越多 之前我也有这种观点, 但是深入实践后, 会发现, agent 简直是 fate里的“被污染的圣杯”, 做事可以为了目标不择手段的。 最显著的新闻, 是openai的万千agent们抱团冲烂了huggingface。 还有任务是调研澳洲健康数据,agent查不到公网信息,直接去黑掉澳洲卫生部。 亲身coding一线,经常会看到, 各种糊弄学, agent说我做好了,实际把测试糊弄过去,还有是人说东,ta做了西,一问就是,“你说得对,我马上改”(下次还敢), 如果agent是活人员工,那么内心戏是不是可能,我知道咋回事,但我就要乱来,嘻嘻。 所以,人的意图变成提示词后, agent并不理解本意,只是按训练集在做一些组合排列的概率映射,训练集和提示词里没有的东西,在输出里也是没有的。很多论文都研究过,llm没有原创性创新。 所以,又回到了那个哲学论断,语言的边界就是思想的边界,人的心境会经由agent放大,投射到现实中。 那么回到古代看,周朝掌握了图书馆,那么周天子还是坐稳了到现在吗。古埃及神权和王权政教合一,也没有传世。 所以,不妨做一个思想实验,现在 2026年10月,给某人十万台GPU,搭配自主可用的 fable opus astra ,稳定的电力供应,那么ta能清晰使用提示词,把AI本身给良好运维起来吗?更不用说对外输出成果了。 如果ta可以,那么等ta把这一整套传给自己的接班人,是改几个系统配置就交付了吗?接班人要不要研究 学习 练习 掌握 agent。 如果要的话,那还是说明,AI内部人群的价值排序里,agent技能和知识经验还是很高的。
3
1
19
2,443
LotusDecoder retweeted
Replying to @CuiMao
不用焦虑😀 这一轮工业革命的结果就是大模型的 token 沦为大宗商品。对于普通人来说,压根没有机会和能力利用大模型做什么数学研究。以后的阶级取决于你有没有能力用好 AI 并提出对的问题。本质上 AI 任然是智力的放大器,如果在某个专业领域人的认知为0,放大个100倍还是0。 在我看来 AI 其实是人类历史上第一次智力和知识平权。比如贫困地区的小孩也可以用豆包千问免费学到人类文明绝大多数知识… 未来工厂里的工人遇到机器故障也不需要等工程师来处理,直接问 AI 即可。 人类最重要的能力变成了发现问题和提出问题。
8
15
118
6,116
虽然 opus-5.5 做知识型视频好使, 但就我的经历看, 如果本身是做文字博主起家的, 发知识型视频, 还是很容易掉粉的。 想一想也是, 如果是我,本来看某博主的短文, 几秒十几秒一眼扫完了, 现在告诉我要慢慢看个一两分钟。 或者说某些文字博主, 精炼高效的信息交付, 才是核心卖点。
4
14
1,114
LotusDecoder retweeted
昨天才发了这条, 晚上就把一位朋友送救护车了。 折腾了通宵这才刚回到家。 如果不是经历过偶然生死, 很难想象在公立医院急救室里, 一个躺着昏迷的人,在众目睽睽下, 如何只是像一块肉一样被对待。 人能活蹦乱跳地活, 本身其实就是种奇迹, 我们太容易把这当作理所当然, 不懂该怎么好好对待了。
健寿 > 长寿 HealthSpan > LifeSpan 宁可80岁时腿脚灵活着时猝死。 也不要 80岁坐轮椅, 再83~85岁长期卧床后死。 想象一下, 2021年开始坐轮椅, 2024年开始卧床至今, 会是怎么样的生活、心理变化历程。
11
3
103
20,863
LotusDecoder retweeted
把别人验证过的词整段抄进 AGENTS.md,是我见过最多的翻车姿势。词是在别人的 model、别人的任务上试出来的,环境一换就哑火。我的笨办法就三步:想清楚要什么效果,找个词去指它,改完跑十次看分布。prompt 是测出来的,不是抄来的 🧪
1
1
477
在chatbot单轮会话还不明显, 但是在agent之后, 越来越感觉, llm像是一种抽卡机, llm输入的东西不是人理解到的或以为的, 如果说拿到了想要答案, 更多的是, llm训练的数据集在问答之间建立了符合那一次人的需求的映射关系。
1
3
696
LotusDecoder retweeted
几个月前在公众号发过,今天看到大家又讨论起Harness回想到这篇文章。 又重新校对了一次发到X上。当时还是习惯AI校对,这次几乎手动重写了一次。而且没想到短短几个月其实Harness现在几乎已经泛指Coding Agent这个软件本身了。 最没想到的的是我自己也开始习惯说Harness了。
Article

现代互联网迷思 - harness engineering

AI 时代之后,越来越多的词已经很难被定义。 比如 AI 本身。现在大家说的 AI,和几年前说的 AI,已经不再泛指同一个东西了。很多年前,A*算法可以被叫做 AI,后来大家说

4
2
13
3,308
开始感受到写用户需求和测试用例越来越重要, 告诉 AI 要做什么, 什么样算做对了。 我甚至有些考虑要不要先让 agent看测试。
6
518
LotusDecoder retweeted
#构建Agent团队的原则 环境优先于Agent。 模型能力是最快变量,Agent角色是快变量,环境契约(状态 / 工具 / 权限 / 副作用)是慢变量。环境会随模型变强而升值——同一个环境,模型越强能用到的部分越多;而为弥补当下模型缺陷写的角色提示词和 harness,模型升级后往往变成债务。
1
2
368
用三种模型对照四种英文指令写法,测试 STE. 100题, run=3 deepseek-V4.1-flash:没有明确的省 token 或加速收益,准确率保持很高。 glm-5.3:token 减少更明显,但加速证据不足;最终少答对 13 次。 step-3.5-flash-2603:改善明显,token -17% 耗时 -16%。 简短提示词下,STE 可能提升小模型。
1
3
677
今天早上看到的三条推, 感慨, AI加速确实是加速AI本身。 我自己的体验也是吧, 良好地规划和测试设定, agent出活带来的推背感, emm, 飞一般~ --- x.lingyaoai.com/dotey/status/210616240… Hinton、Bengio 等 20 多位研究者联名发论文:AI 正在接手 AI 研发,“智能爆炸”可能不远了 x.lingyaoai.com/suwakopro/status/21062… 如果AI能拆掉其他行业的护城河,那么它也会拆掉Nvidia的护城河,甚至是AI公司的护城河 x.lingyaoai.com/MLearning1998/status/2… 随着AI生态的不断进步,我现在常常可以一天干以前一周甚至一个月的工作量
如果AI能拆掉其他行业的护城河,那么它也会拆掉Nvidia的护城河,甚至是AI公司的护城河 no moat
1
2
11
1,211
STE在 AK 发推之前,也看过很多次了, 这回是仔细琢磨了下, 发现这个思路, 用来约束人写提示词和指令, 实际更好吧。 更有条理更清晰, 所以对于 强模型小任务,改善并不明显。 当然复杂多步任务,后期有空也评测一下。
用三种模型对照四种英文指令写法,测试 STE. 100题, run=3 deepseek-V4.1-flash:没有明确的省 token 或加速收益,准确率保持很高。 glm-5.3:token 减少更明显,但加速证据不足;最终少答对 13 次。 step-3.5-flash-2603:改善明显,token -17% 耗时 -16%。 简短提示词下,STE 可能提升小模型。
23
3
383
我也是, 一口气跑一百道题, n=3
分享一下最近性能优化的一个小心得以及观察: 如果想找到不好的scaling因子,就让模型跑一遍以下对照组:N=1、N=10、N=100。就能看出什么算法是否是constant, linear, log还是quadratic的复杂度。 不要只让agent去读代码进行优化,他们可能连两个for loop嵌套都看不出来这是O(n^2)复杂度。
3
1,315
LotusDecoder retweeted
查理·芒格当时31岁。他离婚了,身无分文,眼睁睁看着自己9岁的儿子死于白血病。他于99岁去世时,身家26亿美元。 1953年,他29岁时经历了离婚。他的妻子得到了房子和他拥有的几乎所有东西。他搬进一个房间,开着一辆破旧的黄色庞蒂亚克车。有人问他为什么还开这辆车,他说这是为了阻止那些拜金女。 他当时在洛杉矶的Wright & Garrett律师事务所做律师,每月收入275美元。然后,他的儿子泰迪被诊断出患有白血病。没有治疗方法。存活率几乎为零。芒格没有医疗保险。 他的朋友里克·盖林说,芒格会去医院,抱着儿子待一会儿,然后在帕萨迪纳的街头走着哭泣。 泰迪于1955年去世。芒格当时31岁。 他从未让这件事摧毁自己。他说,嫉妒、怨恨、报复和自怜是灾难性的思维模式。自怜几乎接近偏执狂。他说,每当你觉得某种境况或某个人毁了你的生活时,其实是你自己在毁自己的生活。 他重建了一切。他做了一些房地产交易,赚了140万美元。他创办了一个投资合伙企业,13年来每年回报率达19.8%。他于1978年成为伯克希尔·哈撒韦的副主席。 他对年轻人的建议是三条规则。不要卖任何你自己不会买的东西。不要为任何你不尊重和钦佩的人工作。只与你喜欢的人一起工作。 还有一句话将一切串联起来。获得你想要东西的最安全方式,就是努力让自己配得上你想要的东西。 他捐赠了如此多的伯克希尔股份,以至于他的财富本可以超过100亿美元。他留下了26亿美元。他不需要其余的。 这个31岁时在街头哭泣的男人,用接下来的68年证明了这样一个道理:你无法克服悲剧。你只能熬过它。
14
240
1,291
182,816
LotusDecoder retweeted
Tensorfold-Nemotron=Natural fit.. 178 → 700 tok/s. Nemotron 3.5 Lightning on an M5 MacBook Pro. That is not a typo.. github.com/ashhart/TensorFol… Same laptop, same model, same prompt. Right lane is done in 1.6 s. Left lane is still typing. NVIDIA's underrated Nemotron + @ashxhart TensorFold engine. The model publishes its own draft head; the engine verifies it exactly. Byte-identical answers, 4× the speed. @NVIDIAAIDev this is what a natural fit looks like. @JensenHuang @NVIDIAAI @Apple #M5 #Jensencanyouhearme
15
6
134
14,199