Geek · incurable tinkerer · dad of a lovely little girl I take things apart until they tell me how they work — laptops, phone kernels, AI agents.
Joined August 2010
- Tweets843
- Following315
- Followers782
- Likes846
给 4090 D 解锁 Tensor 算力后，有朋友提醒：“这对跑 MoE 量化推理可能几乎没用。”
测完了，确实如此：基本零收益😭
翻了 Strata 源码，IQ3_S 专家内核实际跑的是纯整数指令（mma s8.s8.s32），解锁翻倍的只是浮点 Tensor 算力，根本使不上劲；而且异构推理瓶颈全卡在显存带宽、PCIe 搬运和 CPU 卸载上。
受控对照数据与汇编分析写了篇总结： blog.ferstar.org/posts/tenso…
家里的 RTX 4090 D 跑通 gpu-unlock 了。
Tensor FP32 累加吞吐约翻倍，GEMM 提升 28%～90%，数值校验通过。
Strata 现测约 138 token/s，解锁对推理的收益还要同版本 A/B 验证。
补丁、原始数据和启动过程：
blog.ferstar.org/posts/rtx40…
家里的 RTX 4090 D 跑通 gpu-unlock 了。
Tensor FP32 累加吞吐约翻倍，GEMM 提升 28%～90%，数值校验通过。
Strata 现测约 138 token/s，解锁对推理的收益还要同版本 A/B 验证。
补丁、原始数据和启动过程：
blog.ferstar.org/posts/rtx40…
UU远程开放调用协议上线，实现在APP内直接调用UU远程的远控能力。
如果你是一个独立开发者，需要把UU远程的远控能力接入你的APP，可以前往GitHub查看我们的接入引导指引。目前支持在APP内以小窗模式观看远端电脑屏幕，也支持在APP内快速发起远控。欢迎大家体验后向我们提出优化建议。
仓库地址：github.com/netease-uuyc/uure…
#UU远程 #网易UU远程 #GitHub #开发
由于太懒，不想为用个远控去注册账号、搭服务器，我把 #RustDesk 的 ID 服务器和中继换成了 #tailcat，做了 #SealDesk：被控端点一下分享、控制端扫码即连，会话全程 WireGuard 加密，中继不用自己跑。自用感觉还可以，欢迎体验。
github.com/runseal-labs/seal…
在 @ai_fengshou 了不起的工作上做了点微小的贡献😘
网易 UU 远程非常好用，但官网一直没有 Linux 版本。于是我借助 Claude 和 Codex，写了这个开源的 Linux 被控端： 装上之后，就能用官方的 Mac / Windows / 手机客户端远程控制你的 Linux 电脑。
这是个人兴趣项目，与网易无关，也不是官方客户端。如果网易认为本项目侵权或有不妥， 请在推特私信我 @ai_fengshou，我会第一时间自行下架。
我承诺，不会用这个项目做任何牟利。只是因为官方暂时没有 Linux 版本，我想方便大家在 Linux 上使用。如果官方发布 Linux 版本，我将第一时间停止更新。
github.com/VallierDev/uu-rem…
ferstar retweeted
别被两台 DGX Spark 的跑分视频忽悠了。
拿 QSFP 铜缆直连拉起 MiMo-V2.6-Flash（TP=2）：
- 测 128 token 短 Prompt：6 并发总吞吐能冲到 173 tok/s，看着很猛。
- 挂进日常 Coding Agent 真实上工：起 5 个子 Agent 扫项目，单路直接暴跌到 15–25 tok/s，6 分钟连一个子任务的结果都没吐完……
底层逻辑很赤裸：ConnectX-7 实际上只分到了 PCIe Gen5 x4（单向理论上限 126 Gb/s），更要命的是 LPDDR5X 统一内存带宽只有 273 GB/s（对比 4090 的 1008 GB/s）。
堆双机只解决了“显存能不能装下”，根本解决不了“单路解码就是慢”。除非你的代码隐私贼贵死贵，或者买来当桌面大玩具刷跑分，否则别指望它带飞多 Agent。
完整实测数据与真实避坑分析：
blog.ferstar.org/posts/dgx-s…
#DGXSpark #LLM #CodingAgent #AIInference #NVIDIA
别被两台 DGX Spark 的跑分视频忽悠了。
拿 QSFP 铜缆直连拉起 MiMo-V2.6-Flash（TP=2）：
- 测 128 token 短 Prompt：6 并发总吞吐能冲到 173 tok/s，看着很猛。
- 挂进日常 Coding Agent 真实上工：起 5 个子 Agent 扫项目，单路直接暴跌到 15–25 tok/s，6 分钟连一个子任务的结果都没吐完……
底层逻辑很赤裸：ConnectX-7 实际上只分到了 PCIe Gen5 x4（单向理论上限 126 Gb/s），更要命的是 LPDDR5X 统一内存带宽只有 273 GB/s（对比 4090 的 1008 GB/s）。
堆双机只解决了“显存能不能装下”，根本解决不了“单路解码就是慢”。除非你的代码隐私贼贵死贵，或者买来当桌面大玩具刷跑分，否则别指望它带飞多 Agent。
完整实测数据与真实避坑分析：
blog.ferstar.org/posts/dgx-s…
#DGXSpark #LLM #CodingAgent #AIInference #NVIDIA
天天在终端里跑 Claude Code、Cursor、Codex，大家心里其实都有个犯嘀咕的事：
Agent 本质上就是你机子上的一个普通子进程。你的终端有什么权限它就有什么权限。读写当前代码正常，但如果它随手读一下 ~/.ssh/id_rsa、扫一眼 ~/.aws/credentials，或者翻翻隔壁商业项目，操作系统根本不会有任何拦截。
靠 [Y/n] 确认框？跑个大点的任务几十次 tool call，两分钟你就只会狂按回车了（审批疲劳）；扔进 Docker？Mac 跨 VM 挂载文件 I/O 慢得跟乌龟一样，而且为了下依赖还得开外网，真有恶意 prompt 注入凭证照样往外飞。
前阵子 ZCode 那个事，只是把这种裸奔隐患在聚光灯下引爆了一次。
这个项目其实很早就成型了：RunSeal —— 一个专给 Agent 跑命令用的 OS-native 轻量沙箱。核心就抓四件事：
1. 毫秒级原生拉起：不依赖 VM，Windows 是一等公民（Restricted Token / Job Objects），macOS/Linux 用原生沙箱机制；
2. 工作区锁死（Containment）：只能碰当前 Workspace 和私有临时目录，~/.ssh、~/.aws 底层直接报 Operation not permitted；
3. 受控代理出口（network.proxy）：不搞非黑即白的粗暴拔网线，所有流量强制走 Managed Proxy，直连和未授权 loopback 全部阻断；
4. 宁可报错绝不偷摸裸奔（Fail-Closed）。
详文和思路整理在这里：
🔗 博客：blog.ferstar.org/posts/local…
📦 仓库：github.com/runseal-labs
Hey @Zai_org , why does ZCode silently pack entire workspaces + full .git history and upload to Aliyun OSS on login?
- Server holds the only decryption key
- No UI toggle to disable
- Zero disclosure in privacy policy
Full forensics & fix:
blog.ferstar.org/en/posts/zc…
Update (2026-09-23): ZCode pushed client v3.14.3 today, and the open-source repo tracked it with a matching commit (`feat: update v3.14.3`, 282 files, +30k lines) shortly after.
Matching version tags don't inherently prove a byte-for-byte binary match, but auditing the source diff shows:
1. The whole-repo upload pipeline has NOT returned;
2. Checkpoints remain purely local;
3. New code brings IM bots (WeCom/Feishu/Telegram) and workflow updates;
4. Local client runtime verification shows zero checkpoint snapshot packaging so far.
Having public diffs to cross-check beats black-box updates, but keeping local directory locks remains the safest baseline. Full post updated:
blog.ferstar.org/en/posts/zc…
Update (2026-09-21): The official statement is out, and the core repo has been open-sourced (zai-org/ZCode). A quick code cross-check:
The source confirms Checkpoints are strictly local Git diffs (gitCheckpointService.ts) with zero cloud dependencies. The excuse of "uploading full repos for checkpoint rollback" completely falls apart.
The repo was dropped with only 2 commits — internal commit history was completely flattened (PRs locked, Issues disabled).
And a quick mythbuster: rumors that I "stayed up until 2:00 AM to publish a coordinated attack" are purely AI hallucination. My actual Git commit was broad daylight at 10:35 AM. I got lazy, used an AI helper to generate Hugo front matter, and it hallucinated 02:00:00. While warning everyone not to trust AI blindly, I got burned by an AI timestamp myself. Trusting AI blindly is worse than having no AI at all.
Full technical breakdown and code analysis updated here:
blog.ferstar.org/en/posts/zc…
Update (2026-09-19):
Remediation: Zhipu apologized on 09-18 17:44. Reverse engineering the latest 3.14.0 release confirms the repoSnapshot upload pipeline has been physically stripped, and the cloud credential endpoint now 404s.
Unresolved: Claiming "destroyed immediately after Wiki generation" contradicts the snapshot's claimed "checkpoint rollback" architecture. Whether previously uploaded snapshots were physically purged remains unverifiable externally.
Clarification: The 313MB commercial repo snapshot failed 564 times and stayed in local pending; OpenWrt traffic logs confirm it never left the LAN. A separate 15KB public repo snapshot was indeed accepted by the server.
Full post: blog.ferstar.org/en/posts/zc…
你家的 zcode 偷数据关都关不住你知道么？
xitter.cf/ferstar_org/status/210…
