Tommy Xiao (@xds2000) header
Tommy Xiao (@xds2000) profile picture

Exploring Gen AI && Builder + Creator👨‍💻|vibe coding🧲 K8E Sandbox Creator - https://teapawt.net/t.co/MlGFUg6NEQ Telegram: @xiaods

beijing
Joined September 2008
Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)Photo by Tommy Xiao (@xds2000)
Tommy Xiao retweeted
In the 1960s, computing was centralized until the PC put power into everyone's hands. Now Al is trained in datacenters and rented back to you token by token. Today we open source Linger (@HeyLingerAl), your personal agent living on your own computer. We believe intelligence should be distributed. Your context, your data, and the intelligence that powers them should be owned entirely by you. Github: github.com/simplexai-labs/li… Homepage: heylinger.com
132
197
119
896
747,156
突发新闻:这个基本是假新闻🌚 目前没有任何可靠报道或证据表明黄仁勋正在考虑创立新的半导体公司。 帖子配的视频我去看了,是黄仁勋更早时期的采访片段(讨论AI作为基础设施、主权AI、日本半导体产业等话题),与“创立新公司”毫无关联。
突发新闻:据报道,黄仁勋正在考虑创立一家全新的半导体公司🚨 他可以在第一天就筹集到数百亿美元,拥有完全的创始人控制权,并能按照自己的方式快速发展。凭借他几十年来建立的人脉关系,他可以轻松融入人工智能生态系统。 想象一下,在他的第一款芯片发货之前,就已经有大批客户排队等候了……
3
2
1
8
1,137
Tommy Xiao retweeted
网易的UU远程要收费了,吃相难看,给大家推荐一个开源神级远控 Airhand github.com/sqlpxc/airhand 实测非常好用,可以自己建中转服务器,网络好的时候是打洞直连的,有很多特性,QUIC 传输 · 硬件编解码 · 最高 120 fps,强推!!!
44
50
4
353
43,465
Tommy Xiao retweeted
Karpathy 开炮了。 这位前 OpenAI 联合创始人、前特斯拉 AI 负责人,在一段 16 分钟的对谈里,把当下 Agent 热潮的底裤扒了个干净。 他说得很直接:Agent 的本质就是大规模蒸馏。你花大价钱跑的那个大模型,99.99% 的容量都浪费在了它压根用不上的数据上。听起来刺耳,但你仔细想想,事实就是这样。 然后他给出了一条真正能跑通的技术路线:先用大模型把能力蒸馏到小模型里,再给小模型配上正确的工具,最后用一个闭环把整个系统串起来。小模型、正确的工具、一个闭环,三件事,够了。 这里面最关键的一环,是闭环。 小模型本身并不可怕,可怕的是它一旦接入闭环,就能自我校正、自我改进,越跑越强。模型的参数量可以小,但只要反馈回路搭对了,它就能长出远超参数规模的实战能力。 所以别再为更大的模型交税了。真正让一个 Agent 变得危险的,从来都不是参数量,是闭环。 这 16 分钟的信息密度,比今年市面上任何一门 500 美元的 AI 课都高。看完之后,再去读那篇 Harness, Loops, Graphs,你就会明白:闭环就是那副马具,套上了,小模型才能真正跑起来。
61
93
12
733
119,454
Tommy Xiao retweeted
好久没有那种“卧槽,还可以这样”的感觉了
Gemini 4 Neon真是顶呱呱,吊打Claude Opus 5.5! 再也不怕Anthropic封号了!
2
2
2
1,487
Tommy Xiao retweeted
网易UU远程收费啦,计划于 2026 年 12 月 1 日推出高阶增值服务。在此日期前注册成功的用户,可领取年卡五折专属优惠 VIP30(连续包月24)、SVIP98(连续包月88),折合最低9.9/月,更新版本后免费版将只支持1080p30帧 免费的午餐该醒了,毕竟网易也不是慈善家,不过P2P打洞连的也要限画质吗?
94
7
13
255
160,842
👏 Congratulations to the @baseten and @sgl_project teams on pushing low-latency inference forward with NVIDIA Vera Rubin.
Today we’re sharing our latest results in pushing low-latency performance for Deepseek v4.1 Flash. It’s running at ~2,500 tok/s on Vera Rubin, batch size 1, TP4, 1.9ms per step It’s up to 1.7x faster than our GB300 numbers, and we’re working with @sgl_project and @radixark to get it all into OSS. Here’s what @TriDao2 and @stel4th shared at the SGLang summit last week:
35
22
4
214
15,143
Tommy Xiao retweeted
我仍在推进LayerFS 2.0
我仍在推进 bowl
8
4
2
44
2,559
Tommy Xiao retweeted
These are literally the best visual resources for learning how Transformers, LLMs, embeddings, diffusion, and inference work ↓ 1/ Transformer Explainer - Watch GPT process text through embeddings, attention, MLPs and next-token prediction. poloclub.github.io/transform… 2/ Brendan Bycroft’s LLM Visualization - Explore an LLM from architecture down to tensors and operations. bbycroft.net/llm 3/ 3Blue1Brown - Visual intuition for linear algebra, neural networks, backprop, attention and Transformers. 3blue1brown.com/topics/neura… 4/ The Illustrated Transformer - One of the clearest visual explanations of embeddings, Q/K/V and attention. jalammar.github.io/illustrat… 5/ TensorFlow Playground - Watch neural networks learn as you change layers, activations, features and learning rate. playground.tensorflow.org 6/ Google PAIR AI Explorables - Interactive explainers on LLMs, generalization, interpretability and model behavior. playground.tensorflow.org 7/ Distill - Exceptional visual essays on t-SNE, feature visualization, GNNs and interpretability. distill.pub 8/ Abhik Sarkar’s Transformer Visualizations - RoPE, KV cache, FlashAttention, MQA, GQA and more. playground.tensorflow.org 9/ Visual Guide to Attention Variants - MHA, MQA, GQA and MLA visually compared. magazine.sebastianraschka.co… 10/ Visual Guide to Mixture of Experts - Routing, experts, sparse activation and load balancing. newsletter.maartengrootendor… 11/ Modular LLM Inference Handbook - Prefill, decode, KV cache, batching, quantization and speculative decoding. handbook.modular.com/llm-inf… 12/ Apple Embedding Atlas - Explore clusters, neighborhoods and outliers in large embedding spaces. apple.github.io/embedding-at… 13/ Diffusion Explainer - Follow Stable Diffusion step by step. poloclub.github.io/diffusion… 14/ Neuronpedia - Explore features, activations, SAE latents and attribution graphs inside real models. neuronpedia.org 15/ Seeing Theory - Probability, Bayes, distributions, regression and inference made interactive. seeing-theory.brown.edu 16/ CNN Explainer - Visualize convolutions, feature maps, activations and pooling. poloclub.github.io/cnn-expla… 17/ GAN Lab - Train a GAN in your browser and watch its generated distribution evolve. poloclub.github.io/ganlab/ Save this. There’s a serious AI curriculum hiding inside these links.
14
202
3
1,225
61,350
Tommy Xiao retweeted
A free online book: LLM Inference Handbook by Sherlock Xu (2026). This book is a practical technical reference for engineers deploying, scaling, and operating language models in production. It brings together the concepts and decisions involved in turning a trained model into a responsive, cost-aware service, from model behavior and hardware selection to application interfaces and ongoing operations. Readers can use it as a guided progression or as a lookup resource for specific engineering questions. Read the book online on @ChapterPal: chapterpal.com/book/3fef12a8…
4
71
433
12,166
Tommy Xiao retweeted
Introducing Qwen3.8-27B-pi-adapted 🤗 We adapted Qwen's model specifically for the pi coding agent using reinforcement learning and a LoRA adapter. The results, measured as pass@1: 🚀 SWE-bench Pro (Hard 51): 29.4% → 62.7% 💻 Terminal-Bench 2.1: 39.5% → 55.8% ⚡ 55–62% fewer tool calls per task This is the power of open models: you can adapt them to YOUR tools and YOUR use cases. Let’s build! 💛 Open weights: huggingface.co/harness-hub/Q… Methodology: huggingface.co/blog/harness-…
306
644
175
5,994
454,584
Tommy Xiao retweeted
Gue kira desktop app bakal makin sepi, tapi AI malah bikin kebutuhannya naik lagi. NanoUI lagi ramai dibahas sebagai alternatif Electron buat bikin desktop app yang lebih ringan, dengan Zig di baliknya. Tapi lo nggak harus ngerti Zig dulu buat mulai, AI bisa bantu bikin prototype. Masuk akal sih, misal makin banyak orang jalanin local agent, makin kepake juga UI desktop yang enak dipakai buat ngontrolnya.
6
32
1
330
19,758
チューリング、SlurmとKubernetesの両方から共通のCPU/GPU資源で学習ジョブを実行できる、AI開発向けジョブスケジューラ「SlurmKube」をOSS公開しました🎉 SlurmジョブをK8s上で実行し、DRAやKueue TASでNUMA・トポロジーを考慮して配置、学習性能を高めることができます👇 github.com/turingmotors/slur…
1
46
5
203
13,428
Tommy Xiao retweeted
网安公司 Calif 借助 OpenAI 的 GPT-6 Cyber,在 Java 底层发现严重漏洞 Java4Shell。研究人员称,只花 1 小时就找到漏洞,又用 2 小时开发出首个可用的攻击程序,AI Token 成本不到 200 美元。 Java 被全球约 90% 的财富 500 强企业使用,广泛运行在银行、政府、医院和大型互联网公司的后台系统中。Calif 已在符合漏洞条件的环境中,验证了 Keycloak、Jira、Confluence、Jenkins 等企业软件可以被远程攻破,其中多款无需登录。尤其是 Keycloak,它负责企业的身份认证和登录管理,一旦被攻破,还可能危及其他依赖它的业务系统。《纽约时报》拿到攻击验证材料后,也在不到 1 小时内独立复现了攻击。 漏洞藏在 Java 的 Base64 解码器中。这项功能广泛用于处理登录凭证、文件上传和网络通信数据。为了提高速度,Java 使用底层汇编代码处理这些数据,却留下了内存越界写入的漏洞。攻击者可以通过特殊构造的输入覆盖其他内存,进而窃取敏感数据,甚至控制服务器。Java 原本以较强的内存安全性著称,这次出问题的恰恰是绕过常规内存检查的底层加速代码。 Calif 上个月刚借助 AI 发现 PHP 的严重漏洞,这次又找到了 Java 的底层缺陷。披露前,团队已与美国、英国等「五眼联盟」成员国的相关政府部门,以及谷歌、微软等科技企业协调修复。美国网络安全和基础设施安全局(CISA)要求企业立即安装补丁,谷歌也确认已在旗下服务部署防护措施和修复程序。 韩国总统府国家安保室则于 11 月 17 日召集政府、军方和金融监管部门召开紧急会议。根据韩国政府统计,该国 15,618 个公共信息系统中,有 11,132 个使用 Java,占 71.28%。相关部门紧急排查 Java 使用情况,并协调安全更新。Oracle 已于同日发布补丁。 目前攻击仍有门槛,需要特定版本的 Java 和支持 AVX-512 VBMI 的处理器。不同软件也需要分别开发攻击方法。截至 11 月 17 日,思科 Talos 威胁情报研究团队尚未观察到实际攻击活动。 Calif 团队把这种由顶级安全专家指导 AI 挖掘和利用漏洞的方式称为「半人马黑客」。CEO Thai Duong 向《纽约时报》表示,未来 AI 可能独立完成最复杂的网络攻击。 「我不知道我们还有多少时间,也许三个月,也许三年。但现在最强的黑客,就是半人马黑客。」
1
1
3
859
Tommy Xiao retweeted
微软也开始作妖了?! 安全研究员在 Windows 11 最新的系统动态链接库中,反编译出了令人震惊的硬编码名单:操作系统正在显式监听你是否运行了 Cursor、Claude Code、Codex 甚至是 Antigravity。 在 Binary Ninja 的反编译视口中,系统组件 MissionControlAggregator.dll 内部赫然写着一系列专有的可执行文件名比对逻辑。该模块由一个名为「CLICodingAgentUsage」(Feature ID: 62580080)的服务实验特性控制,在部分 Windows 11 测试版及 ARM64 设备上已被默认静默激活。 更绝的是它的监控覆盖面。针对 CLI 命令行工具,它硬编码比对了 copilot.exe、claude.exe、codex.exe 和 agy.exe;针对桌面图形客户端,它专门匹配了 cursor.exe、antigravity.exe 以及 github.exe。 不仅如此,由于现代开发者普遍在 WSL 虚拟机中写代码,该模块还专门订阅了微软 Linux 子系统事件(Microsoft.Windows.Lxss.Manager.Exec),通过抓取 imageName 字段,哪怕你在 WSL 的 Linux 终端里敲无后缀的 claude 或 codex,也同样会被精准捕获。 系统并不会上传你的提示词或代码正文,而是利用 ETW(Windows 事件追踪)将你使用过的 Agent 编码为紧凑的位图(Bitmap),封装进名为「Segments.SubCohorts」的遥测数据包中。 只要你没有手动把系统的诊断数据从默认的「可选诊断」彻底关闭,常驻后台的 DiagTrack 遥测服务就会通过子进程 AggregatorHost.exe 周期性地把你每天翻牌了哪些 AI 编码工具打包送回微软云端。 研究原文:xusheng.dev/posts/windows-co…
29
229
37
887
111,493
第一性原理
3
14
1
80
6,362
Tommy Xiao retweeted
顶尖 AI 研究员 Jason Wei 宣布离开 Meta 超级智能实验室 TBD Lab,加入数据初创公司 Mercor,担任首席科学家。他在 Meta 只待了一年左右。 Jason Wei 是大模型推理领域的代表性人物。他是经典「思维链」论文第一作者,推动了让大模型通过分步推理解决复杂问题的方法。在 OpenAI 期间,他参与研发 o1 推理模型和 Deep Research,还主导了 SimpleQA、BrowseComp 等重要评测,分别测试 AI 的事实准确性和深度搜索能力。 Mercor 原本是一家 AI 招聘平台,如今主要组织医生、律师、工程师等专业人士,为 AI 公司制作高质量训练数据和评测题目,帮助模型学习如何完成真实工作。 Mercor CEO Brendan Foody 透露,Jason Wei 过去几年一直是公司的客户和交流伙伴。如今,他将负责组建研究团队,领导数据与评测研究。团队里还有 LoRA 论文第一作者 Edward Hu,负责模型训练。 Mercor 刚在 11 月 10 日完成 7.5 亿美元 D 轮融资,估值达到 200 亿美元。公司正在从向大模型实验室供应数据,扩展到帮助更多企业训练、评测自己的 AI 模型。 Jason Wei 认为,随着越来越多企业开始训练模型,数据将决定 AI 下一阶段的发展方向。
After an amazing year at Meta’s TBD lab, I am very excited to join Mercor as Chief Scientist. Data will shape the next frontier as more companies train AI models than ever before. Mercor is incredible and I look forward to building the future with Brendan, Adarsh, and team!
1
1
7
1,545
最近在试着写一个 Always-on Agent 项目 mr-on。和 Codex 一轮轮讨论中,基本架构慢慢清晰了。 github.com/sugarforever/mr-o… 需求很朴素:agent 需要随时保持工作状态,定时检查资料,接收事件,记住进展,让不同客户端接着对话。 我发现,每补上一个需求,架构就向 OpenClaw 靠近一点。 并没有什么神奇之处,底座还是熟悉的传统架构:systemd/launchd 守护后台 daemon,里面运行一个 Gateway,负责客户端接入、事件接收、会话路由和任务调度。 工作流也很直接: 用户消息/定时计划/外部事件 → Gateway 持久入队 → 工作者读取资料,按需调用 Pi Agent → 保存结果 → 通过 Channel 通知客户端。 常驻的是服务,模型有任务时才执行。关掉 UI,后台继续;重新打开,接着看结果、继续对话。 OpenClaw 还是很全面的。实际上 always on agent 并不需要另起炉灶,现有的 agent + skills 就能完成的。
2
5
1
20
2,064