本地/开源 LLM · Agent 工具实测 模型、API、工作流，用过再说 偶尔写 AI×资本 与宏观 币安广场创作者 | #Cyberclock
北京, 中华人民共和国
Joined August 2010
- Tweets8.1K
- Following2.2K
- Followers2.8K
- Likes7.2K
RouterA | AI 工具实测 retweeted
cursor 发布了composer2.5，性能接近opus4.7
1/仍然基于kimi2.5基础上训练
2/同时与马斯克的XAI 合作从零开始训练一个规模显著更大的模型，使用 10 倍的总计算资源， 100 万个 H100 等效算力，还在训练中，预计会有更大的提升
3/Composer 2.5 的价格为每百万输入 token 0.50 美金、每百万输出token 2.50美金。此外，还有一个智能水平相同但速度更快的变体，价格为每百万输入 token 3.00 美金、每百万输出token 15.00美金
主要的训练配方：
一 基于文本反馈的定向 RL：（本质上是最近很流行的自蒸馏技术方案）
传统RL的问题：
在像 Composer 这样的大模型训练中，一个完整的 rollout（一次对话或任务执行过程）可能有几十万 token。最终的奖励（reward）是基于整个 rollout 结束后的结果给的（例如任务是否成功、用户是否满意）。这会导致两个严重问题：
1/模型不知道到底是哪一步做对了/做错了。奖励信号太“稀疏”、太“全局”了。
2/即使最终奖励是负的，这个坏行为在几千步里只占了一步，它的信号会被严重稀释，模型很难学到“这一步不该这么做”。想纠正局部坏行为非常困难。比如：一次错误的工具调用
Composer 2.5 的解决方案：文本反馈 + 定向蒸馏：
不再只依赖最终的标量奖励，而是在轨迹中模型本来可以做得更好的具体位置，直接插入人类/规则/更强的模型写的文本反馈，给模型一个局部、清晰的训练信号。具体做法如下：
找到需要改进的位置：（比如出错的工具调用，比如名字生成错了）
（例如第 47 轮，模型调用了一个不存在的工具）
构造一条简短的「纠正提示」
例如：“Reminder: Available tools are [list of tools]… 请只调用存在的工具。”
把这条提示插入局部上下文
形成一个修改后的上下文 ，让模型（Teacher）在这个新上下文中重新生成。
Teacher 的概率分布 = 理想目标
插入提示后，Teacher 在那一轮生成时：错误工具的概率大幅下降，正确替代工具的概率上升
Student（当前正在训练的模型）
在原始上下文（没有插入提示）下生成。
添加 KL 散度损失（on-policy distillation）
让 Student 的 token 概率向 Teacher 的概率靠拢。
只在这一轮做这个针对性优化，其他轮还是正常用全局 RL 目标。
合成数据：
采用多种方法来创建基于真实代码库的合成任务。例如，其中一种合成方法是功能删除。在这类任务中，智能体会拿到一个包含大量测试的代码库，并被要求以某种方式删除代码和文件，使代码库在保持可运行的同时移除特定的、可测试的功能。随后，合成任务就是重新实现该功能，而这些测试则被用作可验证的奖励信号。
RouterA | AI 工具实测 retweeted
This episode features an interview with Yao Shunyu @ShunyuYao14 , Research Scientist at Google DeepMind. Yao has held research scientist roles at both Anthropic and Google DeepMind, contributing to the development of key models including Claude 3.7, 4.5, and Gemini 3.
Yao Shunyu is not your typical nerd. Every now and then, he’ll catch you off guard with a flash of irreverence.
“None of the old guard are your relatives — so if you think someone’s being dumb, they’re just being dumb. Say it. No big deal.” (laughs)
“Everyone’s a surfer now, but what really matters is the wave — not the person riding it.”
“AI doesn’t actually require that much brainpower — I mean it genuinely doesn’t — most of this is work any undergrad could do. The most important quality in this industry is reliability: being meticulous, and taking responsibility for what you put out.”
“You don’t need to worry too much about ruffling feathers with your opinions. As long as your views are internally consistent — not just taking random shots at people, but grounded in your own genuine understanding — there are objective standards for how you’re doing in this field. People will respect you for it.”
Let us have a little fun with this one! 😄
youtu.be/ttkd0t5qTD4?si=0uFT…
RouterA | AI 工具实测 retweeted
MiniMax 发布技术博客，披露其 M2 系列大模型无法输出人名「马嘉祺」的根因排查过程。排查从一个个例出发，最终揭示了一个波及整个词表近 5% 的系统性退化问题。
根本原因是大模型两个训练阶段的数据覆盖严重脱节。第一阶段（预训练）用海量互联网文本编出了一本约 20 万词的「字典」；第二阶段（后训练）用精选的对话数据教模型说话，但这份对话数据只覆盖了字典里的一部分。字典里有、但对话数据里没练到的词，就会在第二阶段逐渐被遗忘。
「嘉祺」就是这样的一个词。分词器（tokenizer，负责把文字切成模型能处理的最小单元）因为在互联网文本中见到「嘉祺」连用的次数够多，就把它合并成了一个独立单元。预训练时模型学会了这个词，但后训练的对话数据里包含「嘉祺」的样本不到 5 条。后训练不断调整模型参数，练到的词越来越准，没练到的词则在参数更新中被带偏。最终，模型仍然「认识」马嘉祺、能准确回答相关信息，丢失的只是把这个名字写出来的能力。
退化排名靠前的还有「传奇私服」「无痛人流」等互联网 SEO 垃圾词。这类词在预训练的互联网语料中铺天盖地，分词器给了它们独立编号，但精选的后训练对话数据不会收录这些内容，结果同样被遗忘。
团队对完整词表做了全量扫描，发现约 4.9% 的词发生了显著退化。退化最严重的是日语：29.7% 的日语词显著退化，远超韩语 3.3%、俄语 3.7%、中文 3.9% 和英文 3.5%。
日语的严重退化还解开了一个旧谜。此前模型在日语对话中偶尔混入俄语或韩语字符，一直找不到原因。这次分析表明，大量日语词退化后，在模型内部的参数空间里「漂」到了其他语言的地盘上，导致模型该写日语时错写成俄语或韩语。
修复方案是构造一份覆盖全词表的合成数据，让模型用简单的复读任务把字典里每个词都练一遍。效果立竿见影：日语回答中混入俄文字符的比例从 47% 降至 1%，全词表参数稳定度从最低 0.329 升至全部高于 0.97。
RouterA | AI 工具实测 retweeted
Anthropic 的 Thariq 昨天那篇 HTML 的文章爆了，1.5M 阅读。
看上去在讲格式审美，其实他在讲一套全新的工作流。
挑几个最有技术含量的点。
第一，HTML 不是文档，是 throwaway editor。
他举的例子很经典。30 个 Linear ticket 要重排优先级，让 Claude 生成一个 HTML，每个 ticket 做成可拖拽卡片，分 Now / Next / Later / Cut 四列。结尾加一个「copy as markdown」按钮，把最终顺序导出来贴回 Claude Code。
这个模式可以套到所有「用文字很难描述」的场景。调动画缓动曲线，调颜色，调 cron，调 regex，全都比纯文本表达高效一个量级。
第二，用 HTML 网做 spec，不再用单个 Markdown plan。
他的流程是：先让 Claude 生成 6 个不同方向的方案，平铺在一个 HTML 里横向对比。挑一个深入做 mockup 和数据流图。最后写实施计划。开新 session 的时候把整个 HTML 网络当 context 喂回去。
verification agent 也读这堆 HTML。这意味着 spec 不再是给人看的过渡产物，而是 multi agent 协作的共享内存。
第三，SVG 是被严重低估的输出格式。
让 Claude 把 token bucket 限流逻辑画成 SVG 流程图，关键代码片段做内联注释，加一个 gotchas 段落。一张图比 200 行 Markdown 解释清楚一个数量级。
第四，他诚实承认了代价。
HTML 比 Markdown 生成慢 2 到 4 倍，diff 也更难 review。但是在 Opus 4.7 的 1MM context window 下，多出来的 token 在 context 里几乎不可见。这是他做出取舍的关键。
讲到底就一句话：
Markdown 的隐含假设是「人会从头读到尾」。HTML 的隐含假设是「人只想扫重点和动手改」。
后者才符合 AI 时代人和机器协作的真实形态。
RouterA | AI 工具实测 retweeted
72 小时，3万 9 千行代码，来自中国、韩国、日本、德国、法国、巴西等 6 个国家的 43 位贡献者的热情贡献❤️
open-design 正式突破 10000 Star 🌟 期间解决了进行 30+ issues、合并了 94 个 PR、并正式发布 0.1.0 🚀
感谢各位的贡献与支持，我们致力于构建真正的开源普惠的一站式 Design Studio 💪
📢 10,000 ⭐ in 72 hours!
We built Open Design because the best agents already live on your laptop — they just needed a design workflow that's yours.
To every contributor, every dev who hit ⭐, every translator in DE/JA/KO/ZH: this one's yours.
The prologue ends here.
github.com/nexu-io/open-desi…
RouterA | AI 工具实测 retweeted
小米的模型产品本身就值 3000 亿，再加上赋能全系产品，可以针对性做训练，agent 赋能提升 20%，目标价看到 54 没啥问题，我也上车了，先上再研究。
RouterA | AI 工具实测 retweeted
过去半年用了一堆 Agent 框架和各种魔改"AI 个人助理"，直到昨天折腾了一天 Clawdbot——
我好像初窥到了 AI OS 的原型。
它是个"缝合怪"：
多模型CLI接入 + Skills 系统+本地网页端管理 + 多平台连接器同时接入 WhatsApp、Telegram、iMessage、Slack...
发语音能听懂，有短/中/长记忆，能帮你管日历、读邮件,能跑定时任务,能编程... 非程序员也能玩