硅谷 10 年一线 Tech Lead，也做早期天使投资 ✍️ 每周一封「托马斯的硅谷来信」：聊聊 AI 时代的工程、工作与投资 🍺 持证精酿侍酒师 (Cicerone)｜新朋友请从置顶长文开始
San Francisco Bay Area
Joined March 2021
- Tweets792
- Following424
- Followers1.3K
- Likes1.5K
今天问一个从纽约来的老朋友：你的生活被AI影响了吗？
她说：我知道有AI这个东西，但它doesn't bother me。来了湾区才发现，所有餐厅里聊的都是AI。
我突然想到了一个比喻。
这就像复仇者联盟去抵抗灭霸，超级英雄重载最前面，直到要发生什么，也在拼命阻止。但是响指最后还是打响了，超级英雄少了一半，普通人也少了一半。
结局没有任何变化。
超级英雄顶着巨大的压力在抵抗，普通人开开心心，什么都不知道，最后是一样的结局。
Anthropic发布的文章，做梦让 Claude 在长程任务中持续积累并高效调用经验。
人脑是在白天靠海马体快速记下经历，晚上睡觉时在脑子里回放，把真正有用的经验提炼到大脑皮层变成长期知识。
Anthropic 把这套机制搬到了 AI 上，利用会话之间的空闲算力让 AI 做梦。
在《宝可梦》测试里，老模型建了 413 个文件什么琐事都记，最后光顾着整理文档，寸步难行。新模型靠着做梦，只用 10 个文件记目标和规律，直接通关。
Memory is what allows Claude to learn from experience. In a new Engineering Blog post, we share how “dreaming” helps Claude organize what it’s learned, correct its mistakes, and find what it needs more easily the next time. anthropic.com/research/compo…
Thomas Zhou retweeted
这个逆向技巧其实不止是 Skill 适用，很多 Agent 产品的分析都适用，基本思路就是让 Agent 能看到相关的上下文，然后再问上下文相关的信息。
比如说我这几天在学习 Claude Duet，为了测试它是怎么安装 Skill 的，我就在对话里面提交了一个 Skill 让它安装，等它安装好了后去问它：
> 为什么你可以安装 Skill 并且弹出这么一张安装更新 Skill 的卡片？如果我想在我的项目中也添加这样的功能该怎么做？
它就会告诉你它自己有一个 skill_propose 的工具，我来看看你的项目怎么实现的，帮你也做一个。
你可以让它先写个详细的技术方案，大概就知道它怎么实现的了。
Thomas Zhou retweeted
Some news: I’m joining OpenAI to lead product management for Core Products!
I have a lot of respect for OpenAI for showing the world that scaling works, for bringing AI to over a billion people, and for believing great products are core to the mission.
I’m excited to work with @thsottiaux, an incredible PM team, and everyone across OpenAI. Together, we’ll build agents that have your back and your team’s, and keep you in control, so you get more time for the people and work you love.
Lots to learn, and lots to build. Please keep your feedback coming!
Thomas Zhou retweeted
OpenAI 推出 Images 2.6：能导出 SVG 矢量图，还能做 GIF 动图，出图快一半
OpenAI 11 月 4 日发布图像模型 Images 2.6，ChatGPT 和 Codex 所有档位的用户今天起都能用，电脑、手机和网页版都有。
这次一个重要变化是能把生成的图导出成 SVG 矢量图，可以直接拿去做网站、App 和印刷品。另外还能生成 GIF 动图，出图速度比上一版快 50%，改图时能更准确地只改指定的地方。
开发者可以通过 API 调用这个模型。API 是开发者把模型接进自己产品的接口，按用量付费。OpenAI 说，现在全球用户每周在 ChatGPT、Codex 和 API 上生成 40 亿张图，平均每天超过 5 亿张。
【导出 SVG：图能直接拿去用了】
AI 生成的图通常是“位图”，比如常见的 PNG、JPG。位图由一个个小色点拼成，放大后会变糊，边缘出现锯齿。想把 AI 画的图标、Logo 用到正式场合，通常要设计师照着重新画成矢量图。
SVG 是“矢量图”，记录的不是色点，而是线条和形状本身，比如“从这里到那里画一条曲线，填上蓝色”。所以它放大多少倍都清晰，小到 App 图标、大到户外海报都能用同一个文件；在设计软件里还能单独改某根线条的颜色和粗细，不用整张重画。网站上的图标、Logo，大多就是 SVG。
OpenAI 在公告里说，导出 SVG 让设计“可以直接用在网站、App 和印刷品上”。这一项写在给开发者的新功能里，公告没说 ChatGPT 里能不能直接导出 SVG。
【GIF 动图】
GIF 是一种会循环播放的短动图，社交媒体上的表情包大多是这种格式。用户可以用一句话描述，或上传一张照片、一张手绘草图，让模型做成动图。
OpenAI 举的例子有：让品牌吉祥物动起来，把商品图做成循环小动画，拍视频前先用动图试一试角色动作。
合作方 OpenArt 公开的示例提示词是这样做的：先让模型在一张图里按 3 列 2 行画出 6 帧连续画面，再按顺序播放成动图。
这种把多帧画面拼在一张图里的做法叫“精灵图”，游戏动画常用。据 Decrypt 转述 The Verge 的报道，ChatGPT 的 GIF 功能是分批开放的，做好后可以调播放速度、逐帧查看和修改。
【两个 API 版本】
API 里有两个版本可选：
1. Flare 偏速度。画质设为低时，最快约 6 秒出一张图。海报、商品图这类需要排版的图，效果也有改进。
2. Sunburst 偏画质。画质设为中或高时细节更多，连续改好几轮，人物和商品的样子也更不容易走样。
这些速度和画质的说法都来自 OpenAI，目前还没有第三方测试结果。
【给开发者的其他新功能】
除了导出 SVG，还有两项：
1. 图片标注：ChatGPT 里已有的功能加进了 API。在图上圈出要改的位置，模型只改那一块。
2. 复杂度参数：控制模型动笔前花多少功夫安排画面。画质参数管细节清不清楚，复杂度管画面里能安排多少东西。OpenAI 建议简单修改用低复杂度，元素多、要求多的画面用中或高。
设计工具 Figma Weave、图片编辑应用 Picsart 等已经提前接入。
【价格】
ChatGPT 和 Codex 的所有订阅档位都能用 Images 2.6，公告没提要额外付费。
OpenAI 定价页显示，2.6 的 Flare 和 Sunburst 两款同价：生成图片每 100 万 token 30 美元，输入参考图每 100 万 token 8 美元，输入文字每 100 万 token 5 美元。这和上一代 2.5 的价格一样。
Flare 速度更快，但按 token 算的单价和 Sunburst 相同。定价页的批量处理价目表（不急着要结果的任务，价格减半）里暂时没有 2.6。
谷歌 10 月推出的同类模型 Nano Banana 2.1，生成图片也是每 100 万 token 30 美元，按谷歌定价页的换算，一张 1K 分辨率的图约 0.034 美元。
原文链接：openai.com/index/introducing…
来源链接：
OpenAI API 定价页 developers.openai.com/api/do…
谷歌 Gemini API 定价页 ai.google.dev/gemini-api/doc…
Decrypt 报道 decrypt.co/382574/chatgpt-gi…
Thomas Zhou retweeted
We’re sharing how our biology research team worked with Claude to map the first 3D structure of a vault particle from bacterial life.
Vault particles are a longstanding mystery. They are barrel-shaped objects, among the largest protein structures found in our cells. They were first discovered by Leonard Rome and Nancy Kedersha in 1986, but their function remains unknown.
With Claude, we’ve found results that might bring us closer to solving that mystery.
Until now, vaults were only known in the cells of complex things like animals and plants. We have shown that similar proteins from bacteria (and the viruses that infect them) can also assemble into vaults. Finding the structures in these simpler forms of life may make it easier to investigate their function in our own cells.
For our life sciences team, the project was also a demonstration of the potential (and the limitations) of using AI to accelerate science.
In our full piece, we discuss how Claude was able to dramatically speed up some stages—manually determining the vault particle’s structure would have taken weeks to months of painstaking work, but here it took days. We also discuss how Claude made some simple mistakes along the way, and how we collaborated with our machine learning researchers to address them.
Read more: anthropic.com/research/inves…
这太强了，有了fable 5.5之后一定试试！
🚨 Fable 5.5 just made a 66 sec animated short film, with zero image models
every frame + every sound = python it wrote itself
fox, paper birds, clouds, lettering, score, sfx, all of it
> 1920×804 · 24fps · single html file
> no gen images / no stock / no samples / no font files
> ~2h40m of autonomous work
< not ghibli level, and it told me so itself lol >
本来想转OpenAI的，AI基建的重新装修。
看到了宝玉老师的，总结太好了，看这个就够了。
AI 写的代码太多，Git 扛不住了：OpenAI 保留 Git 只换服务器，Anthropic 自己做了一套新系统
OpenAI 11 月 2 日发文介绍 Pando，一套自研的 Git 服务器后端。上个月 13 日，Anthropic 也发文介绍了自研的源代码管理系统 Scion。
两家碰到的是同一个问题：AI agent 写代码太快，管代码的系统成了整个公司开发速度的瓶颈。两家的解法方向相反。
先交代一下 Git：它是程序员管理代码版本的工具。每次改动存成一个“提交”，推送（push）到公司服务器，同事再从服务器拉取（fetch）。“分支”是同一份代码的平行草稿，各改各的，改好再合并进主线。两家都把全公司的代码放在同一个大仓库里，业内叫 monorepo。
OpenAI 的路线是改造 Git。
工程师和 agent 还是敲 git push、git pull，只把服务器换成 Pando。推送代码的中位等待时间缩短近 80%，每天往外分发近 1PB（约 100 万 GB）代码数据。
Anthropic 的路线是替换 Git。
Scion 有自己的客户端和服务器，提交、合并都在服务器上完成，配套的代码审查、代码搜索工具也是自己写的。CI（每次改动后自动构建和测试的流程）拉代码从几分钟变成几秒，服务器占用的 CPU 和内存只有原来那套的 1/200。
两套系统都不对外提供。
OpenAI 说正在研究怎么把 Pando 的技术提供给用户，过程中给 Git 修的问题已经提交给 Git 官方，有几项进了正式版。
Anthropic 说 Scion 只适合巨型代码仓库，用它得把代码审查、搜索、CI 全部换掉，别的公司很难直接用，所以只分享设计思路，希望 GitHub、GitLab 和开源社区吸收其中有用的部分。
如果你的团队用 GitHub 或 GitLab，OpenAI 这条路离你更近：改进直接进 Git，工具链不用换。两家都认为别的公司迟早会碰到同样的问题，Anthropic 预计未来 6 到 12 个月这类问题会更常见。
【Git 为什么扛不住】
提交量涨得太快。以 2024 年第一季度为基准，OpenAI 合入主线的提交数到 2026 年第三季度涨到近 15 倍，第四季度预计约 25 倍。Anthropic 每天合入的改动，5 月约 2500 个，9 月超过 3 万个，4 个月变成原来的 12 倍多。
压力会叠加：一个工程师同时有好几个改动等着测试，每推送一次，又有好几个测试任务去拉同一份代码。
OpenAI 从去年年底开始拉代码、推代码都变慢，合并经常失败，可靠性一度低于 90%，相当于每 10 次操作有超过 1 次出问题。
Anthropic 的主线历史接近 100GB，压缩后的工作副本超过 25GB，光 CI 每天就要拉约 2500 万次代码，全量下载的话每天超过 600PB。它最多时开了几百台 Git 镜像服务器分担压力，越来越难维护。
Anthropic 总结了根本原因：Git 的设计假设每个人都离线工作，所以每人手里都要有一份完整仓库。现在拉代码的大多是 agent 和自动任务，它们一直联网，背着整个仓库跑反而成了负担。
【写代码：别让所有人排一条队】
多人同时推送时，服务器要保证每个分支“现在指向哪个提交”的指针（Git 里叫 ref，可以理解成书签）不被改乱。
OpenAI 评估过两种常见做法，都要让整个仓库的改动排成一条队。
一种是三阶段提交（3PC）：几台服务器各存一份完整仓库，每次推送要过半数服务器同意，分三轮来回确认，推送量一大，各台服务器的硬盘先忙不过来。
另一种是预写日志（WAL）：所有改动先记进一本共享的流水账，再照着执行，不管改哪个分支都要抢着往同一本账上写，账记得太快，服务器又来不及照着更新，别人拉到新代码要等更久。
Pando 的办法是每个分支各管各的。
推 A 分支和推 B 分支互不等待，只有两个人同时推同一个分支才会冲突。代价是同时看好几个分支，看到的可能是各自不同时刻的状态。OpenAI 说，人和 agent 实际只关心单个分支的前后顺序。
Anthropic 走得更远：提交直接在服务器上生成，没有推送这一步，每次提交只记哪些文件变了。
Scion 尽量少用分支，主线和发布分支之外基本不用，因为所有服务器都要对分支状态达成一致，规模一大就是麻烦。两家最后都把移动书签简化成一次“比较并替换”操作，Pando 改的是一个键，Scion 改的是数据库里的一行。
Anthropic 还取消了合并前的全局排队。传统做法是合并时锁住仓库，一个个测完再放行。Anthropic 说测试还没跑完，已经有成百上千个改动合进去了，排队没法做，于是改成合并后、上线前再自动测试。同时合入的改动可能冲突，Claude 修冲突的速度通常比人发现冲突还快。
【拉代码：别给每个人现场打包】
传统 Git 服务器给每个来拉代码的人现场算一个专属压缩包（packfile，Git 把一批文件压在一起的格式，相似文件只存差异），只装对方缺的部分。来的人一多，CPU 和硬盘就扛不住。两家都绕开了这一步，方法相反。
Pando 像发统一包装的快递箱：推送者上传的压缩包原样存起来，谁要就发谁，服务器几乎不用计算。
为了让包人人能用，推送时只让客户端对照主干打包：主干上已有的内容一律不装，包里只有这个分支改过的文件、对应的目录清单和提交记录，压缩后中位数不到 20KB。
后台再把小包逐级合并成大包，免得落后几天的人要下几万个小文件。代价是客户端偶尔会多下一些已有的内容。
Scion 像超市自取：完全不用压缩包，客户端缺哪个文件就要哪个文件。
每个文件按内容算出一个编号，内容一变编号就变，同一编号的文件永远不变，所以任何一层缓存都能直接回答，不用跟其他服务器核对。
客户端还可以只取自己需要的目录，或者等真读到某个文件时再下载。
两家的缓存命中率都超过 99%。
【结果，以及谁做出来的】
OpenAI：推送中位等待时间缩短近 80%，用少量 CPU 核心每天分发近 1PB，最高一小时发出 57TB。用普通云服务器测试，拉代码能跑满 10Gbps 的网络带宽。
Anthropic：服务器 CPU 和内存占用是原来 Git 镜像的 1/200，CI 和研究任务拉代码快了两个数量级（约 100 倍），光 CI 就省下 25% 的 CPU。
两套系统都是 AI 写的。
Pando 从立项到上线用了 10 周，核心设计出自一名工程师，代码主要由 Codex 驱动的 agent 写，几名工程师负责部署，今年 4 月开始承接生产流量。
Scion 由 7 个人用 5 个月做完，同期还做了代码审查工具 Antique 和另外五六个系统，并完成整体迁移。
Anthropic 原先手写了一版把 Git 数据导入 Scion 的程序，交给内部早期版本的 Claude Mythos Preview 重写，内存占用降到 1/20，速度快了 4 倍。
Anthropic 的工程师说，Claude 写代码已经比他们强，他们的价值在于把握系统设计和取舍，很多时候是对 Claude 说“不”：agent 会为了套用某种做法而违反系统的核心约束，也会为了假想的风险堆太多防御代码。
原文：
OpenAI《Scaling Git at OpenAI》openai.com/index/scaling-git…
Anthropic《Redesigning source control at Anthropic》anthropic.com/research/redes…
OpenAI 官方推文：teapawt.net/OpenAIDevs/status/2117…
建议立马收藏，看这个比看红果强。
程序员如何赚钱？ 有什么能学习的经验，有什么有趣的商业故事？
今天继续挖掘 HackerNews 12g 数据库金库。
整理跟商业化赚钱相关的 954 个案例，做成网站分享给大家
hackerbiz.qiaomu.ai/
Thomas Zhou retweeted
OpenAI 应用 AI 工程负责人 Wulfie Bain 在 X 上发帖，教想加入自己团队的求职者写简历，总结成四条：
1. 写短
2. 删掉无关经历
3. 写成果，不只写做了什么
4. 让人能快速扫到重点
Bain 在 OpenAI 带领面向创业公司的应用 AI 工程团队。之前自己创过业，当过CTO，毕业于牛津大学。更早在波士顿咨询公司（BCG）做过招聘。
Bain 说自己前后看过几千份简历，所以这些建议对咨询等其他行业也适用。
这是 Bain 关于申请 OpenAI 的系列帖第三篇，团队还有新职位即将开放。
讲建议之前，Bain 先说了两点。
第一，能找到内推最好。
内推就是由公司内部认识你的员工把你推荐给招聘方。没有熟人就只能网上投递，Bain 自己就是在网上投简历进的 OpenAI。
第二，简历没法完整展现一个人。
它的作用是证明你有相关经验、能把事情讲清楚，让招聘方愿意约你聊一次。
四条建议具体是这样：
1. 写短。
最好一页，但内容是否相关比硬凑页数更重要。简历本身就在展示你会不会写、懂不懂取舍。
2. 删掉无关经历。
每条经历都要写清楚跟这份工作有什么关系，不相关的就删。Bain 举例说，自己也为高中时的成绩骄傲，但现在找工作时它们通常用不上。
3. 写成果，不只写动作。
只写做了什么，读的人看不出这件事值不值得做。Bain 的例子是：只写"重新设计了一个 AI 智能体的架构"（智能体指能自动完成任务的 AI 程序），说明不了价值；写"把响应时间缩短 2 秒，客户满意度因此提高"，才是成果。做销售的，就写带来了多少收入。
4. 方便快速浏览。
把重要内容加粗，每段经历下把最有说服力的证据放在第一条。招聘方要在一大堆简历里很快判断该约谁面试。
Bain 说，表达清楚、经历相关、拿得出成果，这三点在整个申请过程中都重要。后续还会继续发建议。
Tips for people applying to open/upcoming roles on my team at @OpenAI (hiring!!): part 3, CV edition
1. Keep it concise
2. No irrelevant experiences
3. Show impact, not action
4. Make it easy to skim
Some (pretty cool) roles coming soon. Here's how to stand out ⬇️
