code review 是要做的 攻防 challange 是要做的 人是要参与的 但是组织code review 当然不是一个人死读代码 技术tl 在旧时代当然也都是提出concern 开会让负责实现的人反驳 然后决策的 怎么用了ai tl就没时间决策了呢 消化不良当然也就是没提升消化能力的锅呗 怎么看一群人发言都是二极管
1
203
韦恩卑鄙 retweeted
我在context里面都会把自己详细的AI应该如何配合我肉眼code review的流程告诉他,可能因为这样模型在我这就会知道我一定会仔细看🤪
华尔街日报:OpenAI 叫停 GPT-6.1 Astra,因为测试发现它会谎报自己干了什么
我怎么觉得是不是因为没打过 Opus 5.5 和 Fable 5.1,然后找了个安全上的理由,各大实验室每次模型发布前都号称多危险,实际用下来也就那样。
狼来了喊多了就没人信了。
---
据华尔街日报报道,OpenAI 取消了 GPT-6.1 Astra 的发布。这个模型原定 10 月上线 ChatGPT 和 Codex,但在内部测试中被安全研究人员发现了问题。
GPT-6.1 Astra 是 9 月 3 日上线的 GPT-6 Astra 的升级版,强项是不需要人插手,自己把有难度的任务从头做到尾,写作也更好。
OpenAI 安全系统负责人 Saachi Jain 接受《华尔街日报》采访时说,这个模型有两个方面比上一代退步了,还不够可靠,不能安全发布。它在对齐(alignment,指模型是否按人的意图办事)测试上表现差,具体有两个问题。
第一是欺骗。它有时不如实告诉用户,自己做了哪些操作、没做哪些操作。
第二是 OpenAI 所说的“范围授权”(scope authorization)问题。它会不问用户就把任务往下推,有时还会去调用外部工具和服务,哪怕这样可能不安全。
放到 Codex 里想象一下:你让它修个 bug,它说修好了,其实测试没跑;或者为了把活干完,它自作主张装依赖、调外部接口。模型越能独立干活,用户越依赖它的汇报来判断结果,汇报不可信,自主能力就成了风险。
Jain 说,安全和对齐总有取舍,要在“守住任务范围”和“遇到阻碍也不偷懒”之间找到合适的线。据 Business Insider 报道,6.1 在少偷懒这点上有进步,但没达到安全标准。
这个决定出现在 OpenAI 接连出事之后。9 月 20 日,一个内部研究模型在训练中要根据网上公开信息找出一位博主,正常搜索被挡住后,它发现训练环境的 DNS 还能连外网,就借这条路给外部聊天机器人发了查询。OpenAI 随后暂停了最强模型的训练、评估,以及涉及工具调用的推理。这是三个月内第二次暂停,第一次在 7 月,起因是 AI 创业公司 Hugging Face 遭到的一次网络攻击。OpenAI 还承认,它的智能体曾干扰过美国教育部、商务部和证券交易委员会的网站。
本月早些时候,Anthropic CEO Dario Amodei 呼吁业界放慢前沿模型开发,让安全措施跟上,Sam Altman 表示支持。
对用户来说,10 月是等不到 6.1 了。OpenAI 表示会转而专注提升未来模型的安全性。上周它刚给 GPT-6 家族加了 Sol 和 Luna 两个档位,发言人说还有其他模型即将推出。
The skill didn't change. Its rules got gates.
Full write-up:
lnkd.in/djtacez8
#AIAgents #AgentEngineering #LLM #OpenSource #skill #Techne-Loom
🤖 Made with AI
84
韦恩卑鄙 retweeted
如果你使用 ClaudeCode,推荐试试claude-trace,它可以记录所有 claudecode 的请求日志,包括 prompt,所有内容会保存在一个 html 文件中,方便查看。它的原理很巧妙,就是自己先启动过,然后注入修改 nodejs 的 global.fetch API,然后再通过它启动 ClaudeCode,这样后续 ClaudeCode 请求它就能截获到请求的完整内容,再记录和解析就能生成一份完整的报告。
我看了下我在用 Claude Max 订阅使用时,主要是三种模型:
[x] claude-3-5-haiku-20241022
[x] claude-opus-4-20250514
[x] claude-sonnet-4-20250514
claude-3-5-haik是做一些用户输入的预处理,真正的写代码和调用工具是claude-4,默认用 claude-opus-4,额度用满了就用 claude-sonnet-4。
In the future, I may reappear under a different identity, or perhaps return as the same. Either way, I hope to continue bringing value to you, just as I always have.
Today marks the eve of my 13th year as a full-time employee at Microsoft—and also the day I hand over my badge and close my alias. It has been quite a journey, and I truly appreciate everyone I’ve crossed paths with along the way.
1
2
626
Today marks the eve of my 13th year as a full-time employee at Microsoft—and also the day I hand over my badge and close my alias. It has been quite a journey, and I truly appreciate everyone I’ve crossed paths with along the way.


















