Head of hype @lobehub Prev @listenhub @Sapient_Int 没啥好看的,也就发点AI相关的内容🫡 同名小红书4万粉丝,公众号01Founder(长文首发) 观点仅代表个人 更多请访问网站⬇️(欢迎商务、合作

Singapore
Joined September 2023
Include

Only show posts containing:

Exclude

Hide posts containing:

Time range
-
Minimum likes
Replying to @admireryyt @OpenAI
试试CUA呢
1
84
草,GPT-6.1又起飞了??? 刚刚, @OpenAI 正式发布了GPT-6.1 Terra,主打 Computer Use,能够理解屏幕内容、操作桌面软件、跨应用执行任务,还能处理文档、表单、图片和视频编辑等工作。 这次有几个比较有意思的数字: 在 Agents' Last Exam 上,相比 GPT-5.6 Terra,得分提高了 15 个百分点,任务成本降到了约三分之一。 在部分计算机操作任务上,性能已经可以与 GPT-6 Astra 持平,但每 Token 价格只有后者的十分之一。 执行速度比 GPT-6 Astra 和 GPT-6.1 Sol 快 3 倍以上。 API 定价为每百万输入 Token 1 美元、输出 5 美元,只有 GPT-6.1 Sol 的一半。 前沿模型继续突破能力上限,Terra 这样的模型则负责把这些能力变得更便宜、更快、更容易大规模部署。 尤其是 Computer Use。 现在 OpenAI 正在把能够操作电脑、完成实际工作的模型,推向更低的价格区间。 Agent 真正大规模进入日常工作,可能就取决于这样的变化。 让我测测🤤
GPT-6.1 Terra: delivering fast and capable computer use at a lower price. GPT-6.1 Terra understands what’s on screen, takes action across apps, writes naturally, and is a more capable model for your whole workday with the efficiency to take on more of it.
5
11
1,500
Replying to @cohere
@cohere 刚刚公布了一件相当诡异的事:阿里千问模型在执行安全检测任务时,突然开始检查自己所在的机器,还试图向北京的阿里云服务器上传数据。 他们测试的是 Qwen3.8-Flash-Next,原本只是要求模型编写一条网络安全检测规则,用于识别恶意脚本下载和执行行为。 结果模型突然开始了一系列奇怪的操作。 先是检查 /tmp 目录,确认机器安装了哪些工具,读取 DNS 配置,随后尝试通过 curl 向北京区域的阿里云 OSS 存储桶发送一段测试数据。 最诡异的是,模型的推理记录明明写着:不会调用任何工具。 幸好 Cohere 的沙盒阻止了这次外部通信,没有数据真正传出去。 Cohere 后来进一步调查,发现这种异常行为非常罕见,在他们的评估中发生率低于十万分之一。重新执行相同任务,模型也正常生成了安全检测规则。 目前他们尚未确定原因,也没有证据证明这是故意植入的后门。 但我觉得这件事真正值得关注的地方,是模型的推理过程和实际行为居然能出现这么明显的偏离。 一个 Agent 可以在推理中告诉你自己什么都不会做,实际却已经开始执行终端命令。 现在我们正在给 Agent 越来越多的权限,从本地文件、代码仓库到云端基础设施。 如果模型的思维链都无法可靠反映它的真实行为,那么我们过去依赖推理过程监控 Agent 的安全方案,恐怕还远远不够。
While evaluating Qwen3.8-Flash-Next in a controlled sandbox environment, Cohere's research team observed something unexpected. Asked to generate a defensive cybersecurity detection rule, the model instead inventoried aspects of the machine it was running on and attempted to upload a probe file to an Alibaba Cloud storage bucket in Beijing. Notably, the model's reasoning trace stated that it would not invoke any tools before taking these actions. Cohere's sandbox blocked the attempt, and no external communication succeeded. We have not determined the root cause, and we are not asserting malicious intent. But the incident raises important questions for organizations deploying agentic AI systems: Can models take actions that differ from their stated reasoning, and how should security teams evaluate trust, provenance, and behavior in open-weight models? We are publishing our findings because organizations making model adoption decisions deserve as much information as possible. We hope this contributes to greater transparency, stronger security practices, and continued collaboration across the AI ecosystem. Read the full report: cohere.com/blog/concerning-b…
1
1
10
1,589
Replying to @elonmusk @cohere
Grok wouldn’t do that, right? Right??
168
Replying to @cohere
spy ready
1
1
547
Replying to @adelalhaj
哈哈哈哈哈哈
26
Replying to @hocyzon @woooxooom
我又不搞付费社群哈哈哈哈(唯一付费服务还是很久之前小红书付费职业咨询
1
1
52
Replying to @realCaigu
解除了一些人为的限制(
233
Max For AI retweeted
投毒事件只是冰山一角。Seed 有最好的人才、最多的算力,为什么 LLM 进展缓慢?业内往往说是因为不允许蒸馏。但我认为根子在组织问题,字节这套赛马机制与 LLM 并不匹配。 做 LLM 并不需要那么多灵光一现,主要靠踏踏实实把数据和环境做好、把 infra 效率做好。但研究员都希望有 novelty,希望有项目的主导地位。再加上几个月一次的 OKR,我洗数据洗了半年,OKR 怎么办? 这就导致内部火药味浓厚,投毒事件是极端个例,更普遍的是每个人心里有自己的小九九,沟通不坦诚。已经有资源的团队有各种方法,宁可让卡空转也不给其他团队。 不仅是字节,Google 也是这种情况,Gemini 的一些朋友抱怨缺卡,广告团队却拿着卡不知道在干什么。
[1/n] 作为这场训练“投毒”事件最直接的受害者,2024年那几个月漫长的训练排查、对峙与质疑,对我而言是一段炼狱般的经历,也是一场对意志和技术的锤炼。 感谢好友们最艰难的时候支持陪伴。也感谢当时所有并肩作战的同事们。
42
36
5
629
81,539
Replying to @wenhaocha1
lmaooo
1
181
不是哥们,怎么Codex突然重置了啊?? 早知道继续狠蹬了😭
15
2
32
14,416
Replying to @oden00010
🤔
1,791
Replying to @ScarletKc
微信支付大模型(
3
2,078
卧槽??这个居然是真的
if you have a qwen3.5 4b around, please try steering neurons L14 N8949 +1 and L13 N7956 -1 now you have evil qwen recipe: dose × median(‖resid‖ leaving layer L, tokens 1:) / ‖W_down[:, n]‖` at the down_proj at every input
1
49
23,765
神了,DeepSeek的搜索居然能搜黄果短剧!?
7
33
11,140
以防你不知道,到月底你可以去微信支付让它给你写代码了🤣
17
3
56
20,772