dlxeva retweeted
Agent Memory Challenge 2026 Cycle 2 is now open.
Long-term memory is not just about storing more history. It is about retrieving the right evidence, recognizing what has changed, and avoiding stale context when an agent needs to act.
Three tracks: Textual · Coding · Multimodal
Open-source Methods · Commercial Products
Over USD 22,000 prize pool for eligible open-source teams.
A shared Add/Search interface. Standardized Answer/Eval. Public, comparable results.
Join: agentmemoryleaderboard.ai/ev…
坐飞机无聊,把这几天琢磨 Jev 这个模型的东西顺手捋一下,下面都是些口水话。
我最开始其实没觉得它有那么牛逼。
刚看到的时候就是,哦,一个特别快、专门做判断的模型。外面又是 iPhone 时刻,又是底层范式什么的,多少有点 PR的味道。
申请到资格后,我这两天一直在琢磨这个东西,又刚好和手上几个东西来回串,越想越觉得,好像确实有点夸张。
中间有一个让我突然想通的地方,是程序里的 if。
程序跑起来这件事情,背后本来就是海量的决策。
这个条件成立了走这里,那个状态变了走另外一边。各种小的判断一直在发生,然后这些东西组合在一起,最后涌现出一整个流程、功能,最后才是人看到的东西。
想到这里我突然有一个感觉。
那如果 if 开始能理解语义呢?
程序判断的都是比较确定的东西,比如 HP < 20,成立就是成立,不成立就是不成立。
但值不值得进入下一个环节,或者某个事情有没有做完,该不该换个人来处理,其实也都是判断。
只是这种判断以前很难直接写进程序。
大模型出来以后,这件事情其实已经可以做了。
很多软件流程里面,需要人稍微看一下、理解一下才能往后走的地方,确实都可以插一个 AI 进去理解和推进下一步。
问题出在真塞进去的时候,会发现它太重了。
你在一个关键地方调用一下当然没什么,但是一个程序运行起来,后面其实每时每刻都有这种小判断。如果每一个地方都跑一遍大模型,那这个账很快就算不过来了。
延迟是一方面,性价比也是一方面。可以做,但是好像没必要做到这个程度。
所以 Jev 这次真正让我开始觉得有点牛逼的是,它好像是在把理解、判断决策这件事,往一个很轻很轻的地方再走。
如果哪天这种语义判断真的可以便宜到接近 if,那我觉得事情性质就变了。
我前两天在琢磨 AI 游戏导播的时候,又突然把这两个东西连上了。
一开始我的思路其实也很自然,就是让 AI 看比赛画面,让它先看懂这里发生了什么,然后判断镜头切给谁。
后来我突然反应过来,妈的,游戏本来就是个数字系统。
比赛现在是什么状态,这些东西本来就在机器里面。
那我为什么还要先把它画成一个人看的画面,再让 AI 从画面里面重新猜一遍?
直接把状态给它不就完了吗。
然后它就在后台持继判断,这里值不值得看,要不要切,程序直接执行。
到这个时候我才有一点感觉,Jev 这种东西可能真的不是快一点这么简单。
然后我又想到 Agent。
这个其实更明显。
一个 Agent 真正跑起来,背后本来就在不停做决策。
只是平时我们根本看不到。
我们最后看到的是它给了我一个结果,或者它把一个任务做完了。
但中间为什么走这一步,为什么那个东西没要,为什么还要继续往下跑,为什么突然停了,背后其实全是判断。
这时候我又绕回前面的 if 了。
程序本身一直就是这样。
我们最后看到的是一个功能、一条流程,甚至一个 Agent 的行为,但往下拆,可能就是海量微小决策不断发生之后的涌现。
以前这些决策里面,绝大部分还是程序员提前写好的确定性逻辑。
现在如果越来越多这种地方,可以换成实时的语义判断呢?
我觉得这个才是让我这两天对 Jev 态度变化最大的地方。
之前程序跑着跑着,到某个地方调用一下 AI。
现在有没有可能变成,程序本身之所以最后会这样跑,就是后台海量 AI 判断一直在发生,然后最后涌现出来的。
如果是这样的话,那 AI 的位置就完全变了。
它就不是程序里面加了一个 AI 功能这么简单了。
它开始往 Runtime 里面钻,甚至有可能改变这个东西底层怎么跑。
所以我现在再回头看外面说的什么 iPhone 时刻,我至少不会像一开始那样,第一反应觉得是不是营销得有点过了。
当然是不是 Jev 最后把这件事做成,我不知道,这个还早。
但它至少让我突然很具体地看到了一种可能。
如果理解之后做一个判断,真的可以变成一种像if一样廉价的基础操作,那整个软件运行的方式可能都会跟着变。
大概就是这两天我觉得这个东西越来越牛逼的原因。
1
226
前段时间,美国风投机构Dimension Capital的几个合伙人来中国深度拜访了一圈AI公司,用于修正自己的投资判断,他们回去后发给出资人的内部信传得挺广的,全文翻译如下:
跨太平洋的AI棋局
1、稀缺催生进化
美国的出口管制本意是为了拖慢中国的AI发展,但结果却意想不到的制造出了一种进化压力,导致中国的AI实验室拥有了世界独有的竞争围栏。
因为缺少算力,中国团队被迫深入到极其底层的架构里去做工程优化,DeepSeek在刻意削弱性能的H800上训练模型,并绕过CUDA在更下面的PTX上编程,甚至要把每张GPU里的一部分流式多处理器专门分配给跨节点通信。
我们认为,这并不是美国工程师干不了的事情,而是因为两边的刺激机制不同。
美国的AI公司更愿意用资本解决问题,每多投入一美金,就能多买来一美金的算力,但在中国,因为始终没有充足的算力可供购买,所以形成的方案是,每多一个懂编译器的工程师,就能降低整个团队对于算力的需求。
最后形成的是一种覆盖全栈的效率文化,从系统、优化器、推理算法、一直延伸到芯片,这种能力可以持续积累,不像一次性的资本开支,用完就结束了。
2、中国开源模型完成了过去20年中国SaaS都没能做到的事情——进入西方生产环境
不到18个月,中国模型在OpenRouter上的Token消耗份额从不足2%飙升到了45%,Qwen成为Hugging Face上面最快突破10亿次下载的模型家族,大约80%的美国AI初创公司,已经在内部部署了至少一款来自中国的开源模型。
开源绕过了传统软件采购的审查,当模型可以免费部署,也就不存在「供应商」让你放进黑名单。
但吊诡的地方在于,中国的开源模型本质上是在承担西方的生产成本,而并没有拿走西方的生产收入。
因为可以自行部署那些开源模型,所以最主要的利润,仍然流向负责提供Token的云厂商。
所以中国人把模型价格打了下来,让竞争对手很难受,但最主要的受益者仍然是美国的其他商业公司,因为它们能用到更便宜的模型了。
这不是说中国AI公司有钱不赚,开源这种生态在客观上就是会把利润的最大头分配给云厂商,而非模型开发商。
3、中国前沿模型的内部竞争,比西方预计的更加激烈
我们的判断是,目前中国模型的第一梯队包括DeepSeek、Qwen、Kimi、Doubao和GLM,它们之间的差距非常小,洗牌也相当频繁。
五家实验室同时比拼发布速度和模型能力,而且全部开源(译注:豆包并没有开源),这与美国主要由两家闭源实验室主导的竞争环境截然不同。
我们在这一周里最明显的感受就是,中国模型之间的竞争,可能更甚于它们和美国模型之间的竞争。
4、今天,AI要从太平洋两岸来回跑两趟,才能最终落地到客户那里
现在的循环大致上是这样的:
美国的前沿实验室训练出SOTA级的模型;
中国的前沿实验室对这些模型进行蒸馏,然后开源;
美国的AI服务商再基于中国的开源模型进行微调,做成产品卖给美国企业……
Cursor所谓「自主研发」的Composer 2,被发现是用Kimi K2.5改的,Cognition的SWE-1.5看起来也像一个定制版GLM。
就在我们坐在从上海去北京的高铁上时,Harvey发布了自己的专有模型Harvey Tenet——它是对Kimi K3进行了后训练所得到的产物。
如果是一年前,这些公司大概率会选择Llama,或者Mistral。
如今,美国垂直AI行业的底层基座,正在变成中国的开源模型——而这些模型内部,又潜藏着来自美国前沿模型的智能。
5、数据层似乎也在发生类似的事情
Mercor、AfterQuery、Turing这些美国的数据标注公司,都已经公开披露与蚂蚁、阿里巴巴和字节跳动存在商业合作关系。
同时,我们也在中国看到了一批刚刚出现的新公司,它们没有再去做数据标注的生意,而是转为评测和验证基础设施。
比如UniPat。
这家公司成立于2025 年12月,创始人是一名北京大学博士生,此前曾在阿里、月之暗面和腾讯工作。
UniPat发布的 基准测试,已经开始被美国实验室引用到自己的模型报告中,它还声称,通过自己基于Rubric的监督方法训练一个小模型,也取得了很好的效果。
这种思路还是在用更高质量的监督替代更多算力,与我们在第一点中提到的现象完全一致:资源,尤其是算力受限的环境,会逼迫团队发展出不同的适应性能力。
我们在北京和上海见到了好几家这样的公司,绝大多数成立不到24个月,其中少数几家的收入已经很快的突破了1亿美金。
6、美国和中国面临的难题完全不同,而且恰好相反
2024年,中国新增的电力供给是429GW,美国大概是51GW。
根据预估,一直到2030年,中国每年新增的电力供给,都将在400GW以上。
美国的情况是,目前光是数据中心的扩建项目,就有241GW的电力缺口,因为电网接入的积压,需要排队等上5年时间。
中国真正的瓶颈,正如我们提到过的,是算力资源不足。
最直接的例子就是月之暗面:Kimi K3发布后不到两天,就因为推理能力不足而暂停了新用户注册。
所以:
美国芯片充裕,但越来越受制于电力;中国电力充裕,但一直都受制于芯片。
我们可以确信的是,中期AI局势很大程度上将取决于哪一侧的障碍先被推倒,是美国的电网容量先得到改善,还是中芯国际和华为的先进封装以及良品率提升得更快。
7、中美两国的AI产值差太远了
Anthropic在7月的年化收入超过了650亿美金,OpenAI的同期数字在400亿美金左右。
相比之下,中国收入最高的模型是字节跳动的Seedance,年化收入大概在20-30亿美金之间。
中国的纯语言模型公司,年化收入都还停留在数亿美金级别,比如DeepSeek正在接近5亿美金的水位。
消费端也有同样的困扰,豆包的月活用户已经达到3.45亿了,超过Qwen和DeepSeek之和,但每天产生的收入仍然不到100万人民币,而且基本全部都来自购物佣金。
中国的消费者不愿意为软件付费这个死结,我们也不知道该如何解开。
当然,拥有如此庞大的用户规模,最终完全可能找到具有中国特色的商业模式,这在十年前的消费互联网已经发生过一次了。
那就是羊毛出在猪身上,靠电商和广告来实现模型的商业化,中国的创业者身上有种实用主义精神,他们不会因为某种商业模式不够AGI而回避它。
8、硬件和半导体在脱钩,软件和数据在融合
两个国家的政策反应速度已经跟不上了:
美国的产品跑在中国的模型上;
中国的实验室在新马泰租用英伟达的GPU训练模型;
专家标注的数据则在两个方向上互相流动;
所以我们觉得「到底哪边在赢」是一个伪命题,在目前的状态下,两个体系已经高度相互绑定,以致于国家层面的胜负很难被清晰定义。
除非RSI(递归自我改进)的实现能从根本上改变整个系统结构。
9、中国的一些顶尖研究员相信他们已经拥有弱形式的RSI了
在此语境下的RSI,仍然受到算力限制。
更准确的说,这些系统如同RSI的早期雏形:
研究员自己介入其中,通过人工辅助的方式,加速模型到达原本最终也可能到达的能力,从而节省算力和时间。
打比方来讲,这一阶段的RSI,最接近1990年到2010年之间流行的「半人马国际象棋」:
机器加人类的组合,比单独的人类或单独的机器都更强。
10、接下来会有一个至关重要的分叉
假设RSI会随着算力规模的增长而进化,那么美国所处的位置就相当有利了。
目前,美国那两家顶级实验室各自运行有大约2GW的算力基础设施,同时每家已经锁单超过5GW,计划到2030年达到约30GW的水平。
理论上,这些公司拥有巨额收入和资本市场的全力支持,可以大力出奇迹的推动RSI,而中国根本没有足够的芯片追赶。
但另一种情况是:
如果真正的瓶颈并不在于算力,而是质量;
或者,这条技术线所需要的时间足够长,长到足以让中国的优化能力和替代芯片发展到可用水平;
那么过去18个月已经出现的趋势可能不仅会继续,还会加速:
美国前沿模型能力进一步商品化;
中国开源模型变得越来越无处不在;
美国垂直AI公司则获得新的机会——在外国开放权重模型上做微调和应用;
与此同时,大量新增的调用量和利润,会流向负责提供推理服务的公司,目前来看,主要就是超大规模云厂商和新型算力公司。
当然,这一判断建立在电力基础设施按中性预测发展的前提之上。
11、还有一种未来的可能性是,美国的前沿实验室不再对外提供最新版本模型的API了
现实是,目前这一代模型的能力,已经可以满足绝大多数商业需求了。
未来顶尖的高端模型,可能不会再按调用量定价,而是像交付SaaS系统那样,按结果定价。
这样做还有另一个效果:限制中国实验室的蒸馏行为。
美国公司的代价是要放弃不断增长的API调用收入,作为回报,它们可以切断太平洋对面的竞争威胁。
或者至少,这会迫使中国进行昂贵的预训练,从而进一步挤压中国已经存在的算力资源。
12、监管政策砍不断跨太平洋的暗通款曲
到了今天,如果还认为可以简单切断这种联系,实在是过于天真了。
中美两国的技术人员正在通过各种媒介「对话」:
模型蒸馏、开放权重、数据标注、推理服务,以及越来越多的软件执行框架和智能体基础设施。
眼下正在讨论的一些粗暴限制措施——实体清单、托管禁令、采购禁令——几乎肯定会抑制美国自身的创新,并让美国在这些领域失去领导地位。
而空出来的位置,必然会迎来快速跟进的中国竞争者。
13、西方一直在讨论的估值泡沫,在中国市场明显更加突出
中国AI公司的收入规模更低,却享有更高的估值倍数,这是资本市场的一大奇观。
月之暗面的估值是年化收入的115倍,智谱、MiniMax在上市之初也都是100倍,相比之下,Anthropic只有20倍。
我们的判断是,这可能源于中国的资本市场仍不够成熟。
过去二十年,这个市场更习惯于给消费软件公司定价,而现在才刚刚开始建立一套能够理解企业软件和开源商业模式的成熟估值框架。
对于合适的投资机构来说,中国内地和香港存在着相当大的机会,能够找到新兴行业的领先标的。
最近沉迷AI漫剧,让我第一次完整的从内容消费侧体验了下这个内容市场,进化非常迅速,一部3月上的片子,8月上的11季已经可以和头部传统仙侠动漫视听扳手腕了。
我回想起6月底去甘肃,当时和某国产科幻头部IP的商务聊到AIGC对传统影视制作的影响。
我当时问了一个问题: Seedance 2.0年初出来之后,信息流上已经遍地都是巨构、舰队、爆炸、末日城市、各种以前只有电影工业才能提供的科幻视觉奇观。 当一个普通人每天刷几十条这种东西,观众对“大场面”的阈值会不会被直接拔高?那以后传统影视靠什么?
他当时给我的回答我一直记得:
完善的世界观、让人记忆深刻的角色、细腻的文戏,以及一种很难在手机信息流里替代的,影院级场景仪式感。
你们觉得呢?
337




