💥不容小觑！英伟达悄悄开源Flare！纯Rust本地推理服务器，专治DGX Spark和Blackwell长对话+Agent！DeepSeek也能直接上！ 亮点直接拉满： 🔹运行时纯Rust，零Python开销 🔹内存提前规划 + 默认FP8 KV Cache 🔹CUDA Graph预捕获，启动后极速响应 🔹专为长上下文、工具调用、多轮Agent优化 🔹已内置DeepSeek配方 以DeepSeek V4.1 Flash 1017为例，关键操作步骤： 1️⃣克隆仓库并准备环境（Rust + uv + 依赖） 2️⃣用ignition导出运行时包：
python -m ignition export deepseek-v4.1-flash --gpus 0,1,2,3 --max-concurrency 4 --mtp-draft-tokens 5 --output dsv41.safetensors 3️⃣Rust引擎直接服务：
./flare run dsv41.safetensors --gpus 0,1,2,3 --port 8001 4️⃣（多机）4台Spark TP4部署，用orbit做集群服务，KV池可拉满超长上下文 这波NVIDIA明显在抢本地Agent赛道，和DeepSeek几乎同时出手，有意思。 仓库：github.com/NVIDIA/flare-loca… #NVIDIA #Flare #DeepSeek #V41Flash #本地推理 #DGXSpark #Blackwell #Agent #Rust #开源 #黄仁勋 #梁文峰