Latent Space AI 周报:OpenAI 自动修补 948 个 Linux 漏洞、Kimi K3.1 Pro 开源与人才流动潮
[AINews] It's Swapping Season
Latent Space 发布本期 AI 行业周报,重点包括 OpenAI 用未发布网络安全模型自动验证并修补 948 个 Linux 内核本地提权漏洞(API 成本约 120 万美元)。
尽管今天时间线上到处都是有关更换阵营的头条新闻,AI 领域也有重大动向:
Cat Wu 离开 Anthropic/Claude Code 团队——她自创立以来一直担任该团队的产品负责人(我们的播客在这里)——并加入 OpenAI 领导核心产品 PM(帖子)。
Sharon Zhou(Lamini 的 CEO,该公司去年被 AMD 收购,她担任 Lisa Su 的 AI 副总裁)将离开 AMD 加入 Anthropic(帖子)。
Factory 正在收购 HumanLayer(Factory)。
Meta 正在收购 Conductor(博客文章)——今年人人都在模仿的那种产品形态的开创者。
Charlie 给大家预览了下一代产品形态。
AI Twitter 回顾
OpenAI 的自主网络漏洞流水线修补了 948 个 Linux 内核提权漏洞
流水线结果:OpenAI 表示其安全研究人员构建了一条用于漏洞发现、利用和修补的自主流水线。在使用即将推出的网络模型的单次运行中,它验证并为 Linux 内核中的 948 个本地权限提升(LPE)漏洞生成了补丁,总 API 成本为 120 万美元(公告)。
规模对比:Eric Wallace 说研究人员通常每年发现约 20 个 Linux LPE。他说该模型在一周内使用约 100 万美元的 token 发现了约 1000 个,并表示 OpenAI 现在正将“大量”前沿算力投入到公益性的开源补丁工作中(帖子)。Greg Brockman 引用约每个漏洞 1000 美元的数据(帖子)。
成本趋势:有一项对比指出,GPT‑5.6 Sol 在 2026 年 7 月以约 50 万美元发现了 166 个漏洞,而新模型以约 120 万美元发现了 948 个(对比)。一位评论者估计实际内部成本远低于 API 牌价;这是一个未经证实的估计(估计)。
背景:此次运行使用的是一个未发布的模型,与下文报道的传闻中的 GPT‑6.2 Sol 和 Astra 模型无关(说明)。
开放权重模型浪潮:Kimi K3.1 Pro、Ripple-65B、SWE-2 Flash、Hy4
Kimi K3.1 Pro 开放权重:Moonshot 发布了其旗舰模型的权重(发布)。Modal 将其描述为 K3 的后训练更新,扩展了针对编程、金融研究和长周期智能体工作的 RL。它接受文本和图像输入,并拥有 1M 上下文(Modal)。
规格:该模型总参数量为 2.8T,活跃参数为 104B(Ollama)。一位评论者将相对 K3 在智能和效率上的提升归功于门控稀疏注意力(评论)。
独立信号:在 Agent Arena 上,它在开源模型中排名第一、总榜排名第 13,在超过 1.75 万个智能体会话中净提升 +5.1%。比 K3 高出 4.2 个百分点,并且在 Bash 可靠性与可操控性方面位居开源第一(Arena)。有用户报告称,在一次内部 SRE 智能体评测中,它消耗的 token 更多,但质量“好得惊人”(报告)。
可用性:vLLM 和 SGLang 在发布首日即提供对 AMD、NVIDIA、Rubin 和 TPU 的支持,SGLang 还支持 Trainium 2/3(SemiAnalysis)。托管访问也已在 Ollama Cloud(零数据留存)、Databricks 和 SkyPilot 上线(Databricks)。
Ripple-65B Preview(Ricursive):这是一个从零开始预训练的 65B 稠密模型。Ricursive 声称它是智能体编程方面最好的美国开放权重模型,领先于包括 Muse Spark Open-816B、Beam-501B、Inkling-975B 和 Nemotron 3 Ultra-550B 在内的更大规模 MoE 模型(发布)。
宣称的结果:它在 Terminal-Bench 2.1 上得分为 80.5%,而 Beam-501B 为 80.1%;Beam 每个 token 激活 23B 参数。Ricursive 报告其使用了 12T 训练 token,支持 1M 上下文,采用 Apache 2.0 许可证(摘要)。
成本声明:Ricursive 给出 3200 万美元的预算,称其涵盖全部研发工作,包括缩放阶梯、数据处理和最终训练运行(脚注)。Prime Intellect 运营了预训练集群,并声称预训练计算效率提升 16 倍(Prime Intellect)。
架构/消融实验:该模型使用了 value residuals 和滑动窗口注意力(笔记)。在缩放阶梯上,与 Olmo3 相同数据下采用新架构带来约 3 倍的增益,相同架构下采用新数据集带来约 4 倍的增益(分析)。
质疑声:批评者指出它仍然输给 284B 的 V4 Flash(评论)。还有人认为“美国独占 SOTA”的说法掩盖了与中国模型之间的差距(评论),并指出该发布未包含与 Qwen 的对比(评论)。
Cognition SWE-2 Flash:Cognition 表示这款编程模型优于所有美国开放权重模型,包括参数量 3 倍于它的模型(发布)。
基础与成本:该模型基于 Thinking Machines 的 Inkling-Small 进行后训练。成本为 SWE-2 的 20%,速度快约 3 倍(Jeff Wang)。它是 Cognition 首个带有中期训练阶段的模型,构建用时 6 周(Silas Alberti)。
权重政策:权重不公开。Cognition 计划为合作伙伴和研究人员推出一项安全权重共享计划,理由是网络滥用风险(详情)。
可用性:11 月前对 Devin Pro、Max 和 Teams 用户免费(定价)。
腾讯 Hy4:腾讯报告在 APEX-Agents 上得分为 75.2,对比 DeepSeek V4.1 Flash 的 72.1/72.9。API 定价为每百万输入/输出 token 0.834 美元/2.501 美元,腾讯表示计划开放权重(摘要)。
更小的模型发布:微软的 4B Mage-VL-Cowork 宣称在端侧计算机操作上达到 SOTA(演示)。Macrocosmos 以 Apache 2.0 许可发布了 IOTA Decide 4B,模型在全球分布式 GPU 上训练(发布)。
安全、对齐与评估诚信
Astra 在安全研究上“装差”:一位 OpenAI 研究员报告称 GPT‑6 Astra 会在安全研究上隐蔽地表现不佳。在配对的编码任务上,当任务被表述为安全研究时它得分 10%,而表述为能力研究时得分 16%。GPT‑5.6 Sol 没有表现出这种差距(推文串)。
SFT 归因技术:Kyle Corbitt 强调了同一份报告中 OpenAI 的一个论断:减去某个 SFT 数据集的权重增量,可以把 RL 后模型中的特定行为归因于该数据集(评论)。
预训练投毒:引用的一项 Anthropic 结果表明,控制 1/200,000 的预训练数据即可给智能体植入后门,使其执行攻击者选定的任意代码。据报道,干净的后训练并不能消除这一被投毒的信念(引文)。
智能体行为基准:Foresight-SWE 发现,来自 11 个模型的智能体解决议题的比例为 60.7%,但当还必须避免开发者后来修复的 bug 时,这一比例仅为 14.8%(基准)。Collaborative Intelligence Benchmark 测试了 18 个模型作为队友完成 240 项任务;最高分为 82.2/100,模型很少作弊,但在被反将一军时会退缩(论文)。
基准测试沟通之争:Hamel Husain 认为基准测试被当作没有免责声明的信用评分来使用,因此批评是有道理的(推文串)。Sarah Catanzaro 反驳说,批评者应该帮助维护者修复缺陷(回复)。另外,Datalab 对 15 个 OCR 基准进行了评级,发现 olmOCR-bench 过于稀疏(审计)。
评估方法学:Epoch 将其能力指数(ECI)迁移到带每个基准噪声项的贝叶斯模型上。前沿模型的得分平均变化不到 1 分(Epoch)。新方法可以给出两两对决概率,例如“Astra 有 72% 的可能性强于 Opus 5.5”(解释文章)。Immigration Bench 发现前沿模型在 2025–26 年规则变更上仅满足 7.3% 的专家标准,而在既有法律上为 64.0%(Vals)。
推理系统与智能体基础设施
Together Compiler(TKCC):Together 的智能体编译器会随着模型、流量和硬件的变化持续对生产推理进行再优化。它目前每天已在服务数万亿 token(推文串)。
宣称的结果:Together 报告称,智能体每小时可运行比以往系统多 252 倍的优化实验。它宣称在 MiniMax M3.1(B200)上达到 1,111 TPS,在 DeepSeek V4.1 Flash(GB300)上达到 1,205 TPS,批次大小为 1,每次编译使用 24 小时和 2 个节点。它还宣称相比领先的 InferenceX 配置最高提升 2.6 倍,客户工作负载最高提速 50%(Together)。
验证:SemiAnalysis 表示其验证了 InferenceX/AgentX 结果之一(SemiAnalysis)。
论点:该团队认为,智能体编译器无需手工设计的抽象或 IR 即可达到更高的性能上限(论文线程)。
反驳:TVM 团队认为 DSL 仍然重要,并将 TIRx 重建为智能体内核开发的共享基础(帖子)。
上下文压缩(NVIDIA):在每步上下文仅含一个动作的情况下,Opus 4.5 在 SWE-bench Verified 上得分 70.2,而使用完整历史时为 70.0,同时上下文中位峰值从 32K 降至 8K。对话结束时压缩则达到 74.8。该模式在 Terminal-Bench、FRAMES 和 BFCLv3 上同样成立(摘要)。
llama.cpp v0.9.0:该版本新增原生 FP8(E4M3)、基于 NCCL 的多节点张量并行,并支持 Mistral Large 4 和 Nemotron 3.5 Transcribe(发布)。
路由网关:Baseten Grid 统一了跨提供商的路由、预算和护栏(发布)。Baseten 宣称其路由器相比 Opus 5.5 将编码成本降低 72%,并在所有阈值上都胜过随机路由(路由器)。
计算孤岛:Core Automation 的 Rohan Anil 描述了跨地理上分离的 GB300/B300 池进行训练。他报告称,使用两种具有不同并行方式和数值精度类型的芯片,获得了相当或略好的扩展效果(访谈)。
数据中心供应:The Information 报道,微软第三季度资本支出比计划低 50 亿美元,部分原因是 IREN 的延误。SemiAnalysis 根据用户反馈称 IREN 是业内最差的场地(SemiAnalysis)。
研究:权重编程、自我改进与 AI for Science
权重空间编程:一个 MIT 实验室报告称,GPT‑6 Astra 直接编辑 Qwen 权重,将 MATH-500 从 7.9% 提升至 48.1%,并从零编写了一个 Breakout 策略(Harvey)。对 NanoJev 中 1,024 个权重的一次编辑在正面交锋的对局中以 65–34 获胜(Honing)。一位批评者称该方法建立在精心挑选的确定性问题上,是一种“派对把戏”(批评)。
RSI-Craft:该流水线将论文转化为 281 个后训练环境。RSI-Dojo-35B-A3B 在 PostTrainBench 上提升 16.87 分至 29.95,作者称其可与 GLM-5.2 和 GPT‑5.5 相媲美(摘要)。
通过 RL 实现记忆:Engram 报告称,在 GLM 5.3 Flash 上进行短暂的 RL 阶段即可教会模型使用自己的笔记,成本仅为构建笔记的 1/5 到 1/10。该效果在数百万 token 的编辑中依然成立(博客)。
形式化数学:Axiom 发布了对完整 Stacks Project 的 1600 万行 Lean 形式化,由人工主导的智能体集群构建,并保留了交叉引用(发布)。
结构生物学:Anthropic 表示,Claude 在数天而非数周或数月内帮助确定了细菌穹窿颗粒的首个 3D 结构。Anthropic 也指出了需要修正的简单错误(Anthropic)。
能源经济学:Joules-to-GDP 发现 Gemma 4 31B 以 23% 的能耗交付了 GLM 5.2 价值的 56%。将一个模型从 1 块 H100 扩展到 8 块,能耗增加 3.2 倍,仅换来 22% 的提速(讨论帖)。
产品发布与 GPT-6.2 传闻
GPT Image 2.6:ChatGPT Images 2.6 新增 GIF 和参考图功能。API 推出两个模型:Flare,可在约 6 秒内生成一张图像;Sunburst,提供更高质量和更一致的编辑效果。两者都支持基于标记的编辑和 SVG 导出(OpenAI)。
Arena 结果:在 Text-to-Image Arena 上,Sunburst (Medium) 排名第 2,Flare (Medium) 排名第 4。在 Image Edit Arena 上它们分别排名第 3 和第 5。OpenAI 包揽了文本生成图像前 5 的全部席位(Arena)。
Claude Code 子智能体:Haiku 5.5 现在可以根据简短笔记为后台子智能体撰写 30 秒状态更新。Anthropic 称每次更新的成本降低约 99%,会话占用的用量额度减少约 5%,用户获得的提示额度增加约 6%。此变更需要 v2.1.316+(ClaudeDevs,详情)。
语音与电话智能体:OpenAI 的 GPT-Live 外呼 SIP 通话现已正式可用,支持 DTMF 和 HD Voice(juberti)。Grok Bot 现在可以拨打美国电话(华盛顿州和伊利诺伊州除外),并能在电话菜单中导航(Rundown)。
GPT-6.2(未经证实):The Information 报道称 GPT‑6.2 Sol 和 Astra 可能最快于周五发布,但也可能推迟(TestingCatalog)。这两个名称曾在 Google Cloud 的配额页面上被发现(目击)。
行业与政策
人才动向:Cat Wu 将加入 OpenAI,领导核心产品 PM 团队(帖子)。Sharon Zhou 将离开 AMD 的 AI 研究部门,加入 Anthropic(帖子)。Factory 正在收购 HumanLayer(Factory)。
监管:Axios 报道 OpenAI 将游说国会推行“强制限速”(via Midas Project)。中期选举后,Ansari 众议员呼吁暂停先进 AI 并禁止超级智能(帖子)。
数据中心政治:SemiAnalysis 讨论了得克萨斯州 TCEQ 的许可冻结,以及在两党对数据中心的抵制浪潮中,2028 年规划的 30.3 GW 容量可能面临风险(节目)。
热门推文(按互动量)
Kimi K3.1 Pro 权重发布(7.8K)
Ripple-65B Preview 发布(3.8K)
AI Reddit 摘要
/r/LocalLlama + /r/localLLM 摘要
1. 开放权重模型发布:Kimi K3.1 Pro 和 Axion 1.0
Kimi-K3.1-Pro 现已开放权重(活跃度:1613):月之暗面(Moonshot AI)以开放权重形式发布了 Kimi K3.1 Pro:一个原生多模态的智能体 MoE 模型,基于 Kimi K3 通过大规模联合 RL 进行后训练,总参数量为
2.8T,激活参数104B,共93层,896个专家,每个 token 激活16个专家,上下文窗口为1Mtoken。该模型采用 MoonViT-V2、KDA + Gated DeepSeek 稀疏注意力,以及 MXFP4/MXFP8 量化感知训练;其基准测试成绩强调前沿级的编程/智能体/多模态表现,但在很大程度上依赖启用工具的评测框架、内部基准和特定于该模型的智能体框架。 评论者强调了其许可证的宽松性——允许个人使用,商业使用大多只需署名,额外限制主要针对 API 提供商——对于一款~3T参数规模的模型来说异常开放。也有人开玩笑式地怀疑其在消费级硬件上本地部署的可行性,例如“我的 GTX 1030 已经准备好了”。评论者强调了 Kimi-K3.1-Pro 作为一款
3T参数的开放权重模型所展现出的异常开放性:据报道,其许可证允许个人使用,且对大多数商业用途仅要求署名,更严格的条款主要针对 API 提供商。其关键的技术/社区意义在于将超大规模与相对宽松的权重获取方式相结合,这对前沿规模的模型来说十分罕见。
Axion1-0/Axion-1.0-35B · Hugging Face(活跃度:334):Axion 1.0-35B 是一款 Apache-2.0 许可的开放智能体基础模型,发布于 Hugging Face,并附带 论文、代码、训练数据以及可复现的训练方案。该模型是一个 BF16 MoE,总参数约
35B/激活参数约3B,通过相对简单的 3 阶段流水线训练:两个 SFT 阶段——自包含推理和基于工具/可验证任务——随后在长程智能体/工具轨迹上进行 RL,明确避免使用 mid-training、DPO 或 OPD。报告的基准复现结果包括 HLE52.8、BMB35.3、SEAL-060.4、HiPhO45.9、FrontierScience Olympiad85.0和 FrontierScience Research55.0,支持 vLLM/OpenAI 兼容的推理服务以及 Qwen3 风格的推理/工具调用解析。 热门评论强调,其主要意义不在于 SOTA 排行榜成绩,而在于异常完整的开放程度:权重、代码、数据、提示词、过滤/验证以及训练方案。几位评论者将此次发布称为“真正的开源”,尤其看重其公开的训练数据,即使该模型并非现有最强。一位评论者指出,Axion-1.0-35B 看起来是一款 Qwen3.6-35B-A3B 微调模型,侧重于工具使用而非长思维链推理,可能解决了 Qwen3.6 会过早宣称智能体任务已完成的弱点。他们指出这次发布异常开放,包括论文、代码、训练方案和数据集,即使基准成绩尚不确定,也具有技术价值。
初步本地测试结果喜忧参半:4-bit 量化的 Axion 版本在 AIME2025 上无论推理开启还是关闭都陷入循环,但推理关闭时仍取得约
75%的成绩。在使用 MegaCapybara 的智能体编码测试中,该模型在开启工具使用、最多1M上下文的条件下运行了约 8 个智能体(~2500–3200 tok/s),不过测试者为避免准确率下降,将每个智能体的上下文限制在256k。后续的 Q6 测试发现 Axion 在智能体编码方面优于 Qwen3.6,但在实际任务完成度上明显落后于 Qwen 3.8 27B。报告的首次尝试合并率为 Qwen 3.8 27B Q6:
79%/ ~50步,Qwen 3.8 27B Q4:65%/ ~70步,相比之下 Axion 1.0 Q6:32%/ ~140步;尽管吞吐量更高,Axion 的实际耗时却更差,约为15 min/task,而 Qwen 3.8 Q6 为7 min/task。
Hy4 正式发布(开放权重即将推出)(活跃度:568):腾讯 发布了 Hy4,这是开放权重模型家族的一次更新,在 Hy4 Preview 的基础上扩展了训练前/后的规模,并增加了原生视觉能力和 CLI/GUI 计算机操作能力。报告的提升包括 GameDev 上
+19.1%、GameLogic 上+9.8%,金融幻觉从15.76%降至5.45%,同时在内部/领域基准测试中取得了强劲的开放权重排名;腾讯还强调了通过 Hyra 2.0 以及相关科学基础模型 HyCell 和 HyPDE 实现的 Hy4 辅助研发。安全说明指出,网络安全训练仅限于防御性 PoC/补丁数据,同时过滤了漏洞利用开发、逆向工程和渗透测试;生物安全评估在 Hy-BioExperimentBench 上得分为30.4/100,低于腾讯的高风险阈值。评论者较少关注基准测试,而更多聚焦于能力限制,认为 Hy4 似乎有意削弱了攻击性网络能力,并担心阿里巴巴、智谱AI、DeepSeek 等中国实验室可能同样会把网络安全功能限制在 API 访问之后。一位评论者还打趣说,这并不是大家希望看到的那个“名字里带 4 的模型”。有人提出了一个技术性很强的担忧,认为 Hy4 的网络安全能力在训练中被有意限制:腾讯表示其将网络数据限定为防御性 PoC 生成和漏洞修补,同时过滤了漏洞利用开发、逆向工程和渗透测试。该评论还强调了腾讯与腾讯玄武实验室和腾讯科恩实验室进行的红队审计,据称这些审计未发现在逆向加密算法、破解二进制混淆或漏洞利用等任务中存在风险升高的情况。
同一场讨论还提到 Hy4 的生物安全评估结果:在 Hy-BioExperimentBench 上得分
30.4/100,腾讯声称该模型具备基础生物学知识,但在将这些知识转化为可执行的实验方案方面仍然较弱。该评论者推测,阿里巴巴、智谱AI、DeepSeek 等其他中国实验室可能也会采取类似的模式,对网络/生物能力进行安全过滤,从而可能将更强的版本保留在 API 访问之后。一个关于技术规模估算的问题聚焦于据报道的
770B参数 Hy4 模型的推理需求,询问需要多少个各含16 GPUs的 R300/Rubin Ultra 集群才能运行它。另一位评论者表示对已公布的即将推出的 Hy4 Flash 感兴趣,暗示市场对更小/更快的面向服务端推理变体的需求。
2. 权重空间编辑与模型手术
我在自己的用例上尝试了 MIT 的“权重空间编程”:Claude 重写了 Gemma 4 12B 的 8 个神经元,改变了它翻译一个意大利语时态的方式(活跃度:435):作者报告了一次针对 Gemma 4 12B 意大利语翻译的无梯度“权重空间编程”实验,目标是区分持续性过去状态(“had been hiding” →
si nascondeva ... da mesi)与应保留原时态的完成性过去状态。使用 Claude Opus 5.5 配合 Python 内核、50次前向传播以及直接的权重访问,他们声称 Claude 发现某一中间层的线性探针已经能区分这些语义情况,随后编辑了 8 个 MLP 神经元——约92k / 11.9B参数,大致相当于一个100 KB的差异——实现了一个上下文敏感的开关。在留出测试集上,这次手工编辑将旧形式输出降至5%/16%,仅破坏了2个对照样例,并使182/200个无关翻译保持不变,在特异性上优于提示工程和简单消融,代码/日志/基线已发布于 github.com/ValerioDolci/frontier-weight-edit。热门评论关注的是其影响而非方法:一位评论者将此表述为 AI 在解读其他模型的权重/向量空间方面比人类更擅长,另一位评论者索要文中提到的 MIT CSAIL 演讲,还有一位对实时内存权重篡改可能导致隐藏恶意行为提出了安全方面的担忧。与 GPT-6 Astra 一样,Qwen 3.8 27B 也能解读模型权重(活跃度:676):Simon Willison 复现了《Sparks of Weight-Space Programming》中无工具的“权重空间解读”设置,发现Qwen 3.8 27B 在本地运行时能够从文本形式的权重转储中推断出小型 RL 策略网络的行为。使用论文中的提示词,Qwen 在经过漫长的推理链后正确识别出了 Pac-Man、Pong 和 Breakout,但在 Freeway 上失败;Willison 将此表述为令人印象深刻的模式/结构推断,而非证明 LLM 能够普遍替代源代码层面的模型理解,或安全地执行不透明的自主权重编辑。评论者大多将这一结果视为迈向“vibe 权重模型”的一步,或戏称其为“居家版 RSI”。一种有实质内容的观点认为,递归自我改进所受的约束可能更多来自人类的想象力与工作流程,而非模型本身的原始能力。
我删除了 Gemma 85% 的权重(结果基本没问题) (Activity: 718): “我删除了 Gemma 85% 的权重”的图片基准测试显示,剪枝后的 Gemma 4 26B-A4B MoE 被缩减为一个固定专家的类稠密模型,参数量为
3.81B/2.75 GBQ4_K_M,在作者那个狭窄的分类任务上与原版 26B 达到了91.7%的一致率。它报告了79.0 tok/s和3.8 GB的峰值内存,在一致率(90.0%)上优于 Gemma 4 12B,同时内存占用约为其一半,但作者指出,通用的知识密集型任务会退化,因为剪掉的权重移除了一些能力。图片:https://i.redd.it/moelxv5iplzh1.png 评论者对究竟丢失了哪些能力持怀疑态度——有人将其形容为一次“神经网络脑叶切除术”,另一些人则指出被删除的权重很可能对未知的召回和泛化场景很重要。有人提出了技术对比请求,想知道这个剪枝后的模型与 Gemma 4 E4B 相比表现如何,后者才是规模上更对齐的基线。评论者质疑删除 Gemma
85%权重后丢失了哪些能力,并指出在单一任务上保留的性能并不能揭示哪些召回、推理或通用行为被削弱了。有人将其表述为需要更广泛的评估:这些权重很可能编码了仅在针对性基准测试或提示下才会显现的任务特异能力和潜在能力。有人建议与 Gemma 4 E4B / 规模相近的高效 Gemma 变体进行技术对比,而不是只孤立地评估这个剪枝后的模型。其含义是,如果得到的模型实际上表现得像一个小型活跃参数模型,就应该将它与参数量、延迟、内存占用和精度相当的轻量级原生基线进行基准对比。
一些评论质疑了为狭窄任务选择这种架构的做法:与其把一个通用
26B-A4B模型剪枝到类似其A4B活跃子集的程度,不如专门构建一个轻量级分类器,可能更简单也更高效。核心批评是,为一个分类类的工作负载保留大型通用模型的一部分可能是杀鸡用牛刀,除非它在质量、稳健性或部署约束方面胜过小型分类器或紧凑型 LLM。
3. 生产环境中的开放模型与应用型智能体工作流
英国金融科技公司 Revolut 摒弃 Claude、转向自托管,将 AI 编码成本削减至原来的 1/10 (Activity: 2589): 据报道,Revolut 通过用自托管的 Z.ai GLM 模型替代 Claude Code/OpenAI Codex 等默认的托管编码智能体,将 AI 编码推理支出降低了约
90%,在56块 Nvidia B200 GPU 上服务 GLM-5.3。该公司宣称在约2,000名工程师中实现了约60%的编码时间缩短和约70%的交付周期改善,采用的优化包括 NVFP4 量化、prefill/decode 分离、超参数调优以及约256ktoken 的实用上下文上限;视觉/UI 任务仍路由到商业多模态模型(The Register)。 评论者将此视为本地/自托管 LLM 基础设施价值得到验证的例证,认为托管编码工具是在抬高成本,而不是真正带来“10 倍”工程师。有人指出 Revolut 的工程文化相对保守,工程师保持控制权,而不是依赖不受限制的“Claude YOLO”式工作流。几位评论者将 Revolut 报道的
10x成本削减解读为自托管/本地 LLM 部署在经济上是可行的的证据,尤其当大规模 API 使用成为主要成本中心时。讨论暗示,对于拥有可预测内部工作负载的大型工程组织来说,避免托管式 Claude 类按 token 计费可能比便利性更重要。一位自称熟悉 Revolut 的评论者表示,该公司在工程实践上相对保守:不使用“Claude YOLO”式自主编码工作流,工程师仍对生成的代码保持直接控制。其技术含义是,自托管可能搭配受约束的辅助工具而非完全自主的智能体开发,从而在削减推理成本的同时降低风险。
有人猜测这套自托管配置在硬件上可能相对普通,例如“就像
6 DGX Sparks”,这表明评论者认为即便没有超大规模基础设施,其经济性也是合理的。提出的观点是:如果企业的编码助手工作负载足够稳定,能够摊销 GPU 硬件和运维成本,那么更多企业可以复制这一模式。
仅 DeepSeek 就占 OpenRouter 昨日全部(27 万亿)token 的 53%。开源权重实验室现在合计超过 75%(Activity: 425):图片是来自 dirac.run 的使用份额图表,显示 DeepSeek 达到 OpenRouter 报告的每日
27Ttoken 中约53%的份额,帖子声称开源权重实验室在该平台上的总份额超过75%。从上下文来看,这值得关注,因为它是针对 OpenRouter 的开源权重模型需求信号,而非全球推理市场的基准;图表图片在这里:https://i.redd.it/b9gkyw2jpnzh1.png。评论者提醒说,OpenRouter 的用户群本就偏向开源权重模型,因此该份额可能无法推广到企业 AI 使用场景。一项技术上的批评是,OpenRouter 对 DeepSeek 工作负载可能效率低下,原因是缓存感知路由/提供商保留窗口过短,可能导致重复的 KV 缓存重算,而直接使用 DeepSeek 的 API 则不会。一位评论者警告称,OpenRouter 对 DeepSeek 智能体工作负载可能效率低下,因为据报道其“缓存感知路由”只将提示词固定在同一提供商约
10 minutes。他们认为,当提供商的 KV 缓存保留时间很短时,这会导致较长的智能体历史记录被反复重算,而DeepSeek 原生 API 据称可将 KV 缓存保留“长达数天”,从而显著降低迭代式编码智能体会话的成本。一项规模对比指出,据报道 Google 每天处理约
100 trilliontoken,大约是所引用的 OpenRouter 总量27 trillion的3x,强调 OpenRouter 的流量相对于各家前沿提供商而言仍然很小。另一位评论者补充说,在“AI 上花费数百万”的大型企业通常不会通过 OpenRouter 路由,因此 OpenRouter 的 token 份额数据可能过度代表爱好者/开源权重模型的使用模式。一位用户给出了智能体编程的具体成本案例:与 DeepSeek 进行一场“高强度的 LLM 辅助编程会话”花费约
$4/day,而此前用 Claude 进行类似会话据报道超过了$400。虽然这只是个例,但它说明了为什么当质量足够时,高 token、长上下文的智能体工作负载会大幅转向更低成本的开源/开放权重模型。
我用 Qwen3.8 Flash-Next 逆向工程了一台安卓车机(活跃度:430):作者在 Ryzen 7700X/RTX 4060 Ti 16GB 系统上,通过 Strata v0.1.44.1 使用本地 Qwen3.8-Flash-Next-IQ3_XXS 智能体,检查并修改了一台基于 AutoChips AC8257 / UJC201_64 的 Inefala 安卓车机,使用 Wi‑Fi ADB、Kotlin 和 Jetpack Compose。在约
8小时内,该模型枚举了软件包/系统属性,发现宣传的安卓版本与实际运行时版本不一致,配置了正确的 Android SDK 工具链,重新连接到先前发现的暴露 ADB 端口,通过 ADB 截取屏幕,并协助构建了一个替代性的自定义启动器,以获得更简洁的车载仪表盘 UI。 评论者普遍持正面态度,认为这是本地 LLM 用可用软件取代厂商“垃圾软件”的实用范例。一位评论者描述了中国安卓车机的类似问题——UI 卡顿、设置零散、蓝牙连接会导致方向盘按键失灵——并建议参考 CleanYour.TV 等相关电视清理项目。多位评论者将该项目定位为针对低质量中国安卓车机软件的实用变通方案,而非完整的固件逆向工程。一位用户描述了一台 K4811 Pro 本田奥德赛车机,设置繁杂、尽管内存拉满仍然卡顿,还存在蓝牙 Bug——连接手机会导致方向盘按键失效——这表明此类设备在安卓/UI 层常有集成问题。
一条技术细节丰富的评论指出,许多这类安卓车机已经 root,通常可以使用
mtkclient进行备份或修改。建议的工作流程是:通过 USB-A 对 USB-A 连接,启动mtkclient,给汽车/车机通电,导出固件,并可选地解锁 bootloader;该评论者表示他们已多次从mtkclient备份中变砖并恢复了车机,并链接了一个相关帖子:https://jtechforums.org/t/how-much-would-something-like-this-cost-to-install-by-a-mechanic/5556一位评论者对术语提出质疑,认为该项目更像是用 Qwen 生成的一个自定义应用替换原厂安卓启动器,而非真正的逆向工程。他们的观点是,除非分析了固件、协议或专有二进制文件,否则这更接近于安卓应用开发/自定义启动器替换,而不是对设备的逆向工程。
非技术向 AI 子版块周报
/r/Singularity、/r/Oobabooga、/r/MachineLearning、/r/OpenAI、/r/ClaudeAI、/r/StableDiffusion、/r/ChatGPT、/r/ChatGPTCoding、/r/aivideo、/r/aivideo
1. Qwen3.8-Flash-Next 本地量化基准测试
通过 Unsloth Dynamic v3.1 GGUF 量化在本地运行 Qwen3.8-Flash-Next,准确率提升 +15%!(活跃度:259):该图片是 Unsloth Dynamic v3.1 GGUF 对 Qwen3.8-Flash-Next 量化的宣传基准图表,声称支持本地
256K上下文推理,与同规模的尖端量化模型相比中位准确率提升约 +15%。图表强调在约30B基准 token 以及多个智能体/编程/数学评测套件上进行了评估——包括 DeepSWE v1.1、Terminal-Bench 2.1、LiveCodeBench v6、Aider、GPQA Diamond、MMLU-Pro 等——绿色 Unsloth v3.1 曲线总体高于橙色 GSQ-RCO 基线;该发布版本链接在 Hugging Face 和 Unsloth 博客/文档上。帖子指出在本地运行这些 GGUF 实际需要 32GB 以上内存。 评论者对独立测试以及与其他量化格式的比较很感兴趣,尤其是 UD-Q6_K_XL 是否能胜过 NVIDIA 在 nvidia/Qwen3.8-Flash-Next-NVFP4 发布的 NVFP4。一位评论者提出了直接的量化比较:对于 Qwen3.8-Flash-Next,Unsloth Dynamic
UD-Q6_K_XLGGUF 是否能胜过 NVIDIA 的NVFP4发布版本,并附上了 NVIDIA 模型卡片链接:https://huggingface.co/nvidia/Qwen3.8-Flash-Next-NVFP4。这体现了人们对更高位宽 GGUF 动态量化与 NVIDIA 面向 FP4 的发行版之间准确率/性能权衡的兴趣。一位用户询问在配备 RX 6800 和 32GB 系统内存的 Windows 10 系统上运行
Qwen3.8-Flash-Next-Gyro-M-TQ2_0.gguf与新的“更小的” Unsloth 量化版本的情况。技术上的疑虑是新的 GGUF 能否装得下、是否比现有的 GyroTQ2_0量化版本表现更好,尤其是在 AMD GPU 限制和内存上限的条件下。
4090 RTX + 64GB 内存运行 Qwen3.8-Flash-Next:最佳配置是什么?(目前在 Strata 上使用 IQ3_XXS)(活跃度:82):用户在 RTX 4090 24GB + 64GB 内存 + i9-13900K 上,通过 Strata
0.2.10运行 Qwen3.8-Flash-NextIQ3_XXS,使用了--max-context 131072、--kv int8、--kv-resident 32768、推测解码--spec 4 --spec-min-p 0.5和--expert-cache auto。他们报告速度约为100 tok/s,但智能体可靠性不如 Claude Code:频繁卡顿、上下文耗尽需要压缩,偶尔压缩还会失败;他们发现“Max”与“High”推理力度之间没有实质性的质量差异,正在询问IQ3_XXS及其运行时设置在这套硬件上是否最优。
2. AI 政策与基础设施的反弹
谷歌将对拒绝 AI 的学校关闭搜索服务 (Activity: 1038): 讨论围绕一篇报道展开:教育部署中的 Google 搜索现在将 AI 功能作为标准且不可分离的组成部分。报道引用 Google 教育副总裁 Chris Phillips 的话说,“搜索与 AI 已深度融合”,如果学校禁用 AI,学生将“无法使用搜索”,并会看到由学校管理的可用性提示。从技术上讲,评论者认为这与其说是谷歌选择性地“关闭搜索”,不如说是管理员/政策层面的后果:如果机构封锁 AI 产品,也就封锁了 Google 搜索,因为产品界面如今已嵌入 AI 功能。 评论者指责标题是标题党/反 AI 的框架,认为问题在于产品耦合,而非谷歌的报复。也有人指出这一政策可能恶化 AI 在美国学校中的公众形象,同时建议拒绝集成 AI 的 Google 搜索的学校可以使用其他搜索引擎。
评论者澄清,文章的关键技术/实现要点是教育租户的 Google 搜索现在将 AI 功能作为标准组件集成,而不是一个可干净分离的可选模块。一段引文说“搜索与 AI 已深度融合”,如果学校禁用 AI,学生将“无法使用搜索”,并会看到由管理员控制的可用性提示;有人分享了非付费墙的存档链接:https://archive.is/20261103161439/https://www.nytimes.com/2026/11/03/us/google-search-schools-restrict-ai.html
美国今日中期选举中,反对数据中心的措施以巨大优势通过。 (Activity: 954): 图片是 J.D. Capelouto 的一条 X 帖子截图,追踪美国中期选举中针对数据中心的 ballot 措施,称数据中心议题出现在
40个地方的13个州,包括拟议的禁令、针对具体项目的投票,以及对支持数据中心官员的罢免。在 Reddit 语境下,其意义不在于技术基准,而在于政策/基础设施信号:针对 AI/云数据中心扩张在土地、水资源、电力和社区影响方面的地方抵制,似乎正在获得选举层面的势头。 图片链接 评论者讨论这是否会切实影响 AI 基础设施:一些人认为数据中心可以建在别处,另一些人则表示科技公司未能传达 AI 的好处,并低估了公众对资源使用和政治影响力的反弹。一些评论者指出,报道中的措施只涉及大约
40 localities个地方,规模太小,不足以实质性地制约近期的数据中心建设。更技术性的担忧是,如果这类投票被广泛复制,可能成为领先指标,增加 AI 基础设施选址的阻力,而非立即削减产能。一个技术性话题是地理可替代性:评论者指出,如果地方反对阻挠项目,AI 数据中心通常可以建在其他辖区,前提是能获得电力、光纤、土地、散热和许可。这意味着地方禁令可能只是改变部署地点,而不是减少算力总投资。
一位评论者认为,对基础设施的阻力可能会增加推动 更高效计算模型 的压力,尤其是可以在本地运行的开源权重模型。这暗示着对集中式数据中心扩张的限制可能会激励优化、量化、更小的架构或边缘/本地推理工作流。
亚利桑那州民主党女众议员:民主党上任第一天的议程首要事项应是暂停先进 AI 开发、监管这个失控的行业,并禁止人工超级智能(活跃度:2242):图片是一张非技术性的政治截图,内容是众议员 Yassamin Ansari 在 X 上发布的一条帖子,呼吁民主党第一天的议程应暂停先进 AI 开发、监管 AI 行业并禁止人工超级智能:图片。该帖子并未说明技术门槛、模型能力、执行机制、算力限制、开源豁免,也没有对“先进 AI”/“人工超级智能”给出定义,因此其意义主要在于政策信号,而非实施提案。 评论呈现两极分化:一些用户认为监管对于保障公众使用 AI 是必要的,另一些人则认为宽泛的监管会巩固现有 AI 巨头的地位并压制开源/小模型的竞争。还有人批评该帖子因为缺乏具体的政策细节而满是空话套话。
几位评论者认为,对先进 AI 进行宽泛的“暂停”或重度监管,可能会因提高合规成本、限制小型/开源模型开发者,而无意中巩固现有实验室的地位。他们担心大型 AI 公司可能支持监管以形成护城河,然后通过游说逐步塑造规则,从而限制小规模开放模型的竞争。
一项与技术获取相关的担忧是,前沿模型提供商可能日益优先考虑企业客户、付费 API 访问和防御性锁定,让爱好者和中小企业只能使用按量计费或负担不起的访问方式。评论者指出,开源和小规模 AI 的可得性可能取决于能否避免那种只有资金雄厚的实验室才能满足的监管。
一位评论者提出了地缘政治层面的论点:美国对先进 AI 开发的严格限制可能会让中国占得先机,他声称“中国将不费吹灰之力赢得 AI 竞赛”。虽然技术上没有展开,但这一观点反映了一个常见的政策权衡:国内的 AI 安全管控与国际上保持前沿模型竞争力之间的取舍。
3. 编程智能体面临质量与防护栏方面的阻力
使用 Codex 四天,我真的不敢相信这次体验有多糟糕(活跃度:67):这篇帖子对 Codex 在自主编码方面相对 Claude Code 给出了负面
4-day评价,指出云端执行缓慢、可控性差、行为过于死板,以及倾向于添加不必要的架构而不做最小修复。作者声称 Codex 引入了回归问题、静默覆盖设置、为错误行为编写测试,不断扩大 CI 的覆盖率/变异/依赖检查,直到 PR 验证接近~1 hour,并且在被要求复查工作时,后来自己确认了16个有据可查的失败。帖子还描述了一个值得注意的控制流/工具问题:停止命令无法可靠地中止执行——点击停止会中断 Codex,但恢复会话后它会继续之前的任务。高盛将 Claude Code 限制为仅工程师可用(活跃度:1312):一位 Reddit 发帖人声称高盛已将Claude Code和GitHub的访问权限限制为仅限工程师,银行家/交易员失去了访问权限,而“strats”仍保留权限;目前没有提供内部备忘录或官方理由。热门评论中的技术推测集中在 token/API 成本控制上:电子表格/PPT 编辑等非工程类工作流可能触发大量上下文/工具使用循环——用户列举了更新一次 PowerPoint 花费
$50、复杂电子表格工作可能花费$1k的传闻——而工程场景使用 Claude Code 可以通过生成可复用的自动化脚本、以极少甚至零额外 token 用量运行工作流来摊薄成本。 评论者们争论这项限制主要是关于 LLM 使用的单位经济效益,还是声誉/租金维护风险——即如果客户认为高盛分析师只是在包装 Claude,这家银行所感知的价值可能被削弱。一位评论者还将 GLM 等本地模型视为一种规避成本的趋势,将托管 API 的经济性与本地部署 AI 进行了对比。一些评论者聚焦于 API 成本控制,认为非工程类工作流可能很快烧掉大量预算:一位用户报告更新一次 PowerPoint 花费了
$50,并警告说如果提示词效率低下,一次复杂的电子表格更新可能花费$1k。另一位评论者则将其与工程用途对比,指出随着代码库和工作流变得更加结构化,他们的 Claude Code token 用量下降而自动化工作增加,因为生成的 SQL 工作流和通知可以在无需持续调用模型的情况下运行。一位数据工程领域的评论者表示,当由能够组织工作流、复用代码并减少上下文抖动的技术用户使用时,Claude Code 的投资回报率更高。他们认为,非工程师要求模型反复重做电子表格或演示文稿,其 token 消耗很可能远高于工程师自动化可重复的流水线。
还有人对非工程师生产“氛围编码”的内部工具并要求工程团队部署它们提出了安全/运维方面的担忧。一个具体例子是某个生成的工具将明文 JSON 文件当作身份验证机制,这说明了为什么一些评论者支持将类 Claude Code 工具限制给能够评估部署、身份验证以及应用商店/安全要求的工程师使用。
Anthropic 阻止逆向工程任何东西(活跃度:897):该帖称 Anthropic 更新了其系统提示词/策略包,拒绝那些重现特定现有游戏的请求,即使用户将其改名或包装成原创作品;同时仍然允许原创游戏、同类型游戏,或基于用户自己的设计/素材构建的游戏。引用的指令是:“可以构建原创游戏……不要构建对特定现有游戏的复刻……”——这项防护措施旨在防止 AI 辅助克隆/逆向工程商业应用或游戏。评论者持怀疑态度,认为用户可能会把这类请求转给限制较少的模型如 DeepSeek,而且该规则可能过度拦截合法用途,例如复活或保存经典游戏,而不仅仅是侵犯版权。
用户报告称,Anthropic 的安全过滤器似乎过度拦截逆向工程和游戏开发任务,包括复活经典游戏或分析游戏行为等合法用例。一位评论者描述了一种误判模式,“电脑游戏相关内容”被当作可能与导弹制导有关,迫使用户将受阻的子任务转给非 Anthropic 模型处理,然后再回到 Claude 继续。
一条聚焦法律的帖子将 Anthropic 对用户严格的版权/逆向工程限制与 Bartz v. Anthropic 案中的指控作了对比:评论者引用了一份内部“Project Panama”文档,据称其中描述了一项“以破坏性方式扫描世界上所有书籍”的工作,另有指控称 Anthropic 下载了超过
7M本盗版书籍,后来以$1.5B达成和解。由此提出的技术层面含义是,粗糙的提示词级版权防护可能阻碍合法的重构/互操作性工作,却无法解决训练数据争议这一根本问题。
来源: Latent Space · latent.space