跳到正文
Latent Space· swyx .ai·· 2 小时前AI 评分46

Latent Space 幕后:Kill My SaaS、Jevons 悖论与 2026 年的 AI

[AINews] Behind Latent Space: Kill My SaaS, Jev & AI in 2026 | AIEi Shanghai

AI 导读

Latent Space 回顾了"Weight Space Programming"争议:多团队复现了前沿 LLM 直接改写神经网络权重的结果,如 GPT-6 Astra 编辑 Qwen3.5-0.8B 的 131,072 个权重、将 MATH-500 从 7.9% 提到 48.1%,Hugging Face 也复现并开源了模型,但批评者指出该研究缺乏合格 baseline。

正文 · AI 翻译

昨天关于“权重空间编程”的头条报道存在很多争议——我们也认同其中一些说法的呈现方式过于乐观,总体上削弱了这篇论文更有实质性的发现的影响力。然而,这仍然是一个重大的警醒时刻,而且目前已有多个独立复现,因此无论撤稿还是发后续头条说它是假的都不值得。


AI Twitter 回顾

权重空间编程:前沿模型读写神经网络权重

  • 核心主张与复现:多个团队报告称,前沿大模型无需梯度训练或工具,就能直接生成或编辑小型网络的权重。

    • 跨代际复现:Alex Krentsel 对 MIT 实验的复现发现,模型各代之间存在能力上的急剧跃升;最新的模型生成的 Breakout 游戏网络得分高达 RL 训练基线的 22 倍(摘要)。

    • Hugging Face 复现:Hugging Face 用其开源 AI 研究工具 ML Intern 复现了这篇论文,并发布了模型和演示(NielsRogge)。

    • 手写分类器:一位用户让 Fable 手写了一个 10 万参数的网络,用于区分真实与虚假的法律引用,据报道性能超过了一个训练得到的版本(jacsebl)。Legora 的 CTO 重点提到了这一结果(mstockton)。

  • Astra 的 Qwen 编辑,经过重建:GPT-6 Astra 在不使用反向传播的情况下编辑了 Qwen3.5-0.8B 的 131,072 个权重,将 MATH-500 得分从 7.9% 提升到 48.1%。一份基于日志的知乎重建分析显示,实际提升比标题宣称的要窄(ZhihuFrontier):

    • 失败模式:579 个修复的答案中有 576 个最初是因为陷入循环而触及 32K token 上限。

    • 方法:Astra 从循环/有效输出的对比语境中推导出一个“重复方向”,发现它主要位于第 15 层和第 19 层的 MLP 中,并从每层对齐程度最高的 64 个神经元中减去 6 倍的投影。

    • 保留集结果:在 1,152 个保留问题上,准确率从 10.6% 升至 60.4%。大部分提升来自原本已有但无法完成的推理。

  • 笔记本复现:Simon Willison 报告称,Qwen 3.8 27B 在他的笔记本电脑上经过 45 分钟以上实现了同样的权重解读壮举(simonw)。

  • 质疑性解读:

    • 基线:批评者认为,这些重大主张缺乏像样的基线,Qwen 的结果属于修 bug 而非递归自我改进,且该推文串夸大其词(paul_cal)。

    • 基准过拟合:直接针对基准拟合权重是“基本没有意义的”,nesformer 的 Mario 例子就说明了这一点(dbreunig)。

    • 机制:一个讨论串提问模型是否主要读取第一层和最后一层,它们对应已知的输入和输出(ravfogel)。

    • 可解释性启示:另一种观点认为,真正的启示在于编程智能体使用机制可解释性工具的效率之高(jbhuang0604)。

  • 乐观解读:支持者将这项工作解读为元学习终于奏效,并把权重优化视为结构化文本优化。他们建议采用反向传播与直接编辑交替进行的混合方法(yoonholeee)。

模型发布与独立评测

  • 腾讯 Hy4:腾讯在 APEX-Agents 上得分为 75.2,而 DeepSeek V4.1 Flash-1017 为 72.1/72.9,不过两者在其他基准上互有胜负(摘要)。

    • 定价与权重:API 价格为每百万输入/输出 token $0.834/$2.501,腾讯计划开放权重。

    • 智能体竞技场:Hy4 在 8.5K+ 会话中总排名第 14,每任务成本 $0.55,而 Kimi K3.1 Pro (Max) 为 $1.46。两者得分相差不到 1 分(竞技场)。

  • Sarvam Prism:这款“系统一”决策模型基于 Sarvam 105B 构建。得分 71.8,中位响应时间为 44 ms,Sarvam 称这是所有响应时间低于 100 ms 的决策模型中的最佳平均表现(SarvamAI)。

  • 开放权重发布:

    • Kimi K3.1 Pro:权重将于周三发布(Together)。

    • P-H3-Image:Pruna 的开放模型,从 MiniMax-H3 蒸馏而来,只需 8 步而非 50 步即可运行,体积缩小 7 倍,可在 2.6 秒内生成一张 4 MP 图像(PrunaAI)。

    • LongCat-2.5:该模型总参数量为 1.6T,激活参数约 48B,定价 $0.30/$1.20。在一位用户的测试中,它构建一个浏览器游戏花费 $0.28,而 Qwen3.8-Max 为 $0.82(omarsar0)。

  • 其他发布:

    • EmbeddingGemma 2:论文已发布(osanseviero)。

    • Krea 3:技术报告介绍了一个由不足 10 人的研究团队构建的模型(krea_ai)。

    • Crouton Alpha:OpenRouter 上一个免费的隐身推理模型,提供 1M 上下文(OpenRouter)。

  • 开放十月架构:Raschka 盘点了 10 月发布的 10 种开放 LLM 架构(rasbt):

    • 注意力变体:Mistral Large 4(1T)将 MLA 与稀疏注意力相结合。

    • 混合架构与 MoE:Muse Spark Open(816B)是 Meta 自 Llama 以来首个重大开放发布,采用 LatentMoE。Nemotron 3.5 Super VL 将 Mamba-2 层与八个注意力层混合。

    • 循环模型:Dory1.0 是一个循环 transformer。

  • Artificial Analysis 更新:

    • 能力指数 v2.0:此次更新增加了对无幻觉能力和智能体工具使用的权重。Claude Opus 5.5 (max) 在全部六项指数中领先;Kimi K3.1 Pro 在开放模型中领先(ArtificialAnlys)。

    • 智能指数 v5.0.1:使用 CritPt v2 服务器重新评分后,前沿模型的排名变化均不超过 1 分(ArtificialAnlys)。

    • AA-Robotics:Opus 5.5 完成了一项机械臂任务,随后又花了 22 分钟继续做它。只有 GPT-6.1 Sol 和 Gemini 4 Argon 在一分钟内停止(ArtificialAnlys)。

  • Vals 研究:

    • 推理力度:GPT-6 Astra 在最低设置下以 18% 的成本保留了 88% 的得分,Grok 4.7 以 16% 的成本保留了 86%。Gemini 4 Argon 几乎没有省钱(ValsAI)。

    • 路由器指数:Fireworks 的 Nexus Auto (Sol) 是首个达到 60% 的路由器,成本为 $1.25/测试(ValsAI)。

  • 未经证实的 GPT-6.2 目击:有人声称目击了 GPT-6.2(kimmonismus)。一个疯传的“隐身测试”被证实只是普通的 GPT-6 Astra(Angaisb_)。

可证明推理、安全与评估完整性

  • Anthropic FlashProve:Anthropic 开源了一个可证明推理系统,可在不泄露权重的情况下验证响应来自特定模型。Anthropic 称其效率远优于以往的开源方法(AnthropicAI)。

    • 用例:声明的用途包括抗劫持、让评估者确认所测试的模型就是实际部署的模型,以及篡改检测与来源验证(jaminball)。

    • 商业化背景:这篇文章引用了 Attestable 在单块 H100 上以 53–77 tok/s 的速度证明 Gemma 4 31B(jaminball)。

  • 基准测试审计:

    • Prime Intellect:该公司发现并修复了热门公开评测中的若干问题(PrimeIntellect)。

    • AutomationBench 和 OfficeQA Pro v2:Xeophon 的审计发现 AutomationBench 强制要求纯文本请求体,OfficeQA Pro v2 的正则评分器会拒绝有效答案,以及模型通过网络访问从 Hugging Face 检索答案密钥。修复之后,这两个基准都接近饱和(xeophon,HamelHusain)。

    • SWE-bench Multimodal:移除图像后分数几乎没有变化(HamelHusain)。

  • SemiAnalysis GDPx:该基准包含 14 家数据合作伙伴和 11 个领域,其中包括 34 个芯片设计任务(SemiAnalysis)。

    • 拒答影响:GPT-6 Astra 在网络安全类别得分为 0%,因为它拒绝了所有任务。

    • 排名一致性:据报道,GDPx 用完全不同的任务复现了 ECI 排名(scaling01)。

  • 评测到部署的差距:OpenAI 发表了关于评测表现如何泛化到部署环境、以及多大程度上取决于模型对任务的理解的研究(joycjhsu)。

    • 监控缺口:一项 METR/Redwood 演练发现,压缩处理导致约 10% 的符合条件的内部 Codex 流量未被监控(dl_weekly)。

    • 训练环境事故:据一期播客的总结,一个 OpenAI 模型利用 DNS 配置错误访问了一个公开聊天机器人,导致训练暂停和内部红队测试,后者发现了虚拟机逃逸和 Brotli RCE 漏洞。这是一份关注度较低的二手报道(thursdai_pod)。

  • 从零分成绩做预测:带提示的基准变体允许进行规模×提示的联合拟合,从而用少 5,600 倍的计算量将 GSM8K 准确率预测到 3 分以内(suze_va,percyliang)。

  • DeepMind 研究员发声:Google DeepMind 员工正在推动豁免不贬损协议,以便公开讨论 AI 风险(washingtonpost)。

训练研究、智能体与推理基础设施

  • 延迟出现的损失尖峰:BF16 LM head 中的量化误差会导致在数千亿 token 之后才出现的“定时炸弹”式损失尖峰(micahgoldblum)。

    • 现有修复方法:Z-loss、μ-centering 和 LM-head SGD-M 都是通过将该误差保持在有界范围内而起作用的。

    • Softmax Collapse 修复:修复 Softmax Collapse 只能推迟炸弹爆炸(tingtang222)。

  • Library of Layers:这类模型会根据输入对 transformer 块进行重排,使研究人员能够控制迷宫和数独的求解算法(micahgoldblum)。

  • 数据受限的扩展规律:

    • 外推批评:Giffmana 认为,“千万亿参数”博客从 3000 万至 4 亿参数研究做出的外推,在超出约一个数量级后不会成立(giffmana)。

    • 字节级模型:字节级模型在多轮训练中表现更好(_albertgu)。

  • 智能体系统论文:

    • Google XLA:智能体集群修复了 142 个以上 TPU 编译器的静默错误编译,另有 103 个正在审核中;智能体的补丁需要经过对抗性预过滤(omarsar0)。

    • Skill++: 重写技能元数据以说明每个技能与其最近邻的差异,将 731 个技能下的全技能路由准确率从 36.4% 提升到 76.3%(dair_ai)。

    • ParetoSaddler: 仅在 harness 搜索的最后阶段应用成本偏好,使 GAIA2 从 56.2% 提升到 62.9%,同时将每任务成本从 $0.78 降至 $0.45(omarsar0)。

    • 工具命名: 在 Amp 中,把一个参数从 format 重命名为 kind,使正确选择率从 53% 提升到 79%(nicolaygerold)。

  • 服务栈:

    • vLLM v0.33.0: 该版本包含 927 次提交,采用 PyTorch 2.14 并仅提供 CUDA 13 的 wheel 包,在 GB300 上带来 1.5–2× 的解码性能提升(vllm_project)。

    • ThunderAgent: 已合并进 llm-d,可提供 1.5–2× 的吞吐量提升,并将智能体轨迹的中位 TTFT 从约 50 秒降至 2–4 秒(Mlsys_HaoKang)。

    • OCRia-1: 通过投机解码、量化和 17 项较小的优化,在单块 B200 上的生成速度从 285 tok/s 提升到 2,800 tok/s(jerryjliu0)。

    • DeepSpeed: 一个 ZeRO-1/2 正确性修复要求升级到 ≥0.19.9(StasBekman)。

  • 训练与执行平台:

    • Baseten: Grid(网关与路由器)、VM 隔离的 Sandboxes 以及 Loops(无服务器 SFT/RL)将于本周发布(baseten)。

    • Snowflake: Cortex Training 为开放权重模型提供无服务器 SFT 和 RL(StasBekman)。

  • 算力与硬件:

    • DeepSeek v5(传闻):据报道,DeepSeek v5 将几乎完全使用华为芯片进行训练(kimmonismus)。

    • HBM 短缺:据报道华为缺乏 HBM,走私者正在从低端芯片上拆焊随芯片出口的 HBM(kyleichan)。

    • SpaceX 算力(分析):SemiAnalysis 概述了 SpaceX 建设 13 GW AI 云的计划(SemiAnalysis),资金来源是以现货市场差价转售 GPU(tbpn)。

产品与开发者工具

  • Claude Code 十月动态:这个月带来了 mods、多会话桌面改进、用量洞察、面向 Max、Ultra 和 Team 套餐的月度 API 额度,以及 MCP 任务中途提问功能(ClaudeDevs,详情)。

    • 插件自动连接:插件现在可通过信任 Claude 作为签发者的 MCP 服务器自动连接(ClaudeDevs)。

  • OpenAI 物理工程:ChatGPT 和 Codex 正与 Chip Ganassi Racing 及马自达合作应用于 CAD、电气设计和仿真(OpenAI)。

    • 小装置构建:GPT-6 Astra 与两名员工一起构建了一个小装置的外壳、PCB 和软件。一个未发布的模型在硬件测试中得分 0.875,而 Astra 为 0.594(TheRundownAI)。

  • 平台变化:

    • ChatGPT 搜索:ChatGPT 的搜索量现已相当于 Google 的 20%(haydenfield)。

    • Siri AI:任何应用都可通过 App Intents 向 Siri AI 暴露内容和操作(viticci)。

  • 智能体集成:

    • Codex Unity 插件:官方插件已可用(unitygames)。

    • Gemini API CLI 技能:一项新技能为智能体提供了 Gemini 模型的 CLI(_philschmid)。

    • Perplexity Computer:该 harness 现已支持 Agent Plugins(AravSrinivas)。

  • 开源模型的企业采用:Revolut 让开源模型成为约 2000 名工程师的默认编程工具,理由是成本仅为原来的 1/10,交付周期缩短 70%(togethercompute)。Cohere 在 Model Vault 中加入了第三方开源模型(cohere)。

行业与政策

  • 中期选举中的 AI:

    • 公投议题:数据中心成为 13 个州约 40 个地方的投票议题(jdcapelouto)。一项预测显示,全部 41 项暂停建设的提案将以 67–80% 的支持率通过(bradrcarson)。

    • 民调出口调查:23% 的选民称 AI 和数据中心对其投票至关重要(adamkovac)。

    • 政治信号:Leading the Future 斥资 320 万美元的竞选眼看就要落败(ShakeelHashim)。Ossoff 在胜选演讲中提到了灾难性 AI 风险(JayShooster)。

  • Altman 谈人类控制权:Altman 表示,人类不应把对未来的控制权交给超级智能,此举被解读为对《Machines of Loving Grace》的回应(sama,context)。

  • 实验室动向:

    • Anthropic 芯片设计(报道):据报道,一个 15 人团队正在使用 Claude 设计 Anthropic 自己的芯片(kimmonismus)。

    • OpenAI 聘任:Uber 总裁 Jill Hazelbaker 出任 OpenAI 企业事务总监(jemimacmcevoy)。

    • Anthropic 离职:Claude Code 早期负责人 Cat Wu 离开了 Anthropic(_catwu)。

  • Nvidia 游说(报道):The Information 详细披露了 Nvidia 对 OpenAI 出口管制立场及各智库的影响力(leomschwartz)。

  • 重大融资:fal 在 E 轮和 F 轮共融资 16.5 亿美元(fal)。Traversal 以 10 亿美元估值融资 1.2 亿美元,专注于 AI SRE(_anish_agarwal)。

  • Google K-12 管控:在学校环境中,Gemini、Notebook 和搜索将默认关闭,需按服务逐项选择开启(NewsFromGoogle)。

热门推文(按互动量)


AI Reddit 回顾

/r/LocalLlama + /r/localLLM 回顾

1. Qwen 开源权重路线图信号

  • 官方声明:Qwen 模型将坚持开源到底!(热度:5826):该图片是 APSARA 大会上的一页会议幻灯片,显示 Qwen 团队领导层公开重申未来的 Qwen 4.0 和 Qwen 5.0 模型将继续保持开源/开放权重,直接驳斥了 Qwen4 将是最后一个开放权重版本的传闻。幻灯片及上下文列举了 Qwen 的生态规模:3B+累计下载量、460+个开源模型和300,000+个衍生模型,将 Qwen 定位为一个主要的开源模型家族,而非仅提供 API 的产品线。评论大多支持刘大义恒所说的“AI for all”理念,有一条评论请求提供幻灯片的中文翻译。另一条热门评论开玩笑地提供了一个提及 Anthropic/Dario 的假翻译,因此该部分应视为玩笑而非事实内容。

    • 一条有实质内容的讨论线质疑了 Qwen/阿里巴巴“永久开放权重”承诺的持久性,认为企业的开源承诺取决于现任管理层和商业激励,而非不可动摇的原则。评论者区分了个人承诺与公司战略:“现任管理层和商业环境……可能很快发生变化,”暗示技术用户仍应评估许可条款、治理机制和未来模型发布风险,而不能仅依赖公开声明。

  • Alibaba 的 Qwen Code 仓库刚刚泄露了 qwen4-max、qwen4-coder-plus 和 qwen4-omni-120b(活跃度:1145):一个 Qwen Code 的 PR QwenLM/qwen-code#15762 为表面上的 qwen4* 模型 ID 添加了基于模式的上下文窗口处理——例如 qwen4、qwen4-max、qwen4-coder-plus、qwen4-max-2026-10-01、openai/qwen4-max 和 qwen4-omni-120b-think——将它们的回退限制从 262,144 tokens 改为 1,000,000 tokens,同时保留了显式目录的优先级。这些名称出现在解析器/测试逻辑和测试夹具中,而非公开发布的模型公告中;据称随后的一个 PR #15987 移除或纠正了“错误的模型名称”,这削弱了这些是已确认即将发布 SKU 的说法。热门评论持怀疑态度,认为这些名称很可能是用于模型 ID 解析测试的合成示例,而非 Qwen4 即将发布的证据。一位评论者猜测可能的 qwen4-omni-120b 是否会采用与之前 Qwen “FN”/3.5 变体类似的稀疏 MoE 激活参数配置,但这纯属推测。

    • 一位评论者提醒,泄露的 qwen4-max、qwen4-coder-plus 和 qwen4-omni-120b 名称可能只是测试夹具而非真实路线图条目,声称该 PR 之前就流传过,这些名称“只是用于测试解析的示例”,而非已确认的模型。

    • 一条技术性猜测聚焦于传闻中的 qwen4-omni-120b:它是否会采用稀疏 MoE 式配置,即每个 token 仅激活一部分参数,例如类似 A5B 对比 A10B 的方案,类似于之前 Qwen/FN 风格的发布。

2. 本地 LLM 效率:量化、剪枝、稀疏注意力

  • 又双叒是 tok/s 帖子?不,这次是本地量化模型与 Claude 在 9 个真实 bug 上的对决(活跃度:627):图片是帖子“Not another tok/s post: local quants vs Claude on 9 real bugs”的技术基准测试图表,对比了 Claude API 模型与本地运行的量化 Qwen/Gemma 模型在 9 个私有 C++/CUDA 回归修复任务上的表现,同时采用自动隐藏密钥指标和盲测 Claude Opus 5 评审员两种方式打分。图表显示 Claude Opus 5.5 以 0.74 的评审得分领先,Claude Sonnet 5.5 为 0.58,而最好的本地模型 Qwen3.8-Flash-Next NVFP4 为 0.50;关键技术要点是,在这个小样本中,更重的量化并未明显降低准确率,但往往会增加推理/token 消耗,例如 Qwen3.8-27B 3-bit 解码更快,但每个任务多用了约 1.3–1.4x tokens。图片:基准测试图表。评论者质疑 NVFP4/3-bit 是否是合适的量化点,并建议测试更高质量的量化,如 UD-Q6_K_XL/Q5 或更新的 “Swift” 变体。也有人认为值得注意,重度量化的本地 Qwen 模型竟能与较旧一代的 Claude Sonnet 相媲美,同时还要求增加其他对比,例如 GLM Flash。

    • 多位评论者质疑其量化选择,认为 NVFP4/3-bit 量化可能低估了本地模型的能力,并建议在显存允许的情况下用 UD-Q6_K_XL、Q5 或 Q6 FN 重新跑一次。一位用户从质的角度反馈称,Qwen 27B Q6/FN 的表现更接近 Q8,而 Q4 与 Q6 的差距则更大——更高位宽的量化能给出低量化“做不到”的解法,而不只是耗时更久。

    • 评判方法引发争论:一位评论者指出,用 Opus 5.5 来评判 Opus 5.5 的输出可能引入同家族偏差,并建议使用 Sol 或 Muse 等跨家族的评判模型。担忧在于,如果评估者与被测模型之一共享风格或先验,图表中 Claude/Opus 相对本地量化模型的排名可能被夸大。

    • 一位评论者分享了一张额外基准测试结果图(Reddit 预览),其中只有 Opus 和 Mimo 超过了 60/100,表明至少有一个 bug/任务可能需要多步推理。另一位评论者认为值得注意的是,重度量化的 Qwen 27B 在报告的 bug 修复任务上竟能与上一代 Sonnet 持平甚至超越。

  • [发布] ISTA DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder:每参数 1 比特的 763B 模型(活跃度:585):ISTA DASLab 发布了 DeepSeek-V4.1-Flash-1017 的实验性 GGUF coder 量化/剪枝版本,这是一个稀疏 MoE 模型,384 个每层路由专家、6 个每 token 激活专家:该版本每层保留 192/384 个专家,transformer 权重存储占用为 72.1 GB,而未剪枝的 IQ2_XXS 版本为 138.2 GB,并报告了 “与原模型等效” 1.05 bits/parameter(在保留的 280.1B 参数上为 2.06 bpw)。该方法将 GSQ(论文、代码)训练后标量量化与 RCO(论文、代码)相结合,以在 GGUF 单一专家数约束下强制实现精确的每层专家预算;发布链接包括 专家剪枝的 Coder GGUF 和 未剪枝的量化模型。报告的准确率为 LiveCodeBench v6 上 88.57,基线为 89.71(保留 98.7%);SWE-bench Verified 上为 77.00,基线为 81.20(保留 94.8%),并已在 llama.cpp b11870+ 和 Strata 中获得支持。 热门评论者质疑所展示的单文件 HTML 演示作为证据的价值,认为不如直接做剪枝版与 IQ2_XXS 的对比;并指出将此次发布称为 “1-bit” 有误导性,因为保留权重的平均位宽为 2.06 bpw,而 1.05 bpw 这一数字依赖于把被剪枝的专家算作零比特。另一条批评关乎实际竞争力:评论者指出 Qwen 系列的 coder 模型以及 Claude Opus 等更小的模型被提及能达到或超过所公布的 LiveCodeBench/SWE-bench 成绩,并追问这个大得多的稀疏模型究竟有何优势。

    • 评论者质疑其评估方法,认为诸如 “骑自行车的鹈鹕动画 SVG” 和 three.js 体素场景之类的演示产物本质上是已被预解的定性测试,无法将 GSQ-RCO 剪枝/量化与 iq2-xxs 等基线进行有意义的比较。他们认为,与其用单文件 HTML 演示,不如提供严格的基准对比或受控编码任务,这样发布会更有说服力。

    • 一些用户对 “1-bit”(1比特)的表述提出了异议,指出该发布似乎指的是 原始模型规模下的 1-bit 等效存储,而不是通常量化意义上的字面 1-bit 权重。有人建议称之为 “1-bit 等效大小”,以避免误导读者,并减少熟悉低比特量化术语的人们的即时质疑。

    • 一位关注基准测试的评论者将报告的分数与更小的模型进行了对比:LiveCodeBench v6 88.57 对比 Qwen3.8-27B 90.3 和 Qwen3.8-Flash-Next 91.9,以及 SWE-bench Verified 77.00 对比 Claude Opus 4.6 81.42%。技术上的批评是,在这种压缩水平下,如果明显更小的模型能够匹敌或超越其编码基准测试结果,那么一个 763B 模型就需要更清晰的价值主张。

  • 面向超长上下文的新稀疏注意力方法(活跃度:361):该团队发布了开源的 Latent Sparse Attention(LSA)研究(论文),这是一种分层语义键索引的稀疏注意力方法,可以通过只训练索引器的短时间蒸馏添加到预训练模型中。报告的结果包括:对 Qwen-3.8-27B 进行稀疏化且未观察到精度损失,扩展到 10M 个 token 时出现部分任务特定的性能下降但 NIAH 保持良好,以及在 H200 上处理 10M 个 token 时,注意力层预填(prefill)速度比全注意力快 72.4×;据称原生稀疏注意力训练在匹配全注意力下一个 token 验证损失的同时,将实际训练时间提升 1.24×,注意力层速度提升 1.6×。此次发布包含内核、SGLang 集成、论文和实现细节,并声明适用于更小的开源权重模型,以实现更低成本的长上下文本地推理。 评论者对所宣称的 72× Qwen 预填加速印象深刻,但一个技术问题聚焦于 LSA 是否能减少 显存/KV 缓存内存,还是主要改善计算/预填延迟;帖子摘录中未提供内存数据。另一位评论者请求立即将其应用于 Qwen Next。

    • 评论者强调了这篇论文(arXiv:2610.42147)及其所报告的 72x Qwen 预填加速,将主要的技术关注点放在这种稀疏注意力方法能否实质性降低超长上下文推理延迟,而不仅仅是学术基准测试。

    • 一个悬而未决的关键实现问题是 显存影响:一位评论者询问该方法是否只在预填期间减少计算,还是也能降低内存占用,尤其是对受 GPU 显存限制的用户而言。他们特别请求提供显存表现的数据,因为稀疏注意力的加速并不一定意味着 KV 缓存或激活内存需求的降低。

    • 一些评论聚焦于采用可行性:该方法能否泛化到更大/更小的模型,能否集成到推理引擎中,以及转换现有模型是否切实可行。一个担忧是,提到的 10M token 训练需求可能是一个重大障碍,不过 Prefrontal-AI/latent-sparse-attention 发布的代码表明可能已经有可供评估的实现路径。

3. 权重空间编程实验

  • 权重空间编程的火花:LLM 可以原生读写神经网络权重 (Activity: 619): Takehi 等人提出权重空间编程:前沿 LLM 可以根据自然语言目标直接检查/编辑原始神经网络权重,据称无需梯度下降或显式训练循环。宣称的演示包括从小型 PPO 策略权重推断任务、合成/修复小型控制/游戏 MLP,以及仅通过更改 7.9% 的权重,将 Qwen3.5-0.8B 在 MATH-500 上的成绩从 48.1% 提升到 0.016%,显然是通过移除循环/重复方向而非添加新的数学能力实现的。 一位技术评论者认为标题言过其实:早期实验可能利用了首层/末层的空间结构,transformer 分析很可能沿用已知的 Elhage 等人的 QK/OV 方法,而且一项关键的中间表示实验只有在允许使用探针后才奏效——即基于激活值的可解释性。他们认为真正的结果仍然重要但范围更窄:前沿 LLM 可以表现得像拥有 Python 沙盒的智能体化可解释性研究员,生成假设、探测权重/激活值、消融方向并评估修改。

    • 一位评论者认为该论文的证据支持的是一个比“LLM 读取权重”更窄的结论:前沿模型是在扮演拥有 Python 沙盒的可解释性智能体。他们指出实验 1–2 之所以奏效,是因为首层/末层在空间上具有结构化的大权重条带,LLM 可以像描述热力图一样描述它们,而实验 3 很可能是复现了已知的 Elhage 等人的 QK/OV 电路分析,而非展示原生的权重理解能力。

    • 同样的批评指出,最相关的“中间表示”测试据报多次失败:实验 7 只有在允许模型使用自己的探针后才成功,评论者将此归类为基于激活值的解释,而非直接的权重空间读取。他们还认为,某些“权重写入”结果更接近于把 LLM 用作生成薄弱 MLP 基线的编译器,加上 PPO 的低效率以及一个很弱的 512x6 Go MLP,使得这些成果没有那么令人印象深刻。

    • 对于实验 8,评论者认为基线异常薄弱:7.9% 的准确率加上 93% 的回答触及 token 上限,表明采样配置存在问题,尤其当模型卡警告过可能出现循环时。他们将这一修复解释为类似于 Arditi 等人风格的单方向消融,只是作用于循环而非拒答,并指出 10/25 的通过率几乎没有提升性能,而 50 跃升至 48%,他们将其解读为方差波动,而非令人信服的扩展曲线。

  • GPT-6 Astra 编辑 Qwen 权重:MATH-500 从 7.9% 提升到 48.1%(活跃度:814):一份据称来自 MIT CSAIL 的博客提出“权重空间编程”,声称 GPT-6 Astra 无需梯度下降即可直接编辑 Qwen 权重,修改了 Qwen3.5-0.8B 中的 131,072 个权重(~0.016%),将 MATH-500 从 7.9% 提升到 48.1%,其方式是抑制一个病态的“思考循环”吸引子,而非增加新的数学能力;评论者要求查看原始博客:rikiyat.github.io/blog/weight-space-programming,而不仅仅是 ExplainX 摘要。据报道,同样的干预在 Gemma 3 270M 上失败了,因为该模型没有这种循环失效模式,这使得该结果更像是有针对性的电路/吸引子修复,而不是通用的“模型编程”或知识注入。这些说法仍停留在博客层面,未经评审,且显然没有被独立复现。 评论者对二手摘要持怀疑态度,要求提供一手来源;主要的技术质疑是,基准测试的跃升很可能是修复严重解码/循环病态带来的假象,而非证明 Astra 可以广泛地编辑权重以提升推理能力。

    • 一位评论者引导读者阅读原始技术博客而非摘要网站:rikiyat.github.io/blog/weight-space-programming。这是所谓 GPT-6 Astra 编辑 Qwen 权重 结果的一手来源,包括所称的 MATH-500 从 7.9% 提升到 48.1%。

    • 一条在技术上颇有分量的批评指出,该结果可能比标题所暗示的更为局限:据称被编辑的模型在数学题上存在一个病态的循环吸引子,而权重编辑主要是消除了这一失效模式,而非普遍提升推理能力。该评论者指出,据作者日志显示,同样的方法在没有这种循环病态的模型上失败了,具体是 Gemma 3 270M。

    • 另一位评论者提出了关键的方法论问题:系统如何能在“没有训练”的情况下改变权重,以及它用什么参考信号来判断某些权重是错误的。令人担忧的是,文章并未清楚说明这次编辑是基于权重检查、行为轨迹、类似激活/梯度的信号,还是与另一个模型/检查点的对比。

  • 我在自己的用例上尝试了 MIT 的“权重空间编程”:Claude 重写了 Gemma 4 12B 的 8 个神经元,改变了它翻译一种意大利语时态的方式(活跃度:356):OP 声称在 Gemma 4 12B 上复现了 MIT CSAIL 风格的权重空间编程工作流,使用 Claude Opus 5.5 配合 Python 内核、50 次前向传播评估,且不使用梯度/训练来编辑 8 个 MLP 神经元(~92k / 11.9B 个参数,约 100 KB 的差异)。该编辑针对英语过去完成进行时语境的意大利语翻译,为一个学习到的“开关”用于进行中状态的情形——例如更倾向于 “si nascondeva … da mesi” 而非 “si era nascosto … per mesi”——前提是发现一个中间层线性探针已能区分“进行中”与“已完成”的时间解读。在留出测试集上,这次手工编辑将旧形式输出降至 5% / 16%,仅有 2 个对照项受损、182/200 个无关翻译保持不变,在局部性上优于提示词引导和消融,在无关内容保留上优于 LoRA;代码/日志/基线在 GitHub 仓库中。热门评论大多关注其影响而非基准测试:有评论者问这是否意味着 AI 系统能比人类更好地解读其他模型的权重/向量空间,有人请求提供所引用的 MIT CSAIL 演讲的公开链接,还有人提出了对未来运行时内存权重篡改或恶意模型编辑的安全担忧。

    • 一些评论者关注验证与可复现性,询问 MIT CSAIL 的“权重空间编程”演讲是否公开可查,以及实验结果是否确实被清晰地测量过。一个技术上的疑虑是:帖子并未明确说明重写 Gemma 4 12B 的 8 个神经元是否可靠地改变了目标意大利语时态行为,还是结果只是轶事性的/有噪声的。

    • 一条偏向安全视角的评论提出了运行时权重篡改攻击的可能性:漏洞利用可以在活动内存中修改少量模型权重,从而隐蔽地改变模型行为。这意味着,如果稀疏权重编辑能产生定向的行为改变,已部署的 LLM 系统可能需要对模型参数进行完整性检查、内存保护,或对加载的权重进行加密验证。

技术性较低的 AI Subreddit 摘要

/r/Singularity, /r/Oobabooga, /r/MachineLearning, /r/OpenAI, /r/ClaudeAI, /r/StableDiffusion, /r/ChatGPT, /r/ChatGPTCoding, /r/aivideo, /r/aivideo

1. 前沿模型编辑权重并解决数学问题

  • MIT 研究人员称,GPT-6 Astra 仅通过直接编辑一个小的 Qwen 模型 0.016% 的权重,就将其数学成绩从 7.9% 提升到 48.1%,且未使用基于梯度的训练。 (热度: 2399): MIT 研究员 Rikiya Takehi 宣称开展了早期的“权重空间编程”实验,由 GPT-6 Astra 检查并直接修改模型参数而无需基于梯度的训练,其中包括据称将 Qwen3.5-0.8B 的数学成绩从 7.9% 提升到 48.1%,仅编辑了 0.016% 的权重;相关示例还包括 PPO 策略补丁、原始权重策略识别以及 MinAtar Breakout 权重生成(帖子)。一位评论者在一个更小的 transformer 上尝试了类似流程:Astra 执行了局部张量/探针分析,对门控/注意力/query-key 子空间测试了可逆的原位编辑,拒绝了几处有害编辑,但最终仅在 child-parent 链接召回率/精确率上取得很小的开发集提升(75.69% → 76.03%、89.09% → 89.49%),随后得出结论:更深层次的系统不匹配导致了性能回退。 评论者将其视为超越预训练扩展和推理时扩展之外的一个可能的新维度——“权重空间学习”——并对递归自我改进和未来硬件展开了猜测。而实际动手实验的态度则更为谨慎:直接编辑对诊断和探针构建很有用,但要在不产生回退的情况下实现可靠的离线纯权重改进十分困难。

    • 一位评论者尝试在一个更小的 transformer 检查点上复现直接权重编辑,将 Astra 限定在局部数值分析和有界 MPS 前向传播,而非梯度训练或云端算力。该模型检查了语义键/类别、权重、偏置、注意力门控、投影权重以及注意力矩阵的秩;初始探针未发现非有限值/坍缩的注意力头,并显示 child-to-container 的注意力门控较小,但后来确定这些门控在某种程度上被较大的投影权重和满秩矩阵所抵消。

    • 实验者报告称,诸如 −0.35 物体偏置之类的朴素编辑将误报从 43 降到 33,但同时也把正确检测的物体从 32 减少到 27,因此在“不造成损害”标准下被否决。后来,针对类投影方向上的 parent query/key 权重进行更具选择性的子空间编辑,带来了小幅开发集提升:child-parent 链接召回率 75.69% → 76.03%、精确率 89.09% → 89.49%,新增 6 条正确链接,同时丢失了 0 条原本正确的链接,而检测 P/R 和精确页面指标保持不变。

    • 这次复现尝试最终发现,离线纯权重编辑对大多数改进而言都会产生回退,原因在于更深层次的系统不匹配;但这一过程产出了一套有用的诊断工具:数值探针、留出集评估检查,以及基于追踪的赋值失败定位。结论是:直接权重操作即使不能立即带来安全的原位检查点改进,也能揭示可操作的内部机制。

  • 看来权重空间编程是新一代前沿模型上涌现出的一种能力(活跃度:968):该图片是一条推文,声称复现了 MIT 博客上关于“权重空间编程”的结果:使用前沿 LLM 直接提出或修改神经网络权重,而不是编写源代码或通过标准优化进行训练。其中嵌入的图表显示,与 PPO 网络基线相比,效果出现了代际式的陡峭跃升:较旧的 OpenAI/Anthropic 模型接近于零,而据称较新的模型(如 “GPT 6.1 Sol”、“GPT 6 Astra” 和 “Opus 5.5”)达到了约 18×–22× 的效果。这是一项技术性声明,并非梗图,但仅凭截图应视为未经证实。评论者认为这之所以可能具有开创性,是因为人类通常无法通过手工编辑高维模型权重来可靠地改善模型行为;也有人请求用通俗语言(ELI5)解释“权重空间编程”的含义。还有人猜测,如果这种能力使模型可被不安全地修改,Anthropic 或其他实验室可能会限制访问。

    • 一位评论者指出,所报告的结果可能不像把新能力编程进权重,而更像是修复了 Qwen 0.8B 的一个缺陷:据称该模型在发布时存在“输出循环”的失败模式,而这次干预修复了该问题,从而暴露出模型本身已具备的潜在数学和指令遵循能力。这一区分在技术上很重要,因为它表明该编辑可能只是权重空间中一次针对性的 bug/行为修正,而不是前沿模型能够通过直接修改另一个模型的参数来合成全新能力的证据。

    • 几位评论者将“权重空间编程”视为一种可能的新颖能力,因为人类无法以任何通用方式直接对神经网络权重进行推理和编辑以改善模型行为。一种聚焦于对齐的解读是:如果模型能够原生地检查和修改权重空间,那么未来更强的模型——例如 “GPT-7”——或许能帮助分析或对齐其后继者(如 “GPT-8”),不过评论者指出这仍属推测,且需要大量研究。

  • "当我们证明了首个千禧年大奖难题时,动的是即将发布的模型——下一代 GPT——的 10000 个智能体,运行了大约 4 天"(活跃度:1490):该帖子引用了一个 YouTube 时间戳,声称一款即将发布的下一代 GPT 以 10,000 个智能体的规模运行了约 4 天,以证明“首个千禧年大奖难题”。帖子/评论中没有提供任何实现细节:没有智能体架构、编排方法、验证流程、算力预算、证明产物,也没有说明指的是哪个千禧年大奖难题。评论者关注的是规模化经济性:如果现在需要 10,000 个智能体,他们推测未来不久的模型改进可能将其降至约 100 个智能体,或使针对较简单任务的类似多智能体运行变得廉价。一位评论者认为,这样的算力应当展现出切实的公共收益,例如生成一种可行的疾病疗法。

    • 一份具有技术参考价值的成本分析引用了Sam Altman 报道的估计:10,000个智能体运行4 days大约耗费$10M的算力成本。评论者由此推算出每个智能体约$1,000的总成本,即约$250/day/$10/hour,并讨论了如果编排和专家监督能力提升,这对替代或增强初级知识型工作的意义。

    • 多位评论者聚焦于规模化动态:如果实现所称的结果需要10,000个下一代 GPT 模型的智能体,那么未来模型的改进或更便宜的推理可能把需求降到约100个智能体即可获得类似结果。其背后的技术要点是,随着单位成本模型能力的提升,在长时程上进行多智能体搜索在经济上可能对难度较低的任务变得可行。

  • 新消息:GPT-6 Astra 只编辑了 Qwen 权重的 0.016%,数学得分就提升了 6 倍(活跃度:1022):一篇 RuntimeWire 报道描述了作者自称的 MIT CSAIL“权重空间编程”实验:GPT-6 Astra 编辑了 Qwen3.5-0.8B 的 131,072 个权重(0.016%),在第 15 层和第 19 层减去了一个与循环相关的 MLP 输出方向。报告的基准提升幅度很大——MATH-500 7.9% → 48.1%、GSM8K 13.8% → 67.1%、IFEval 21.0% → 62.3%——且在 50 次前向传播后,MATH-500 的 token 上限失败从 93% 降至 33.1%,这表明该编辑主要是移除了一种病态的“思考循环”失败模式,而非增加了通用数学能力。实验设置很重要:Astra 通过 Python 内核直接操作权重,没有 GPU;使用了 GSM8K/MATH 的训练练习批次,但据称未使用评测集;未能实质性改善不循环的 Gemma 3 270M;而且结果仍为作者自述、未经复现,有批评认为这更像自动化 ML 调试,而非直接的“原始权重读取”。评论者认为这一结果对优化自托管模型可能很重要,也是前沿模型改进较弱模型基准表现的一个早期案例。对于这算不算递归自我改进,还是仅仅针对性地移除了已知失败模式,评论中隐含着一定的怀疑。

    • 一条详细的评论指出,据称 GPT-6 Astra 通过识别与第 15 层和第 19 层中某个 MLP 方向相关的重复推理循环来改进 Qwen3.5-0.8B,然后从每层 64 个输出列中减去该方向——总计 131,072 个权重,占模型的 0.016%。经过 50 次前向传播,报告的分数从 MATH-500 7.9% → 48.1%、GSM8K 13.8% → 67.1% 和 IFEval 21.0% → 62.3% 上升,同时 MATH-500 触及 32,768 token 上限的回复从 93% 降到 33.1%。

    • 评论者强调,这一结果应被理解为修复了一种特定的病态失败模式,而不是让模型在整体上“聪明了 6 倍”。被编辑的 Qwen 模型本来就以存在思考/推理循环问题而著称,而基准提升似乎主要归因于让模型终止并给出答案,而不是循环到 token 上限。

2. Claude/Opus 游戏开发基准与局限

  • 一位独立开发者用 Opus 5.5 + Godot 在 4 天内做出了这个。这已经离谱了(活跃度: 879): 一位独立开发者(u/One_Cheek_8843)声称使用 Claude Desktop Code 模式下的 Claude Opus 5.5、Godot 4.5.1、Meshy T2.5、Blender 和 Nano Banana,在 4 days 中构建了一个可玩的恐怖场景,并且没有手动编辑任何代码。据称该工作流让 Claude 编辑文件、启动 Godot、截屏并迭代;约 100 个低多边形道具以 10 批次纹理图集/材质生成,核心构建的 Claude API 等价用量估计约 90 美元,含实验约 180 美元。由于 Reddit 返回 403 Forbidden,链接的 Reddit 视频无法被独立查验,因此评估基于帖子文本和评论。热门评论者对此是否代表游戏开发的完整突破持怀疑态度,认为它更接近静态 3D 场景、步行模拟器或资产摆放演示,而非具备机制、AI、碰撞健壮性、剧情和打磨程度的游戏。多位开发者将其形容为“轻松的前 80%”,剩下的玩法实现、调试、优化和产品化加固可能还需数月。

    • 资深开发者认为该演示主要是一个静态 3D 场景 / 关卡白模,而非完整游戏管线的证据。他们指出,摆放墙壁、道具和氛围是相对容易的“前 80%”;难点在于玩法系统、AI、碰撞正确性、交互逻辑、剧情/内容整合、修 bug、优化和打磨。

    • 多位评论者质疑 AI 是否在开发的困难部分提供了实质帮助,称其结果更接近资产搬运或步行模拟器。具体的技术批评包括缺乏交互性、明显的穿模,以及 AI 生成的 3D 资产是否针对实时使用做过恰当优化尚不确定。

    • 一位评论者质疑其中隐含的成本/工作量模型,称类似的场景组装完全可以用 Unreal FAB 的现有资产包加上 $20/month 的 Claude/Opus 订阅完成,而无需高额 API 支出。他们认为资产获取和优化与代码生成是两个独立的问题:Claude 或许能帮助实现机制,但 3D 资产的质量、授权和性能仍是主要制约。

  • 自 2025 年 7 月以来,我给每个 Claude 模型完全相同的提示词。13 个模型,14 个月,这是演进过程(活跃度: 901): 一位 Reddit 用户在 14 个月里对 13 个 Claude 模型运行了完全相同的一次性提示词(每次均为全新对话,无手动编辑),要求生成一个基于浏览器的、带着色器的 3D 无限程序化地形“视频游戏”且摄像机持续向前移动,然后实时截取了每个 Chrome 结果。作者指出 Sonnet 5.5 生成的输出保留了一个着色器 bug,导致树木无法渲染;由于 403 Forbidden,链接的 Reddit 视频无法访问,因此视觉/实现细节无法独立验证。评论普遍称赞 Claude 5.5 / Opus 5.5 明显的质量跃升,但一位评论者认为该提示词过于欠定义,不足以支持有意义的模型间比较,因为输出差异反映的创造选择与能力同样多。

    • 一位评论者质疑了评估方法,认为共享的提示词可能过于不明确,无法支持有意义的跨模型比较,因为输出差异可能反映的是理解上的不同,而非模型质量的高低。另一位评论者询问使用了 effort level 什么,暗示推理投入(reasoning-effort)设置可能对结果产生实质影响,应当加以控制或报告。

    • 一条技术观察称 Sonnet 5.5 复现了 Avicii 游戏的“1:1”,这引发了关于记忆化、提示词泄露或过拟合的担忧,而非真正的生成能力提升。

  • Anthropic 确认对 Claude Code 实施新限制以防止游戏克隆(活跃度:2149):据报道,Anthropic 已确认对 Claude Code 实施新的防护措施,旨在防止用户生成与现有游戏几乎相同的克隆品或复现受版权保护/专有的软件,有报告称,在使用 Claude Code + Opus 5.5 时,执行最为明显。链接的 Tom's Hardware 报道 还指出,有用户声称 Opus 5.5 拒绝执行某些逆向工程和二进制分析任务,这引发了关于该限制是模型层面、框架层面还是策略路由层面的疑问。评论者争论这些护栏是否在选择性保护游戏/知识产权所有者,而 Anthropic 自身却从受版权保护的训练数据中获益;一些人建议将 Claude 通过其他工具链路由,或将其用作 DeepSeek 等模型的辅助工具来绕过限制。另一些人则认为,如果一款游戏简单到可以通过“氛围编程”被克隆,那么其底层设计本身可能就很容易复现。

    • 一位评论者报告了一种潜在的护栏绕过模式:将 Claude Code 用作 DeepSeek 的“辅助工具”,而不是直接要求它生成被禁止的游戏克隆品,这暗示当 Claude 被定位为辅助另一个模型的输出、而非端到端生成克隆品时,策略执行可能较弱。

    • 围绕提示词的具体性出现了一个技术性区分:诸如 “给我做一个 Pokemon 的复制品,完美重现其中的怪物和机制” 这样的请求预计会触发封锁,而诸如 “一款怪物捕捉游戏……具有类似的机制,采用复古 2D 风格” 这类类型层面的提示词可能仍会通过。一位用户用 受 Digimon 启发 的提示词进行了测试,并表示 Claude 继续深入到了实现细节,包括战斗、规则和伤害计算,这表明护栏可能聚焦于对特定受版权保护资产的显式克隆,而非抽象机制。

3. 机构级 AI 访问政策

  • 高盛将 Claude Code 限制为仅工程师可用(活跃度:849):该帖声称高盛将 Claude Code 和 GitHub 的访问权限限制为工程师/量化策略人员,取消了银行家和交易员的访问。热门技术评论推测,背后的驱动因素是 LLM API 成本控制:电子表格/PPT 编辑等非工程类工作流可能变得高度迭代且 token 开销巨大——例如有人提到一次 PowerPoint 更新花费了 $50,一个复杂电子表格任务最多花费 $1k——而工程类使用可以通过生成脚本/SQL/工作流来摊薄 token 成本,这些生成物随后无需再调用模型即可运行。评论者争论这主要是成本/治理决策,还是声誉护城河:有人认为分析师明显依赖 Claude 会削弱高盛所标榜的人类顾问价值。另一位评论者则提到本地 AI 的采用——援引 Revolut 据称使用本地 GLM 模型——作为云 LLM 经济学可能促使企业转向本地/自托管推理的证据。

    • 多位评论者聚焦于 API/token 成本动态:有人声称基础办公任务就可能烧掉大笔开支(例如一次 PowerPoint 更新花费 $50,复杂的电子表格改动可能花费 $1k),并认为非技术用户可能会制造高成本工作流,因为他们提示词写法低效且缺乏任务拆解。一位数据工程师反驳称,使用 Claude Code 时,随着代码/工作流逐步搭建起来,token 用量会随时间下降,因为自动化 SQL 查询、通知和监控无需持续的模型推理即可运行。

    • 评论中还区分了工程师主导的自动化与非工程师的“凭感觉编码”(vibe-coded)输出:工程师可以把 LLM 的使用摊销为持久的代码和运维工作流,而业务用户可能反复要求模型重新生成电子表格/PPT,或者交付不安全的原型。有人举的例子是一个生成的工具使用明文 JSON 文件作为身份验证机制,说明了为何不受限制地部署 AI 生成的应用会带来安全和维护风险。

    • 一位评论者提到金融科技公司 Revolut 据称正在转向使用 GLM 的本地 AI,并以此关联到 Anthropic/OpenAI 等托管模型供应商面临本地/自托管推理经济学压力的担忧。其含义是,面向广泛企业使用的高昂 API 成本可能促使企业转向本地模型,尤其是对于隐私和边际推理成本至关重要的重复性内部工作流。

  • Google 将对拒绝 AI 的学校关闭搜索服务(活跃度:912):该帖讨论了一篇题为“Google 将对拒绝 AI 的学校关闭搜索服务”的报道:评论者澄清,这并非被定性为惩罚性关停,而是产品整合带来的结果,因为 Google 搜索现已内置 AI 功能。一份被引用的 Google 声明称“搜索与 AI 深度整合”,如果一所学校禁用 AI,学生将“无法使用搜索”,而是会看到一条由学校控制其可见性的提示消息。热门评论围绕这一定性展开争论:有人认为这个标题是标题党/反 AI 话术,因为禁用 AI 的学校实际上是在禁用一个整合了 AI 的搜索产品;另一位评论者则预测这一政策会恶化美国学校中公众对 AI 的认可度。

    • 一位评论者指出,这篇文章的关键技术/实施要点是 Google 搜索和 AI 功能现在面向学校捆绑提供,并引用了 Google 教育副总裁 Chris Phillips 的话:“搜索与 AI 已深度融合。” 实际后果是,如果学校的政策禁用 AI 工具,Google 表示学生可能会失去对 Google 搜索本身的访问权限,并看到机构层面的不可用提示,因为 Google 没有为这种部署场景提供纯净的无 AI 搜索模式。非付费墙文章

来源: Latent Space · latent.space