Microsoft Research 播客:AI 会出什么错,失败教会我们什么
Microsoft Research 播客中,partner research manager Jennifer Neville 与应用科学家 Chad Atalla 对谈,探讨评测如何推动 AI 系统突破性能边界以满足用户需求,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她分享了使用现有 AI 系统的实用建议,并强调当结果不符合预期时仔细检查数据的重要性。
Microsoft Research 播客中,partner research manager Jennifer Neville 与应用科学家 Chad Atalla 对谈,探讨评测如何推动 AI 系统突破性能边界以满足用户需求,以及模型在传统 benchmark 之外测试时出现的“意外失败”。她分享了使用现有 AI 系统的实用建议,并强调当结果不符合预期时仔细检查数据的重要性。
AI 工作负载转向推理与智能体 AI 后,系统瓶颈正从算力转向数据移动。文章指出处理器中心架构下,从 DRAM 取一次数据的能耗可达一次简单算术运算的 150 至 2,000 倍,大型机器学习模型超过 90% 的系统能耗可能消耗在内存访问与数据移动上。文章引出 SK hynix 打造下一代 AI 内存生态的愿景,主张 GPU/NPU/TPU、内存、存储与网络作为整体系统协同设计。
GitHub Copilot 作者认为聊天不是与 AI 协作的最佳界面,介绍了 GitHub Copilot app 中的 canvas 功能,它是可双向与 agent 通信的全栈小应用,可调用第三方 API 并在本地执行代码。
OpenAI CEO Sam Altman 在联合国安理会发表讲话,讨论 AI 安全、人类控制与国际合作问题。
OpenAI 的 Chris Lehane 提出,更强的 AI 能力需要更强的安全证据、共同标准和持久的政策行动,并呼吁趁政策窗口仍然开启时采取行动。