跳到正文
原文
Import AI· Jack Clark·· 2026-06-15AI 评分46

Import AI 461:“对齐没有走上正轨”;FrontierCode;以及合成研究实习生

Import AI 461: "Alignment is not on track"; FrontierCode; and synthetic research interns

AI 导读

英国 AI Security Institute 对齐团队与对齐理论创业公司 Timaeus 的研究人员成立非营利组织 Sequent,称 ASI 可能几年内出现而现有对齐方法缺乏原理性保证;该组织计划两年内达到 40-80 名全职员工,初期融资 1-1.5 亿美元,研究方向包括 scalable oversight、学习理论、启发式论证、博弈论和 personas。

来源:Import AI · importai.substack.com