Andrej Karpathy：外界看到的只是 AI 能力的“预览”，内部前沿系统远超公众认知

OpenAI 联合创始人 Andrej Karpathy 描述了人们对 AI 能力理解上迅速扩大的鸿沟。当公众还把聊天机器人当作更好用的 Google 搜索时，内部的前沿系统已经在处理顶尖专家需要数年才能完成的任务。

Karpathy 将大语言模型的用户群体分为四个层级。约 60 亿人，即全球人口的约 75%，几乎没有接触过大语言模型。另外 10 到 20 亿人是免费版 ChatGPT 类产品的休闲用户，他们把这些产品"有点像更好用的 Google 搜索、写作助手之类的东西"来使用。

大多数人不知道 AI 已经能做什么

即使是数学和代码之外的许多专业人士也属于这一层级。高管及类似角色的人大部分时间都在与其他人交谈，因此"尽管他们在理性上明白正在发生什么，但这仍然是二手的、有点抽象的"，Karpathy 写道。

第三层级涵盖约 2000 万人，约占世界人口的 0.2%。他们是数学和代码领域前沿级别大语言模型的专业用户，亲眼目睹"过去需要数周/数月完成的大型复杂项目，现在智能体用一个提示词就能完成"。Karpathy 列举了"构建应用、复制应用、翻译应用、从二进制文件反编译应用"等例子。

他补充说，这一转变发生得很快。在 2024 年 10 月，Karpathy 曾称 AI 智能体基本上是几乎没什么用的营销噱头。仅仅几个月后，他就完全停止了手写代码，从"一个字符一个字符地往代码编辑器里敲打记忆中的计算机代码命令"转变为让智能体来完成工作。随后他加入了 Anthropic，尽管自己是 OpenAI 联合创始人。

一小撮精英看到了公众看不到的东西

据 Karpathy 估计，约有 5000 人，即全球人口的约 0.00006%，能够访问内部的前沿级别系统。"外部世界看到的只是预览，"他写道。这个群体所看到的"看起来像是成千上万个智能体在数周内协作完成超大型软件项目：挖掘零日漏洞、以机器速度发动网络攻击与防御、发现新科学、推进数学的前沿。"这些是"本来需要业内顶尖专业人士数年工作才能完成的事情"。

与此同时，"人类的审查和理解能力开始落后了。"他指出，人们仍在为许多个月前的 OpenAI-HF 事件做"考古"，并提到数学家们"可能要在 722 篇前沿数学手稿上钻研一阵子"。

Karpathy 称之为"这个时刻的怪异之处"。普通公众大多没有与这些系统交互过，而"当他们交互时，看到的就像一个傻乎乎的聊天机器人。"大多数专业人士仍只看到"适度的提升"。而"一小部分专业人士正在经历曲线走向垂直所带来的眩晕感。"这一切都在同时发生。

OpenAI CEO Sam Altman 在 9 月初的 G20 创新部长会议上也发表了类似的说法，称当前的 AI 编程工具可以在"17 分钟"内实现一家初创公司此前花了三个月才构建出的成果。"世界还没有跟上这将意味着什么，"Altman 说。

Karpathy 表示，LLM 的能力目前在那些“数字化的、可验证的且具有经济价值的”领域正达到顶峰。这是因为这些能力“源自基于可验证奖励的强化学习”，而公司将训练资源投向收入潜力最高的领域。目前，这意味着编程和数学。

没有炒作的 AI 新闻 – 由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限，以及评论区的访问权限。