Anthropic的Andrej Karpathy表示，“外部世界看到的只是预览”，即AI真正能做什么的预览

Anthropic的Andrej Karpathy表示，“外部世界看到的只是预览”，即AI真正能做什么的预览

要点

• OpenAI联合创始人、现为Anthropic研究员的Andrej Karpathy描述了人们在理解AI能力方面日益扩大的差距。
• 全球约75%的人口几乎没有接触过大语言模型。普通用户大多把它们当作写作辅助或更好的搜索引擎。
• 据Karpathy估计，全球只有约20百万名数学和编程领域的专业人士在工作中使用前沿模型。全世界大约有5,000人能够访问内部前沿系统。

OpenAI联合创始人Andrej Karpathy描述了人们在理解AI能力方面迅速扩大的差距。当公众把聊天机器人当作更好的Google搜索时，内部前沿系统已经在处理顶尖专家需要数年才能完成的任务。

Karpathy将 将大语言模型的用户群体分为四个层级。大约六十亿人，约占全球人口的75%，几乎从未接触过大语言模型。另有十亿到二十亿人是免费层级类ChatGPT产品的轻度用户，他们把这些产品“有点当作更好用的谷歌搜索、写作辅助工具等等”。

大多数人不知道AI已经能做到什么

甚至许多数学和编程之外的专业人士也属于这一层级。高管和类似岗位的人大部分时间都在与其他人交流，因此“虽然他们在理智上明白正在发生什么，但这仍然是二手的，而且有点抽象”，Karpathy写道。

第三层级涵盖估计20百万的人，约占世界人口的0.2%。他们是在数学和编程领域使用前沿级LLM的专业用户，亲眼看到“过去需要他们数周/数月完成的大型复杂项目，现在智能体只需一个提示词就能完成”。Karpathy列举了“构建应用、复制应用、翻译应用、从二进制文件反编译应用”作为例子。广告

他补充说，这一转变发生得很快。在 2024年10月，Karpathy曾称AI智能体基本上只是几乎不能用的营销噱头。仅仅几个月后，他就 完全停止了手写代码，从“一个字符一个字符地把记熟的计算机代码命令敲进代码编辑器”，转变为让智能体来处理这些工作。随后他 加入了Anthropic，尽管他是OpenAI的联合创始人。

极少数精英看到了公众看不到的东西

据Karpathy估计，大约5,000人，约占全球人口的0.00006%，能够访问内部的前沿级系统。“外部世界看到的只是预览，”他写道。这个群体所看到的景象“看起来像是成千上万个智能体在数周内协作完成软件超大型项目：挖掘零日漏洞、以机器速度发起网络攻击与防御、发现新科学、推进数学前沿。”这些是“本来需要行业内顶尖专业人士数年工作才能完成的事情”。

与此同时，“人类的审查和理解能力开始落后了。”他提到，许多人仍在对几个月前的 OpenAI-HF事件 进行“考古”，并指出数学家们“可能还要花一段时间研究那 722篇前沿数学手稿 。”

Karpathy将此称为“这个时刻的怪异之处”。普通公众大多没有与这些系统互动过，而且“当他们互动时，看到的是一个傻乎乎的聊天机器人。”大多数专业人士仍然只看到“温和的提升”。而“一小部分专业人士正在经历曲线垂直上升带来的眩晕感。”这一切正在同时发生。广告

OpenAI CEO Sam Altman 在 9 月初的 G20 创新部长会议上也提出了类似说法，他表示当前的 AI 编程工具可以在“17 分钟”内完成 一家初创公司此前花三个月才构建出来的成果。Altman 说：“世界还没有跟上这将意味着什么。”

Karpathy 表示，LLM 的能力目前在“数字化的、可验证且具有经济价值的”领域达到顶峰。这是因为这种能力“源自 基于可验证奖励的强化学习”，而公司会将训练资源投向收入潜力最高的领域。目前，这意味着编程和 数学.

无炒作的 AI 新闻 – 由人工精心筛选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。