AI 扩展法则进入第二代，当然，成本也是如此。
近期，AI 发展似乎进入了 “第二个扩展法则时代（Second era of Scaling Laws）”，一些分析师指出，改进 AI 模型的既定方法正在呈现出收益递减的趋势，目前，一种新的、有前景的方法是 “测试时扩展（ test-time scaling）”，这是 OpenAI 的 o3 模型采用的方法，也是 o3 表现如此出众的原因。
需要注意的是，尽管 o3 模型让人们重新相信 AI 扩展法则的进展，但也并非十全十美：o3 使用了前所未见的计算量，这意味着每个答案的成本更高了，也意味着 o3 无法成为人们的日常使用工具。
具体来说，“测试时扩展” 意味着 OpenAI 在 ChatGPT 的推理阶段使用了更多的计算资源——在用户按下生成按钮后到 AI 给出答案之间的那段时间，OpenAI 可能是在使用更多的计算芯片来回答用户的问题，也可能是在使用更强大的推理芯片，甚至可能是更长时间地运行这些芯片，毕竟，在某些情况下，o3 在 10 到 15 分钟后才给出答案。
此外，Anthropic 联合创始人 Jack Clark 和另一些分析师指出，o3 在 ARC-AGI 基准测试中的出色表现标志着 AI 模型的进步，但是，通过这一测试并不意味着 AI 模型已经达到了通用人工智能（AGI），毕竟，o3 在一些非常简单的任务上仍然失败了，而这些任务人类可以轻松完成——显然，o3 和 “测试时扩展” 仍未解决大语言模型的幻觉问题。
<h2>AI 在 2025 年的进步将比 2024 年更快，o3 就是证据</h2>
Clark 在周一的博客中表示，o3 模型表明，基于目前已有强大基础模型，在推理时让大语言模型 “测试时扩展”，能够带来巨大的回报。Clark 预计，接下来最有可能发生的事情是，强化学习（RL）和底层基础模型将同时得到扩展，这将带来更加戏剧性的性能提升。
<blockquote>
“这是一个大新闻，因为它表明，相较于 2024 年，2025 年 AI 的进展应该会进一步加速。”
</blockquote>
Clark 补充表示，最近有很多奇怪的报道，说 “扩展已经遇到瓶颈”，对此，Clark 反驳称：
<blockquote>
“从狭义上讲，这是对的，因为较大的模型在应对挑战性基准时，获得的得分提升比其前代模型要小，但从更广义上讲，这种说法是错误的，因为 o3 背后的技术意味着扩展仍在继续……到 2025 年，我们将看到现有方法（大模型扩展）和新方法（基于 RL 的 “测试时扩展” 等）的结合。”
</blockquote>
Clark 还补充道，明年，AI 界将结合 “测试时扩展” 和传统的预训练扩展方法，进一步挖掘 AI 模型的潜力。
<h2>表现出众的 o3</h2>
许多人将 OpenAI 发布的 o3 模型视为 AI 扩展进程没有 “夭折” 的证明——o3 在基准测试中表现出色，在一项名为 ARC-AGI 的通用能力测试中，它的得分远远超过所有其他模型，某次尝试中得分甚至达到了 88%，而 o1 的最好表现仅为 32%。并且，o3 在一项困难的数学测试中达到了 25% 的得分，没有任何其他 AI 模型的得分超过 2%。
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f7772306-acdf-4dfb-af85-f2df3852bc13.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="677" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f7772306-acdf-4dfb-af85-f2df3852bc13.png"/>
o 系列模型的共同创造者 Noam Brown 在上周五表示，OpenAI 在宣布 o1 模型后的仅仅三个月就发布了 o3 模型，AI 性能的进步速度令人印象深刻：
<blockquote>
“我们有充分的理由相信，这一发展轨迹将继续下去。”
</blockquote>
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/98fee36b-31e7-4c14-b004-4833611ab4ad.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="818" height="893" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/98fee36b-31e7-4c14-b004-4833611ab4ad.png"/>
<h2>价格昂贵的 o3</h2>
尽管 o3 模型让人们重新相信 AI 扩展法则的进展，但也并非十全十美：o3 使用了前所未见的计算量，这意味着每个答案的成本更高了。
Clark 在博客中写道：
<blockquote>
“或许唯一需要注意的点是，o3 之所以表现得更好，部分原因在于它在推理时的运行成本更高——能够利用 “测试时扩展” 意味着在某些问题上，你可以通过增加计算资源得到更好的答案。这很有意思，因为它使得运行 AI 系统的成本变得更加难以预测——之前，你只需通过查看模型本身以及生成某个输出的成本，就能估算出运行生成模型的费用。”
</blockquote>
再一次回到这张图，除了 o3 在纵坐标上获得的极高得分，o3 在横坐标上也一骑绝尘——o3 的高得分版本在每个任务上使用了超过 1000 美元的计算资源，而 o1 在每个任务上仅仅使用了约 5 美元的计算资源，o1-mini 在每个任务上只用了几美分。
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f7772306-acdf-4dfb-af85-f2df3852bc13.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="1024" height="677" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f7772306-acdf-4dfb-af85-f2df3852bc13.png"/>
ARC-AGI 基准测试的创造者 Francois Chollet 在博客中写道：
<blockquote>
“OpenAI 为了生成 88% 的得分，使用了比 o3 高效版本多出约 170 倍的计算资源，而高效版本的得分仅比高得分版本低 12%。”
</blockquote>
Chollet 继续补充道：
<blockquote>
“o3 是一个能够适应之前从未遇到的任务的系统，可以说在 ARC-AGI 领域的表现已经接近了人类的水平，当然，这种通用性的代价很高，且目前还不具备经济效益。”
</blockquote>
不过，现在讨论具体定价还为时尚早了，毕竟，AI 模型的价格在过去一年中大幅下跌，OpenAI 也尚未宣布 o3 的实际费用。更值得探究的是，o3 高昂计算价格显示出，突破当前领先 AI 模型的性能门槛，到底需要多大的计算量。
<h2>仍有局限的 o3</h2>
虽然 o3 在各类测试中表现出色，但它确实不是十全十美的。
分析师指出，o3 或其后继模型不会成为像 GPT-4 或谷歌搜索这样的 “日常使用工具”，因为这些模型使用了过多的计算资源，无法回答日常的小问题，比如 “克里夫兰布朗队怎么才能有机会进入 2024 年季后赛”。
是的，使用了 “扩展测试时计算” 的 AI 模型可能仅适用于更宏观的问题，比如 “克里夫兰布朗队如何在 2027 年成为超级碗冠军队”。但是，只有当你是克里夫兰布朗队的总经理时，使用这些工具来做出重大决策，可能才值得你付出如此高昂的计算成本。
正如沃顿商学院教授 Ethan Mollick 在指出的那样，只有财力雄厚的机构才有可能负担得起 o3，至少在初期是这样。
目前，OpenAI 发布了一个 200 美元的订阅层级，供用户使用高计算版本的 o1，但根据报道，OpenAI 最近还在考虑推出价格为 2000 美元的订阅层级——看到 o3 使用的计算资源后，可以理解为什么 OpenAI 会如此考虑了。
此外，虽然 o3 在 ARC-AGI 基准测试中的出色表现标志着 AI 模型的进步，但是，通过这一测试并不意味着 AI 模型已经达到了通用人工智能（AGI），毕竟，o3 在一些非常简单的任务上仍然失败了，而这些任务人类可以轻松完成——显然，o3 和 “测试时扩展” 仍未解决大语言模型的幻觉问题。

OpenAI

Anthropic 联合创始人 Jack Clark 认为明年，AI 界将结合 “测试时扩展” 和传统的预训练扩展方法，进一步挖掘 AI 模型的潜力。不过，虽然 o3 模型让人们重新相信 AI 扩展法则的进展，但是，o3 使用了前所未见的计算量，这意味着每个答案的成本更高了，也意味着 o3 可能无法成为人们的日常使用工具。

o3 意味着什么？2025 年” 缩放定律 “继续，成本更贵也更不可控