千呼万唤始出来，原定于 23 日发布的 Llama 3 405B 就要来了。
作为 Llama 3 系列中的顶配，405B 版本拥有 4050 亿个参数，是迄今为止最大的开源模型之一。
昨夜凌晨，META 突发 Llama 3.1-405B 评测数据的泄漏事件，有网友预计可能还会同时发布一个 Llama 3.1-70B 版本，因为 “（模型提前泄露）是 META 的老传统了，去年的 Llama 模型就干过一次。”
有分析认为，Llama 3 405B 不仅仅是人工智能能力的又一次提升，对于开源 AI 来说，“这是一个潜在的 ChatGPT 时刻”，其中最先进的人工智能真正实现民主化并直接交到开发人员手中。
<h2>对即将到来的 Llama 3 405B 公告的三个预测</h2>
AI 芯片公司 SambaNova 的软件产品主管 Anton McGonnell 在一份报告中，从数据质量、模型生态系统、API 解决方案三个角度，预测了即将到来的 Llama 3 405B 公告中的亮点。
首先，Llama 3 405B 或许会彻底改变专用模型的数据质量。
对于专注于构建专业 AI 模型的开发人员来说，他们面临的长期挑战是获取高质量的训练数据。较小的专家模型（1-10B 个参数）通常利用蒸馏技术，利用较大模型的输出来增强其训练数据集。然而，使用来自 OpenAI 等闭源巨头的此类数据受到严格限制，限制了商业应用。
Llama 3 405B 应运而生。作为一款与专有模型实力相媲美的开源巨头，它为开发人员创建丰富、不受限制的数据集提供了新的基础。这意味着开发人员可以自由使用 Llama 3 405B 的蒸馏输出来训练小众模型，从而大大加快专业领域的创新和部署周期。预计高性能、经过微调的模型的开发将激增，这些模型既强大又符合开源道德规范。
其次，Llama 3 405B 将形成新的模型生态系统：从基础模型到专家组合
Llama 3 405B 的推出可能会重新定义 AI 系统的架构。该模型的庞大规模（4050 亿个参数）可能意味着一种一刀切的解决方案，但真正的力量在于它与分层模型系统的集成。这种方法对于使用不同规模 AI 的开发人员来说尤其具有共鸣。
预计会转向更具动态的模型生态系统，其中 Llama 3 405B 充当骨干，由小型和中型模型提供支持。这些系统可能会采用推测解码等技术，其中不太复杂的模型处理大部分处理，仅在必要时调用 405B 模型进行验证和纠错。这不仅可以最大限度地提高效率，而且还为优化实时应用程序中的计算资源和响应时间开辟了新途径，尤其是在针对这些任务优化的 SambaNova RDU 上运行时。
最后，Llama 3 405B 有最高效 API 的竞争
能力越大，责任越大——对于 Llama 3 405B 而言，部署是一项重大挑战。开发人员和组织需要谨慎应对模型的复杂性和运营需求。AI 云提供商之间将展开竞争，以提供部署 Llama 3 405B 最高效、最具成本效益的 API 解决方案。
这种情况为开发人员提供了一个独特的机会，可以与不同的平台互动，比较各种 API 如何处理如此庞大的模型。这个领域的赢家将是那些能够提供 API 的人，这些 API 不仅可以有效地管理计算负载，而且不会牺牲模型的准确性或不成比例地增加碳足迹。
总之，Llama 3 405B 不仅仅是 AI 武器库中的又一个工具；更是向着开放、可扩展和高效的 AI 开发的根本转变。分析认为，无论是在微调小众模型、构建复杂的 AI 系统还是优化部署策略，Llama 3 405B 的到来都将为用户打开新的视野。
<h2>网友们怎么看？</h2>
网友在 LocalLLaMA 子 Reddit 板块中发帖，分享了 4050 亿参数的 Meta Llama 3.1 信息，从该 AI 模型在几个关键 AI 基准测试的结果来看，其性能超越目前的领先者，即 OpenAI 的 GPT-4o，这标志着开源模型可能首次击败目前最先进的闭源 LLM 模型。
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f9a5f0f7-e93c-46d9-97b8-44608c3da765.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="865" height="606" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/f9a5f0f7-e93c-46d9-97b8-44608c3da765.png"/>
如基准测试所示，Meta Llama 3.1 在 GSM8K、Hellaswag、boolq、MMLU-humanities、MMLU-other、MMLU-stem 和 winograd 等多项测试中均优于 GPT-4o，但是，它在 HumanEval 和 MMLU-social sciences 方面却落后于 GPT-4o。
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/d07af0a8-2ace-43ad-9de5-5e50d2c95d2f.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="865" height="608" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/d07af0a8-2ace-43ad-9de5-5e50d2c95d2f.png"/>
宾夕法尼亚大学沃顿商学院副教授伊桑·莫利克（Ethan Mollick）写道：
<blockquote>
如果这些统计数据属实，那么可以说顶级 Al 模型将在本周开始免费向所有人开放。
全球每个国家的政府、组织和公司都可以像其他人一样使用相同的人工智能功能。这会很有趣。
</blockquote>
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/4b4db30d-2ace-462b-8810-e9cd6934b7a4.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="554" height="674" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/4b4db30d-2ace-462b-8810-e9cd6934b7a4.png"/>
有网友总结了 Llama 3.1 模型的几个亮点：
<blockquote>
模型使用了公开来源的 15T+tokens 进行训练，预训练数据截止日期为 2023 年 12 月；
微调数据包括公开可用的指令微调数据集（与 Llama 3 不同）和 1500 万个合成样本；
模型支持多语言，包括英语、法语、德语、印地语、意大利语、葡萄牙语、西班牙语和泰语。
</blockquote>
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/044e76da-c60a-43e9-8460-a208a4cd3c91.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="865" height="350" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/044e76da-c60a-43e9-8460-a208a4cd3c91.png"/>
有网友表示，这是首次开源模型超越了 GPT4o 和 Claude Sonnet 3.5 等闭源模型，在多个 benchmark 上达到 SOTA。
<img class=" wscnph" src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/c9e64a98-488e-4425-9389-f57570fd6841.png?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" width="865" height="236" original-src="https://imageproxy.pbkrs.com/https://wpimg-wscn.awtmt.com/c9e64a98-488e-4425-9389-f57570fd6841.png"/>

开源大模型的 ChatGPT 时刻？备受期待的 Llama 3 405B 即将发布