<p>神经网络是现代人工智能的引擎，但其密集的、数十亿参数的架构使其难以理解。我们设计训练规则，但最终的行为是一团复杂的连接，任何人都难以轻易追踪。这种不透明性在人工智能渗透到医疗和金融等关键领域时，成为一个日益严重的负担。</p>
<p>可解释性——解释模型为何做出某个决策的能力——至关重要。虽然像思维链这样的技术通过强迫模型展示其工作过程提供了即时的、尽管脆弱的解释，但更深层的目标是机械可解释性：在最细粒度的层面上逆向工程模型的计算。这条道路更为艰难，但承诺提供更稳健的理解。</p>
<p>研究人员现在认为，问题不仅在于任务的复杂性，还在于网络本身的结构。传统模型是 “密集型” 的，意味着几乎每个神经元都连接到成千上万的其他神经元，造成功能混乱。新的方法通过训练稀疏神经网络来颠覆这一局面。</p>
<h2>为更智能的人工智能构建更简单的电路</h2>
<p>核心创新在于架构约束。通过强制模型绝大多数权重为零，研究人员迫使网络仅使用其潜在连接的一小部分来实现目标。可以将其视为强迫一个庞大的大都市仅通过少数关键高速公路而非所有可能的支路来运作。</p>
<p>最近研究中详细描述的结果在简单任务上令人信服。当在算法挑战上进行测试时——例如正确关闭一个 Python 字符串并匹配引号——得到的稀疏模型包含小而独立的 “电路”，执行所需的确切逻辑。这些电路对任务既是必要的也是充分的；如果去掉它们，模型就会失败。</p>
<p>权衡是显而易见的：在固定模型大小的情况下，增加稀疏性会降低能力，同时显著提升可解释性。然而，研究表明了一条前进的道路：在保持高稀疏性的同时，增加 * 总 * 参数数量，使模型既能变得更强大，又能保留更简单、易于理解的内部机制。这将可解释性前沿向外推进。</p>
<p>这项工作尚未成为应对 GPT-5 级复杂性的灵丹妙药。目前的稀疏模型远小于前沿的大型语言模型，其计算仍然在很大程度上不透明。下一步涉及扩大这些技术，或者开发从已经训练好的高效密集模型中提取这些干净、稀疏电路的方法。如果成功，这项研究提供了一条切实可行的路线图，朝着构建我们不仅信任输出，而且从根本上理解其底层机制的人工智能系统迈进。</p>

<p>研究人员正在探索稀疏神经网络，以提高人工智能的可解释性。通过减少连接，这些网络形成更简单的电路，从而增强理解而不牺牲能力。这种方法可能导致机制透明的人工智能系统，尽管目前的模型规模小于领先的大型语言模型。未来的工作旨在扩展这些技术或从密集模型中提取稀疏电路，为更易理解的人工智能提供了一条路径</p>

<p>Neural networks are the engine of modern AI, but their dense, billions-of-parameters architecture makes them inscrutable. We design the training rules, but the resulting behavior is a tangled mess of connections no human can easily trace. This opacity is a growing liability as AI infiltrates critical sectors like healthcare and finance.</p>
<div class="lb-trans"><p>神经网络是现代人工智能的引擎，但其密集的、数十亿参数的架构使其难以理解。我们设计训练规则，但最终的行为是一团复杂的连接，任何人都难以轻易追踪。这种不透明性在人工智能渗透到医疗和金融等关键领域时，成为一个日益严重的负担。</p>
</div><p>Interpretability—the ability to explain why a model made a decision—is paramount. While techniques like Chain of Thought offer immediate, albeit brittle, explanations by forcing models to show their work, the deeper goal is mechanistic interpretability: reverse-engineering the model’s computations at the most granular level. This path is harder but promises a more robust understanding.</p>
<div class="lb-trans"><p>可解释性——解释模型为何做出某个决策的能力——至关重要。虽然像思维链这样的技术通过强迫模型展示其工作过程提供了即时的、尽管脆弱的解释，但更深层的目标是机械可解释性：在最细粒度的层面上逆向工程模型的计算。这条道路更为艰难，但承诺提供更稳健的理解。</p>
</div><p>Researchers are now betting that the problem isn’t just the complexity of the task, but the structure of the network itself. Traditional models are “dense,” meaning nearly every neuron connects to thousands of others, creating functional chaos. The new approach flips this script by training sparse neural networks.</p>
<div class="lb-trans"><p>研究人员现在认为，问题不仅在于任务的复杂性，还在于网络本身的结构。传统模型是 “密集型” 的，意味着几乎每个神经元都连接到成千上万的其他神经元，造成功能混乱。新的方法通过训练稀疏神经网络来颠覆这一局面。</p>
</div><h2>Building Simpler Circuits for Smarter AI</h2>
<div class="lb-trans"><h2>为更智能的人工智能构建更简单的电路</h2>
</div><p>The core innovation is architectural constraint. By forcing the vast majority of a model’s weights to zero, researchers compel the network to achieve its goals using only a tiny fraction of its potential connections. Think of it as forcing a sprawling metropolis to function using only a few key highways instead of every possible side street.</p>
<div class="lb-trans"><p>核心创新在于架构约束。通过强制模型绝大多数权重为零，研究人员迫使网络仅使用其潜在连接的一小部分来实现目标。可以将其视为强迫一个庞大的大都市仅通过少数关键高速公路而非所有可能的支路来运作。</p>
</div><p>The results, detailed in recent research, are compelling for simpler tasks. When tested on algorithmic challenges—like correctly closing a Python string with the matching quote mark—the resulting sparse models contained small, isolated “circuits” that performed the exact required logic. These circuits were both necessary and sufficient for the task; remove them, and the model fails.</p>
<div class="lb-trans"><p>最近研究中详细描述的结果在简单任务上令人信服。当在算法挑战上进行测试时——例如正确关闭一个 Python 字符串并匹配引号——得到的稀疏模型包含小而独立的 “电路”，执行所需的确切逻辑。这些电路对任务既是必要的也是充分的；如果去掉它们，模型就会失败。</p>
</div><p>The trade-off is clear: for a fixed model size, increasing sparsity reduces capability while dramatically boosting interpretability. However, the research suggests a path forward: scaling up the *total* number of parameters while maintaining high sparsity allows the model to become both more capable and retain simpler, understandable internal mechanisms. This shifts the interpretability frontier outward.</p>
<div class="lb-trans"><p>权衡是显而易见的：在固定模型大小的情况下，增加稀疏性会降低能力，同时显著提升可解释性。然而，研究表明了一条前进的道路：在保持高稀疏性的同时，增加 * 总 * 参数数量，使模型既能变得更强大，又能保留更简单、易于理解的内部机制。这将可解释性前沿向外推进。</p>
</div><p>This work isn’t a silver bullet for GPT-5 level complexity yet. The current sparse models are far smaller than frontier LLMs, and much of their computation remains opaque. The next steps involve scaling these techniques or, alternatively, developing methods to extract these clean, sparse circuits from already trained, efficient dense models. If successful, this research offers a tangible roadmap toward building AI systems where we don’t just trust the output, but fundamentally understand the underlying mechanism.</p>
<div class="lb-trans"><p>这项工作尚未成为应对 GPT-5 级复杂性的灵丹妙药。目前的稀疏模型远小于前沿的大型语言模型，其计算仍然在很大程度上不透明。下一步涉及扩大这些技术，或者开发从已经训练好的高效密集模型中提取这些干净、稀疏电路的方法。如果成功，这项研究提供了一条切实可行的路线图，朝着构建我们不仅信任输出，而且从根本上理解其底层机制的人工智能系统迈进。</p>
</div>

Cracking the Black Box: The Promise of Sparse Neural Networks

- 神经网络是现代 AI 的核心，但其复杂性导致难以解释。  
- 研究者通过训练稀疏神经网络，提升模型的可解释性。  
- 未来目标是实现高稀疏性与高能力的平衡，推动可解释性进展。  

揭开黑箱：稀疏神经网络的潜力