<p>隨着摩爾定律的放緩，以及實現代際性能提升所需能量的增加，一些芯片設計師正在尋求替代架構的救贖。</p>
<p>Neurophos 是那些試圖顛覆摩爾定律並實現模擬計算長期承諾但尚未充分開發潛力的公司之一。</p>
<p>這家位於德克薩斯州奧斯汀的人工智能芯片初創公司表示，它正在開發一種光學處理單元（OPU），理論上能夠提供 470 petaFLOPS 的 FP4 / INT4 計算能力——大約是英偉達新發布的 Rubin GPU 的 10 倍，同時使用的功耗大致相同。</p>
<p>Neurophos 首席執行官 Patrick Bowen 告訴 <em>El Reg</em>，這在一定程度上得益於該公司在過去幾年中開發的微米級超材料光調製器，基本上是光子晶體管。</p>
<p>&#34;今天從硅光子工廠獲得的光晶體管的等效物是巨大的。它大約有 2 毫米長。你根本無法在芯片上放置足夠多的它們，以便獲得與今天數字 CMOS 競爭的計算密度，&#34;他解釋道。</p>
<p>Bowen 表示，Neurophos 的光晶體管大約小 10,000 倍。&#34;我們在 5 月獲得了第一批硅樣品，證明我們可以使用標準 CMOS 工藝做到這一點，這意味着它與現有的代工技術兼容。&#34;</p>
<p>使用這些晶體管，Neurophos 聲稱已經開發出光學等效的張量核心。&#34;在芯片上，有一個單一的光子張量核心，大小為 1,000 x 1,000 [處理單元]，&#34;他説。</p>
<p>這比大多數 AI 加速器和 GPU 中通常看到的要大得多，後者使用的矩陣乘法引擎最多隻有 256x256 個處理單元。</p>
<p>然而，與我們在英偉達的 GPU 中看到的數十個甚至數百個張量核心不同，Neurophos 只需要一個。Bowen 告訴我們，其第一代加速器上的張量核心將佔據大約 25 mm²。</p>
<p>其餘的整片芯片是&#34;支持這個瘋狂張量核心所需的繁瑣部分，&#34; Bowen 説。</p>
<p>具體來説，Neurophos 需要大量的向量處理單元和 SRAM，以防止張量核心因數據不足而飢餓。這是因為張量核心本身——是的，再次強調，整個整片芯片上只有一個——的工作頻率約為 56 GHz。</p>
<p>但由於矩陣乘法是光學完成的，Bowen 指出，張量核心消耗的唯一電力是驅動數字到模擬再到數字的光電轉換所需的電力。</p>
<p>Neurophos 表示，其首款 OPU，代號 Tulkas T100，將採用雙整片設計，配備 768 GB 的 HBM，能夠在負載下消耗 1 到 2 千瓦的功率，達到 470 petaOPS。</p>
<p>儘管所有這些聽起來令人印象深刻，但重要的是要記住，這些數字目前更像是目標。該芯片仍在積極開發中，預計到 2028 年中期才會開始全面生產。即便如此，Bowen 也不期望它會大規模出貨。&#34;我們談論的是數千個芯片，而不是數萬個芯片。&#34;</p>
<p>雖然 Neurophos 認為其光學張量核心可以處理廣泛的 AI 推理工作負載，但它預計其首款芯片主要將用作預填充處理器。</p>
<p>正如我們之前討論的那樣，LLM 推理可以分為兩個階段：一個計算密集型的預填充階段，在此階段處理輸入令牌，以及一個受內存帶寬限制的階段，在此階段生成輸出令牌。</p>
<p>在過去的一年中，我們看到像英偉達這樣的芯片設計師將預填充和解碼分解為單獨的 GPU 池。對於其最新一代 GPU，英偉達開發了一種專用的預填充加速器，稱為 Rubin CPX。</p>
<p>Bowen 設想 Tulkas T100 將填補類似 Rubin CPX 的角色。&#34;當前的願景（可能會有所變化）基本上是我們會放置一架我們的機架，裏面有 256 個我們的芯片，並且與類似 NVL576 的機架配對，&#34;他説。</p>
<ul>
<li>人工智能正在重塑數據中心的電力流動</li>
<li>硅光子技術在不久的將來不會有太大意義，博通首席執行官表示</li>
<li>GPU 的價值並不如其金價那麼高——只是感覺如此</li>
<li>英偉達支持的光子初創公司 Ayar Labs 通過 GUC 設計合作瞄準超大規模客户</li>
</ul>
<p>從長遠來看，Bowen 旨在解決解碼階段，但他指出，在初創公司準備好處理令牌生成之前，需要開發多種技術，包括共封裝光學。</p>
<p>雖然 Tulkas T100 至少要到 2028 年才會出貨，但 Bowen 表示，公司正在積極開發一款概念驗證（PoC）芯片，以驗證其聲稱的計算和功率密度。</p>
<p>本週，Neurophos 完成了一輪 1.1 億美元的 A 輪融資，由 Gates Frontier 領投，微軟的風險投資基金和其他投資者參與，Bowen 表示這將為該 PoC 的開發提供資金。®</p>

費城交易所 半導體 ETF - iShares

半導體 3 倍做多 - Direxion

半導體 ETF - VanEck Vectors

標普半導體 ETF - SPDR

全球科技股指數 ETF - iShares

NGNE

動態半導體 ETF - Invesco

高科技指數 ETF - SPDR

<p>Neurophos 是一家由比爾·蓋茨支持的人工智能芯片初創公司，正在開發一種光處理單元（OPU）以復興摩爾定律。該 OPU 旨在提供 470 petaFLOPS 的計算能力，同時使用與 Nvidia 的 GPU 相似的功耗，這得益於其微米級光學晶體管。首款 OPU Tulkas T100 預計將在 2028 年中期準備就緒，初期生產將限制在數千個芯片。Neurophos 最近獲得了 1.1 億美元的 A 輪融資，以支持其開發工作</p>

<p>As Moore's Law slows to a crawl and the amount of energy required to deliver generational performance gains grows, some chip designers are looking to alternative architectures for salvation.</p>
<div class="lb-trans"><p>隨着摩爾定律的放緩，以及實現代際性能提升所需能量的增加，一些芯片設計師正在尋求替代架構的救贖。</p>
</div><p>Neurophos is among those trying to upend Moore's Law and make good on analog computing's long-promised yet largely untapped potential.</p>
<div class="lb-trans"><p>Neurophos 是那些試圖顛覆摩爾定律並實現模擬計算長期承諾但尚未充分開發潛力的公司之一。</p>
</div><p>The Austin, Texas-based AI chip startup says it's developing an optical processing unit (OPU) that in theory is capable of delivering 470 petaFLOPS of FP4 / INT4 compute — about 10x that of Nvidia's newly unveiled Rubin GPUs — while using roughly the same amount of power.</p>
<div class="lb-trans"><p>這家位於德克薩斯州奧斯汀的人工智能芯片初創公司表示，它正在開發一種光學處理單元（OPU），理論上能夠提供 470 petaFLOPS 的 FP4 / INT4 計算能力——大約是英偉達新發布的 Rubin GPU 的 10 倍，同時使用的功耗大致相同。</p>
</div><p>Neurophos CEO Patrick Bowen tells <em>El Reg</em> this is possible in part because of the micron-scale metamaterial optical modulators, essentially photonic transistors, that the company has spent the past several years developing.</p>
<div class="lb-trans"><p>Neurophos 首席執行官 Patrick Bowen 告訴 <em>El Reg</em>，這在一定程度上得益於該公司在過去幾年中開發的微米級超材料光調製器，基本上是光子晶體管。</p>
</div><p>&#34;The equivalent of the optical transistor that you get from Silicon Photonics factories today is massive. It's like 2 mm long. You just can't fit enough of them on chip in order to get a compute density that remotely competes with digital CMOS today,&#34; he explained.</p>
<div class="lb-trans"><p>&#34;今天從硅光子工廠獲得的光晶體管的等效物是巨大的。它大約有 2 毫米長。你根本無法在芯片上放置足夠多的它們，以便獲得與今天數字 CMOS 競爭的計算密度，&#34;他解釋道。</p>
</div><p>Neurophos' optical transistors, Bowen says, are roughly 10,000x smaller. &#34;We got our first silicon back in May demonstrating that we could do that with a standard CMOS process, which means it's compatible with existing foundry technologies.&#34;</p>
<div class="lb-trans"><p>Bowen 表示，Neurophos 的光晶體管大約小 10,000 倍。&#34;我們在 5 月獲得了第一批硅樣品，證明我們可以使用標準 CMOS 工藝做到這一點，這意味着它與現有的代工技術兼容。&#34;</p>
</div><p>Using these transistors, Neurophos claims to have developed the optical equivalent of a tensor core. &#34;On chip, there is a single photonic tensor core that is 1,000 by 1,000 [processing elements] in size,&#34; he said.</p>
<div class="lb-trans"><p>使用這些晶體管，Neurophos 聲稱已經開發出光學等效的張量核心。&#34;在芯片上，有一個單一的光子張量核心，大小為 1,000 x 1,000 [處理單元]，&#34;他説。</p>
</div><p>This is quite a bit bigger than what's typically seen in most AI accelerators and GPUs, which employ matrix multiplication engines that are at most 256x256 processing elements in size.</p>
<div class="lb-trans"><p>這比大多數 AI 加速器和 GPU 中通常看到的要大得多，後者使用的矩陣乘法引擎最多隻有 256x256 個處理單元。</p>
</div><p>However, rather than having dozens or even hundreds of these tensor cores, like we see in Nvidia's GPUs, Neurophos only needs one. Bowen tells us the tensor core on its first-gen accelerator will occupy roughly 25 mm2.</p>
<div class="lb-trans"><p>然而，與我們在英偉達的 GPU 中看到的數十個甚至數百個張量核心不同，Neurophos 只需要一個。Bowen 告訴我們，其第一代加速器上的張量核心將佔據大約 25 mm²。</p>
</div><p>The rest of the reticle-sized chip is &#34;the boondoggle of what it takes to support this insane tensor core,&#34; Bowen said.</p>
<div class="lb-trans"><p>其餘的整片芯片是&#34;支持這個瘋狂張量核心所需的繁瑣部分，&#34; Bowen 説。</p>
</div><p>Specifically, Neurophos needs a whack-ton of vector processing units and SRAM to keep the tensor core from starving for data. This is because the tensor core itself — and yes, again, there'll only be one of them on the entire reticle-sized die — is operating at around 56 gigahertz.</p>
<div class="lb-trans"><p>具體來説，Neurophos 需要大量的向量處理單元和 SRAM，以防止張量核心因數據不足而飢餓。這是因為張量核心本身——是的，再次強調，整個整片芯片上只有一個——的工作頻率約為 56 GHz。</p>
</div><p>But because the matrix-matrix multiplication is done optically, Bowen notes that the only power consumed by the tensor core is what's needed to drive the opto-electrical conversion from digital to analog and back again.</p>
<div class="lb-trans"><p>但由於矩陣乘法是光學完成的，Bowen 指出，張量核心消耗的唯一電力是驅動數字到模擬再到數字的光電轉換所需的電力。</p>
</div><p>Neurophos says its first OPU, codenamed the Tulkas T100, will feature a dual reticle design equipped with 768 GB of HBM that's capable of 470 petaOPS while consuming 1 to 2 kilowatts of power under load.</p>
<div class="lb-trans"><p>Neurophos 表示，其首款 OPU，代號 Tulkas T100，將採用雙整片設計，配備 768 GB 的 HBM，能夠在負載下消耗 1 到 2 千瓦的功率，達到 470 petaOPS。</p>
</div><p>As impressive as all this sounds, it's important to remember that these figures are more like goal posts at this point. The chip is still in active development with full production not expected to begin until mid-2028. Even then, Bowen doesn't expect it to ship in large volumes. &#34;We're talking thousands of chips. Not tens of thousands of chips.&#34;</p>
<div class="lb-trans"><p>儘管所有這些聽起來令人印象深刻，但重要的是要記住，這些數字目前更像是目標。該芯片仍在積極開發中，預計到 2028 年中期才會開始全面生產。即便如此，Bowen 也不期望它會大規模出貨。&#34;我們談論的是數千個芯片，而不是數萬個芯片。&#34;</p>
</div><p>While Neurophos believes its optical tensor cores can address a broad array of AI inference workloads, it expects its first chip will be used primarily as a prefill processor.</p>
<div class="lb-trans"><p>雖然 Neurophos 認為其光學張量核心可以處理廣泛的 AI 推理工作負載，但它預計其首款芯片主要將用作預填充處理器。</p>
</div><p>As we've previously discussed, LLM inference can be broken into two phases: a compute intensive prefill stage in which input tokens are processed, and a memory bandwidth bound stage in which output tokens are generated.</p>
<div class="lb-trans"><p>正如我們之前討論的那樣，LLM 推理可以分為兩個階段：一個計算密集型的預填充階段，在此階段處理輸入令牌，以及一個受內存帶寬限制的階段，在此階段生成輸出令牌。</p>
</div><p>Over the past year or so, we've seen chip designers like Nvidia disaggregate prefill and decode into separate pools of GPUs. For its latest generation of GPUs, Nvidia has developed a dedicated prefill accelerator that it calls Rubin CPX.</p>
<div class="lb-trans"><p>在過去的一年中，我們看到像英偉達這樣的芯片設計師將預填充和解碼分解為單獨的 GPU 池。對於其最新一代 GPU，英偉達開發了一種專用的預填充加速器，稱為 Rubin CPX。</p>
</div><p>Bowen envisions the Tulkas T100 filling a similar role as Rubin CPX. &#34;The current vision, which is subject to change, is basically we would put one rack of ours, which is 256 of our chips, and that would be paired with something like an NVL576 rack,&#34; he said.</p>
<div class="lb-trans"><p>Bowen 設想 Tulkas T100 將填補類似 Rubin CPX 的角色。&#34;當前的願景（可能會有所變化）基本上是我們會放置一架我們的機架，裏面有 256 個我們的芯片，並且與類似 NVL576 的機架配對，&#34;他説。</p>
</div><ul>
<li>AI is rewriting how power flows through the datacenter</li>
<li>Silicon photonics won't matter 'anytime soon' says Broadcom CEO</li>
<li>GPUs aren't worth their weight in gold – it just feels like they are</li>
<li>Nvidia-backed photonics startup Ayar Labs eyes hyperscale customers with GUC design collab</li>
</ul>
<div class="lb-trans"><ul>
<li>人工智能正在重塑數據中心的電力流動</li>
<li>硅光子技術在不久的將來不會有太大意義，博通首席執行官表示</li>
<li>GPU 的價值並不如其金價那麼高——只是感覺如此</li>
<li>英偉達支持的光子初創公司 Ayar Labs 通過 GUC 設計合作瞄準超大規模客户</li>
</ul>
</div><p>Long-term, Bowen aims to tackle the decode phase as well, but notes that a variety of technologies, including co-packaged optics, will need to be developed before the startup is ready to take on token generation.</p>
<div class="lb-trans"><p>從長遠來看，Bowen 旨在解決解碼階段，但他指出，在初創公司準備好處理令牌生成之前，需要開發多種技術，包括共封裝光學。</p>
</div><p>While the Tulkas T100 won't ship until at least 2028, Bowen says the company is actively working on a proof of concept (PoC) chip to validate the compute and power densities it's claiming.</p>
<div class="lb-trans"><p>雖然 Tulkas T100 至少要到 2028 年才會出貨，但 Bowen 表示，公司正在積極開發一款概念驗證（PoC）芯片，以驗證其聲稱的計算和功率密度。</p>
</div><p>This week, Neurophos completed a $110 million Series-A funding round led by Gates Frontier, with participation from Microsoft's venture fund and other investors, which Bowen says will fund development of this PoC. ®</p>
<div class="lb-trans"><p>本週，Neurophos 完成了一輪 1.1 億美元的 A 輪融資，由 Gates Frontier 領投，微軟的風險投資基金和其他投資者參與，Bowen 表示這將為該 PoC 的開發提供資金。®</p>
</div>

Bill Gates-backed startup aims to revive Moore's Law with optical transistors

The Register

Neurogene

英偉達

由比爾·蓋茨支持的初創公司計劃通過光學晶體管來重振摩爾定律