提供行業領先的性能效率，並在單個 PCIe 卡上支持 700B 參數模型——無需 GPU 集羣或強力冷卻
, /PRNewswire/ -- 在 2026 年 COMPUTEX 展會前夕，Skymizer 台灣公司，作為 AI 推理解決方案的先驅，今天預覽了一項在本地 AI 部署方面的重大進展，推出了其 HTX301 推理芯片，該芯片集成了 HyperThought™——一個在 2025 年 COMPUTEX 首次推出的軟件/硬件協同設計平台。HTX301 是 HyperThought IP 的第一個參考芯片，定義了 AI 推理的長期架構。這個首個硅片提供了卓越的性能效率，同時顯著簡化了超大模型推理所需的基礎設施。
打破超大模型推理的 GPU 壟斷
在本地部署超大模型歷史上，通常需要龐大的 GPU 集羣、高速互連（如 NVLink/NVSwitch）和強力冷卻系統——這導致了高昂的成本和操作複雜性。
Skymizer 首次在行業內實現了這一目標。
通過一張 PCIe 卡——由 六個 HTX301 芯片和 384 GB 內存 提供支持——企業現在可以在本地以約 240W 的功耗運行 700B 參數模型推理。
HyperThought 旨在 在不同形態之間靈活擴展——以 SoC 或卡片 的形式，從 邊緣到迷你數據中心。從 單個芯片擴展到單卡上的 6 個芯片，內存容量範圍從 32GB 到 384 GB，HyperThought 支持從 4B 到 700B 參數 的模型——讓企業能夠根據實際工作負載需求合理配置部署，而無需過度配置。
&#34;推理已成為主導的 AI 工作負載，基礎設施需要反映這一現實。&#34;
&#34;需要超標量 GPU 集羣來處理超大 LLM 的時代已經結束。HyperThought 將 AI 從僅限於超大規模的複雜性轉變為每個企業都能實現的單卡簡單性。&#34;
— William Wei, Skymizer 首席營銷官
消除企業 AI 的隱性税負
結果：企業獲得數據隱私、低延遲和完全的操作控制——無需 GPU 集羣的基礎設施負擔。
本地推理還消除了每個令牌支出的焦慮，這已成為企業 AI 採用的隱性税負。基於雲的推理迫使團隊限制查詢和調節代理。HyperThought 消除了這一限制：一旦部署，企業可以以固定的基礎設施成本進行無限推理。
HyperThought 補充現有的 GPU 基礎設施，而不是取而代之。通過將解碼密集型推理從 GPU 中卸載，企業提高了整體集羣的利用率和能效。
推動企業中的代理 AI 工作流
HyperThought 和 HTX301 旨在滿足迅速成為企業自動化支柱的代理 AI 工作負載。結合 OpenClaw 等代理框架——HTX301 提供了這些系統所需的推理吞吐量，確保數據主權和確定性延遲。
這使得各行業和領域的代理工作流和自動化成為可能，包括：
金融服務（合規、欺詐檢測、投資組合推理）；醫療保健與生命科學（臨牀決策支持、藥物相互作用分析）；製造業（預測性維護、質量檢查）；法律與專業服務（合同審查、機密知識檢索）；政府與國防（主權 AI、機密分析）；零售（服務自動化、庫存推理）；軟件工程（私有代碼助手、自動化 CI/CD）；以及 半導體與 IC 設計（本地 RTL 助手、驗證代理、基於專有 IP 的設計知識檢索）。
聚焦：本地 AI 編碼。 AI 輔助編碼已經成為現代軟件團隊的基本要求，需求在源代碼是公司瑰寶的領域中加速增長。IC 設計公司無法將專有 RTL 發送到基於雲的助手，而不冒着暴露數十億美元硅 IP 的風險；軟件公司在處理機密代碼庫和客户數據時面臨同樣的考量。HTX301 提供了所需的吞吐量，以完全在本地運行私有代碼助手、RTL 生成器和驗證代理——消除雲暴露風險，同時保留 AI 輔助工程的全部生產力提升。
除了代理工作負載，單個 HTX301 芯片還支持設備上的推理——轉錄、翻譯、視覺理解和多模態 AI——適用於邊緣服務器、AI 工作站、智能 NAS 系統和智能終端。
由 LISA™ 和 HyperThought™ 提供支持
HyperThought 由 LISA™（語言指令集架構） 提供支持，這是 Skymizer 的專有語言中心 ISA，針對變換器推理進行了優化。LISA 驅動從邊緣設備到企業集羣的性能、能效和可擴展性。
本地 HTX301 卡與 HyperThought 的設備 LPU 共享相同的 LISA 架構基礎——一個 ISA，一個部署工作流，從邊緣到數據中心。
預填/解碼分離：HyperThought P/D 策略
LLM 推理由兩個根本不同的階段組成：預填（處理輸入提示，計算密集型）和 解碼（逐個生成令牌，內存帶寬密集型）。以 GPU 為中心的基礎設施將兩者強行結合在同一硅片上，導致在任何給定時刻計算或帶寬的浪費。HyperThought 通過設計將這些階段分離。
硬件堆棧——解碼優先的硅片。 HTX301 專為解碼而設計——內存帶寬密集型的令牌生成主導了現實世界的推理延遲。現有的 GPU 處理計算密集型的預填；HTX301 卡處理解碼。每個硅片與其階段相匹配。
軟件棧 — 統一的 P/D 協調。 Skymizer 的統一軟件棧 — KV 緩存管理器、階段感知調度器和動態放置引擎 — 協調預填充和解碼池，在節點之間傳遞 KV 緩存狀態，並在工作負載變化時實時重新平衡 P:D 比率。
&#34;專為解碼而設計的硬件與智能軟件棧相結合，協調每個推理工作負載 — 這就是如何在規模上解耦 P/D。&#34;
— Luba Tang，Skymizer 首席技術官
定義 AI 部署的下一個時代
隨着模型參數從數十億激增至數萬億，行業對粗暴 GPU 擴展的依賴正面臨瓶頸。Skymizer 的構建旨在超越這一點 — 結合深厚的編譯器專業知識與解碼優化的硅片，定義 AI 基礎設施的下一個時代。
關於 HyperThought 擴展平台路線圖的詳細信息將在 Skymizer 於 COMPUTEX 2026 的新聞發佈會上分享。
請求提前訪問 HTX301: skymizer.ai/press
關於 Skymizer 台灣有限公司
Skymizer 成立於 2013 年，是一家 AI 推理公司。其旗艦產品 HyperThought 平台將編譯驅動的軟件棧與優化的變壓器硬件相結合，以在設備、邊緣和本地環境中提供高效的推理。
<img src="https://imageproxy.pbkrs.com/https://edge.prnewswire.com/c/img/favicon.png/query-c2Q9MjAyNi0wNC0yMyZzbj1ISzQwOTcz?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" width="16" height="16" original-src="https://imageproxy.pbkrs.com/https://edge.prnewswire.com/c/img/favicon.png/query-c2Q9MjAyNi0wNC0yMyZzbj1ISzQwOTcz"/>
查看原始內容：https://www.prnewswire.com/news-releases/skymizer-taiwan-inc-unveils-breakthrough-architecture-enabling-ultra-large-llm-inference-on-a-single-card-302751485.html
來源 Skymizer 台灣有限公司

半導體 ETF - VanEck Vectors

標普半導體 ETF - SPDR

動態半導體 ETF - Invesco

納斯達克半導體 ETF - First Trust

全球科技股指數 ETF - iShares

半導體 3 倍做多 - Direxion

費城交易所 半導體 ETF - iShares

台灣指數 MSCI ETF - iShares

Skymizer Taiwan Inc. 推出了 HTX301 推理芯片，使得在單個 PCIe 卡上進行超大規模 LLM 推理成為可能，能夠運行 700B 參數模型而無需 GPU 集羣。這一創新簡化了 AI 基礎設施，提供低延遲、數據隱私和操作控制。HyperThought 平台允許靈活擴展，並與現有的 GPU 設置互補，提升整體效率。HTX301 旨在支持各種企業應用，包括金融、醫療保健和軟件工程，同時通過支持本地 AI 工作流程確保數據安全

Delivers industry-leading performance efficiency and enables 700B-parameter models on a single PCIe card — without GPU clusters or intensive cooling
<div class="lb-trans">提供行業領先的性能效率，並在單個 PCIe 卡上支持 700B 參數模型——無需 GPU 集羣或強力冷卻
</div>, /PRNewswire/ -- Ahead of COMPUTEX 2026, Skymizer Taiwan Inc., a pioneer in AI inference solutions, today previewed a major advancement in on-premise AI deployment with its HTX301 inference chip, which integrates HyperThought™ — a software/hardware co-design platform first introduced at COMPUTEX 2025. The HTX301 is the first reference chip of the HyperThought IP, which defines a long-horizon architecture for AI inference. This first silicon delivers superior performance efficiency while dramatically simplifying the infrastructure required for ultra-large model inference.
<div class="lb-trans">, /PRNewswire/ -- 在 2026 年 COMPUTEX 展會前夕，Skymizer 台灣公司，作為 AI 推理解決方案的先驅，今天預覽了一項在本地 AI 部署方面的重大進展，推出了其 HTX301 推理芯片，該芯片集成了 HyperThought™——一個在 2025 年 COMPUTEX 首次推出的軟件/硬件協同設計平台。HTX301 是 HyperThought IP 的第一個參考芯片，定義了 AI 推理的長期架構。這個首個硅片提供了卓越的性能效率，同時顯著簡化了超大模型推理所需的基礎設施。
</div>Dismantling the GPU Monopoly on Ultra-Large Model Inference
<div class="lb-trans">打破超大模型推理的 GPU 壟斷
</div>Deploying ultra-large models on-premise has historically required massive GPU clusters, high-speed interconnects like NVLink/NVSwitch, and intensive cooling systems — resulting in prohibitive cost and operational complexity.
<div class="lb-trans">在本地部署超大模型歷史上，通常需要龐大的 GPU 集羣、高速互連（如 NVLink/NVSwitch）和強力冷卻系統——這導致了高昂的成本和操作複雜性。
</div>For the first time in the industry, Skymizer is making this possible.
<div class="lb-trans">Skymizer 首次在行業內實現了這一目標。
</div>With a single PCIe card — powered by six HTX301 chips and 384 GB of memory — enterprises can now run 700B-parameter model inference locally at just ~240W per card.
<div class="lb-trans">通過一張 PCIe 卡——由 六個 HTX301 芯片和 384 GB 內存 提供支持——企業現在可以在本地以約 240W 的功耗運行 700B 參數模型推理。
</div>HyperThought is architected for flexible scaling across different form factors — packaged as an SoC or card, from edge to mini data center. Scaling from 1 chip to 6 chips on a single card, with memory capacity ranging from 32GB to 384 GB, HyperThought serves models from 4B to 700B parameters — letting enterprises right-size their deployment to actual workload requirements without over-provisioning.
<div class="lb-trans">HyperThought 旨在 在不同形態之間靈活擴展——以 SoC 或卡片 的形式，從 邊緣到迷你數據中心。從 單個芯片擴展到單卡上的 6 個芯片，內存容量範圍從 32GB 到 384 GB，HyperThought 支持從 4B 到 700B 參數 的模型——讓企業能夠根據實際工作負載需求合理配置部署，而無需過度配置。
</div>&#34;Inference has become the dominant AI workload, and infrastructure needs to reflect that reality.&#34;
<div class="lb-trans">&#34;推理已成為主導的 AI 工作負載，基礎設施需要反映這一現實。&#34;
</div>&#34;The era of needing superscalar GPU clusters for ultra-large LLMs is over. HyperThought shifts AI from hyperscaler-only complexity to single-card simplicity for every enterprise.&#34;
<div class="lb-trans">&#34;需要超標量 GPU 集羣來處理超大 LLM 的時代已經結束。HyperThought 將 AI 從僅限於超大規模的複雜性轉變為每個企業都能實現的單卡簡單性。&#34;
</div>— William Wei, Chief Marketing Officer, Skymizer
<div class="lb-trans">— William Wei, Skymizer 首席營銷官
</div>Eliminating the Hidden Tax on Enterprise AI
<div class="lb-trans">消除企業 AI 的隱性税負
</div>The result: enterprises gain data privacy, low latency, and full operational control — without the infrastructure burden of GPU clusters.
<div class="lb-trans">結果：企業獲得數據隱私、低延遲和完全的操作控制——無需 GPU 集羣的基礎設施負擔。
</div>On-prem inference also eliminates the per-token spending anxiety that has become the silent tax on enterprise AI adoption. Cloud-based inference forces teams to ration queries and throttle agents. HyperThought removes that constraint: once deployed, enterprises run unlimited inference at a fixed infrastructure cost.
<div class="lb-trans">本地推理還消除了每個令牌支出的焦慮，這已成為企業 AI 採用的隱性税負。基於雲的推理迫使團隊限制查詢和調節代理。HyperThought 消除了這一限制：一旦部署，企業可以以固定的基礎設施成本進行無限推理。
</div>HyperThought complements existing GPU infrastructure rather than replacing it. By offloading decode-heavy inference from GPUs, enterprises improve overall cluster utilization and power efficiency.
<div class="lb-trans">HyperThought 補充現有的 GPU 基礎設施，而不是取而代之。通過將解碼密集型推理從 GPU 中卸載，企業提高了整體集羣的利用率和能效。
</div>Powering Agentic AI Workflows Across the Enterprise
<div class="lb-trans">推動企業中的代理 AI 工作流
</div>HyperThought and the HTX301 are designed for the agentic AI workloads that are rapidly becoming the backbone of enterprise automation. Combined with agent harness frameworks such as OpenClaw — HTX301 delivers the inference throughput these systems demand, with full data sovereignty and deterministic latency.
<div class="lb-trans">HyperThought 和 HTX301 旨在滿足迅速成為企業自動化支柱的代理 AI 工作負載。結合 OpenClaw 等代理框架——HTX301 提供了這些系統所需的推理吞吐量，確保數據主權和確定性延遲。
</div>This enables agentic workflow and automation across industries and sectors, including:
<div class="lb-trans">這使得各行業和領域的代理工作流和自動化成為可能，包括：
</div>Financial services (compliance, fraud detection, portfolio reasoning); healthcare &amp; life sciences (clinical decision support, drug interaction analysis); manufacturing (predictive maintenance, quality inspection); legal &amp; professional services (contract review, confidential knowledge retrieval); government &amp; defense (sovereign AI, classified analysis); retail (service automation, inventory reasoning); software engineering (private code copilots, autonomous CI/CD); and semiconductor &amp; IC design (on-prem RTL copilots, verification agents, design-knowledge retrieval over proprietary IP).
<div class="lb-trans">金融服務（合規、欺詐檢測、投資組合推理）；醫療保健與生命科學（臨牀決策支持、藥物相互作用分析）；製造業（預測性維護、質量檢查）；法律與專業服務（合同審查、機密知識檢索）；政府與國防（主權 AI、機密分析）；零售（服務自動化、庫存推理）；軟件工程（私有代碼助手、自動化 CI/CD）；以及 半導體與 IC 設計（本地 RTL 助手、驗證代理、基於專有 IP 的設計知識檢索）。
</div>Spotlight: On-Prem AI Coding. AI-assisted coding is already table stakes for modern software teams, and demand is accelerating fastest in domains where source code is the company's crown jewel. IC design houses cannot send proprietary RTL to cloud-based assistants without risking exposure of multi-billion-dollar silicon IP; software companies face the same calculus with confidential codebases and customer data. HTX301 delivers the throughput needed to run private code copilots, RTL generators, and verification agents entirely on-premise — eliminating cloud-exposure risk while preserving the full productivity gains of AI-assisted engineering.
<div class="lb-trans">聚焦：本地 AI 編碼。 AI 輔助編碼已經成為現代軟件團隊的基本要求，需求在源代碼是公司瑰寶的領域中加速增長。IC 設計公司無法將專有 RTL 發送到基於雲的助手，而不冒着暴露數十億美元硅 IP 的風險；軟件公司在處理機密代碼庫和客户數據時面臨同樣的考量。HTX301 提供了所需的吞吐量，以完全在本地運行私有代碼助手、RTL 生成器和驗證代理——消除雲暴露風險，同時保留 AI 輔助工程的全部生產力提升。
</div>Beyond agentic workloads, a single HTX301 chip supports on-device inference — transcription, translation, visual understanding, and multimodal AI — across edge servers, AI workstations, smart NAS systems, and intelligent endpoints.
<div class="lb-trans">除了代理工作負載，單個 HTX301 芯片還支持設備上的推理——轉錄、翻譯、視覺理解和多模態 AI——適用於邊緣服務器、AI 工作站、智能 NAS 系統和智能終端。
</div>Powered by LISA™ and HyperThought™
<div class="lb-trans">由 LISA™ 和 HyperThought™ 提供支持
</div>HyperThought is powered by LISA™ (Language Instruction Set Architecture), Skymizer's proprietary, language-centric ISA optimized for transformer inference. LISA drives performance, power efficiency, and scalability from edge devices to enterprise clusters.
<div class="lb-trans">HyperThought 由 LISA™（語言指令集架構） 提供支持，這是 Skymizer 的專有語言中心 ISA，針對變換器推理進行了優化。LISA 驅動從邊緣設備到企業集羣的性能、能效和可擴展性。
</div>The on-prem HTX301 card shares the same LISA architectural foundation as HyperThought's on-device LPU — one ISA, one deployment workflow, edge to data center.
<div class="lb-trans">本地 HTX301 卡與 HyperThought 的設備 LPU 共享相同的 LISA 架構基礎——一個 ISA，一個部署工作流，從邊緣到數據中心。
</div>Prefill/Decode Disaggregation: The HyperThought P/D Strategy
<div class="lb-trans">預填/解碼分離：HyperThought P/D 策略
</div>LLM inference consists of two fundamentally different phases: prefill (processing the input prompt, compute-bound) and decode (generating tokens one at a time, memory-bandwidth-bound). GPU-centric infrastructure forces both onto the same silicon, stranding either compute or bandwidth at any given moment. HyperThought disaggregates these phases by design.
<div class="lb-trans">LLM 推理由兩個根本不同的階段組成：預填（處理輸入提示，計算密集型）和 解碼（逐個生成令牌，內存帶寬密集型）。以 GPU 為中心的基礎設施將兩者強行結合在同一硅片上，導致在任何給定時刻計算或帶寬的浪費。HyperThought 通過設計將這些階段分離。
</div>Hardware Stack — Decode-First Silicon. The HTX301 is purpose-built for decode — the memory-bandwidth-intensive token generation that dominates real-world inference latency. Existing GPUs handle compute-dense prefill; HTX301 cards handle decode. Each silicon matched to its phase.
<div class="lb-trans">硬件堆棧——解碼優先的硅片。 HTX301 專為解碼而設計——內存帶寬密集型的令牌生成主導了現實世界的推理延遲。現有的 GPU 處理計算密集型的預填；HTX301 卡處理解碼。每個硅片與其階段相匹配。
</div>Software Stack — Unified P/D Orchestration. Skymizer's unified software stack — KV-cache manager, phase-aware scheduler, and dynamic placement engine — orchestrates prefill and decode pools, carrying KV-cache state across nodes and rebalancing P:D ratios in real time as workloads shift.
<div class="lb-trans">軟件棧 — 統一的 P/D 協調。 Skymizer 的統一軟件棧 — KV 緩存管理器、階段感知調度器和動態放置引擎 — 協調預填充和解碼池，在節點之間傳遞 KV 緩存狀態，並在工作負載變化時實時重新平衡 P:D 比率。
</div>&#34;Purpose-built decode hardware paired with an intelligent software stack that orchestrates every inference workload — that's how you disaggregate P/D at scale.&#34;
<div class="lb-trans">&#34;專為解碼而設計的硬件與智能軟件棧相結合，協調每個推理工作負載 — 這就是如何在規模上解耦 P/D。&#34;
</div>— Luba Tang, Chief Technology Officer, Skymizer
<div class="lb-trans">— Luba Tang，Skymizer 首席技術官
</div>Defining the Next Era of AI Deployment
<div class="lb-trans">定義 AI 部署的下一個時代
</div>As models surge from billions to trillions of parameters, the industry's dependence on brute-force GPU scaling is hitting a wall. Skymizer is built to move past it — combining deep compiler expertise with decode-optimized silicon to define the next era of AI infrastructure.
<div class="lb-trans">隨着模型參數從數十億激增至數萬億，行業對粗暴 GPU 擴展的依賴正面臨瓶頸。Skymizer 的構建旨在超越這一點 — 結合深厚的編譯器專業知識與解碼優化的硅片，定義 AI 基礎設施的下一個時代。
</div>Details on HyperThought's extended platform roadmap will be shared at Skymizer's press conference at COMPUTEX 2026.
<div class="lb-trans">關於 HyperThought 擴展平台路線圖的詳細信息將在 Skymizer 於 COMPUTEX 2026 的新聞發佈會上分享。
</div>Request early access to HTX301: skymizer.ai/press
<div class="lb-trans">請求提前訪問 HTX301: skymizer.ai/press
</div>About Skymizer Taiwan Inc.
<div class="lb-trans">關於 Skymizer 台灣有限公司
</div>Founded in 2013, Skymizer is an AI inference company. Its flagship HyperThought platform pairs a compiler-driven software stack with transformer-optimized hardware to deliver high-efficiency inference across on-device, edge, and on-prem environments.
<div class="lb-trans">Skymizer 成立於 2013 年，是一家 AI 推理公司。其旗艦產品 HyperThought 平台將編譯驅動的軟件棧與優化的變壓器硬件相結合，以在設備、邊緣和本地環境中提供高效的推理。
</div><img src="https://imageproxy.pbkrs.com/https://edge.prnewswire.com/c/img/favicon.png/query-c2Q9MjAyNi0wNC0yMyZzbj1ISzQwOTcz" alt="" original-src="https://edge.prnewswire.com/c/img/favicon.png?sn=HK40973&amp;sd=2026-04-23"/>
View original content:https://www.prnewswire.com/news-releases/skymizer-taiwan-inc-unveils-breakthrough-architecture-enabling-ultra-large-llm-inference-on-a-single-card-302751485.html
<div class="lb-trans">查看原始內容：https://www.prnewswire.com/news-releases/skymizer-taiwan-inc-unveils-breakthrough-architecture-enabling-ultra-large-llm-inference-on-a-single-card-302751485.html
</div>SOURCE Skymizer Taiwan Inc.
<div class="lb-trans">來源 Skymizer 台灣有限公司
</div>

Skymizer Taiwan Inc. Unveils Breakthrough Architecture Enabling Ultra-Large LLM Inference on a Single Card

Fidelity

Taiwan Fd

Skymizer Taiwan Inc.發佈突破性架構，使超大型 LLM 推理能夠在單張卡上實現