提供行业领先的性能效率，并在单个 PCIe 卡上支持 700B 参数模型——无需 GPU 集群或强力冷却
, /PRNewswire/ -- 在 2026 年 COMPUTEX 展会前夕，Skymizer 台湾公司，作为 AI 推理解决方案的先驱，今天预览了一项在本地 AI 部署方面的重大进展，推出了其 HTX301 推理芯片，该芯片集成了 HyperThought™——一个在 2025 年 COMPUTEX 首次推出的软件/硬件协同设计平台。HTX301 是 HyperThought IP 的第一个参考芯片，定义了 AI 推理的长期架构。这个首个硅片提供了卓越的性能效率，同时显著简化了超大模型推理所需的基础设施。
打破超大模型推理的 GPU 垄断
在本地部署超大模型历史上，通常需要庞大的 GPU 集群、高速互连（如 NVLink/NVSwitch）和强力冷却系统——这导致了高昂的成本和操作复杂性。
Skymizer 首次在行业内实现了这一目标。
通过一张 PCIe 卡——由 六个 HTX301 芯片和 384 GB 内存 提供支持——企业现在可以在本地以约 240W 的功耗运行 700B 参数模型推理。
HyperThought 旨在 在不同形态之间灵活扩展——以 SoC 或卡片 的形式，从 边缘到迷你数据中心。从 单个芯片扩展到单卡上的 6 个芯片，内存容量范围从 32GB 到 384 GB，HyperThought 支持从 4B 到 700B 参数 的模型——让企业能够根据实际工作负载需求合理配置部署，而无需过度配置。
&#34;推理已成为主导的 AI 工作负载，基础设施需要反映这一现实。&#34;
&#34;需要超标量 GPU 集群来处理超大 LLM 的时代已经结束。HyperThought 将 AI 从仅限于超大规模的复杂性转变为每个企业都能实现的单卡简单性。&#34;
— William Wei, Skymizer 首席营销官
消除企业 AI 的隐性税负
结果：企业获得数据隐私、低延迟和完全的操作控制——无需 GPU 集群的基础设施负担。
本地推理还消除了每个令牌支出的焦虑，这已成为企业 AI 采用的隐性税负。基于云的推理迫使团队限制查询和调节代理。HyperThought 消除了这一限制：一旦部署，企业可以以固定的基础设施成本进行无限推理。
HyperThought 补充现有的 GPU 基础设施，而不是取而代之。通过将解码密集型推理从 GPU 中卸载，企业提高了整体集群的利用率和能效。
推动企业中的代理 AI 工作流
HyperThought 和 HTX301 旨在满足迅速成为企业自动化支柱的代理 AI 工作负载。结合 OpenClaw 等代理框架——HTX301 提供了这些系统所需的推理吞吐量，确保数据主权和确定性延迟。
这使得各行业和领域的代理工作流和自动化成为可能，包括：
金融服务（合规、欺诈检测、投资组合推理）；医疗保健与生命科学（临床决策支持、药物相互作用分析）；制造业（预测性维护、质量检查）；法律与专业服务（合同审查、机密知识检索）；政府与国防（主权 AI、机密分析）；零售（服务自动化、库存推理）；软件工程（私有代码助手、自动化 CI/CD）；以及 半导体与 IC 设计（本地 RTL 助手、验证代理、基于专有 IP 的设计知识检索）。
聚焦：本地 AI 编码。 AI 辅助编码已经成为现代软件团队的基本要求，需求在源代码是公司瑰宝的领域中加速增长。IC 设计公司无法将专有 RTL 发送到基于云的助手，而不冒着暴露数十亿美元硅 IP 的风险；软件公司在处理机密代码库和客户数据时面临同样的考量。HTX301 提供了所需的吞吐量，以完全在本地运行私有代码助手、RTL 生成器和验证代理——消除云暴露风险，同时保留 AI 辅助工程的全部生产力提升。
除了代理工作负载，单个 HTX301 芯片还支持设备上的推理——转录、翻译、视觉理解和多模态 AI——适用于边缘服务器、AI 工作站、智能 NAS 系统和智能终端。
由 LISA™ 和 HyperThought™ 提供支持
HyperThought 由 LISA™（语言指令集架构） 提供支持，这是 Skymizer 的专有语言中心 ISA，针对变换器推理进行了优化。LISA 驱动从边缘设备到企业集群的性能、能效和可扩展性。
本地 HTX301 卡与 HyperThought 的设备 LPU 共享相同的 LISA 架构基础——一个 ISA，一个部署工作流，从边缘到数据中心。
预填/解码分离：HyperThought P/D 策略
LLM 推理由两个根本不同的阶段组成：预填（处理输入提示，计算密集型）和 解码（逐个生成令牌，内存带宽密集型）。以 GPU 为中心的基础设施将两者强行结合在同一硅片上，导致在任何给定时刻计算或带宽的浪费。HyperThought 通过设计将这些阶段分离。
硬件堆栈——解码优先的硅片。 HTX301 专为解码而设计——内存带宽密集型的令牌生成主导了现实世界的推理延迟。现有的 GPU 处理计算密集型的预填；HTX301 卡处理解码。每个硅片与其阶段相匹配。
软件栈 — 统一的 P/D 协调。 Skymizer 的统一软件栈 — KV 缓存管理器、阶段感知调度器和动态放置引擎 — 协调预填充和解码池，在节点之间传递 KV 缓存状态，并在工作负载变化时实时重新平衡 P:D 比率。
&#34;专为解码而设计的硬件与智能软件栈相结合，协调每个推理工作负载 — 这就是如何在规模上解耦 P/D。&#34;
— Luba Tang，Skymizer 首席技术官
定义 AI 部署的下一个时代
随着模型参数从数十亿激增至数万亿，行业对粗暴 GPU 扩展的依赖正面临瓶颈。Skymizer 的构建旨在超越这一点 — 结合深厚的编译器专业知识与解码优化的硅片，定义 AI 基础设施的下一个时代。
关于 HyperThought 扩展平台路线图的详细信息将在 Skymizer 于 COMPUTEX 2026 的新闻发布会上分享。
请求提前访问 HTX301: skymizer.ai/press
关于 Skymizer 台湾有限公司
Skymizer 成立于 2013 年，是一家 AI 推理公司。其旗舰产品 HyperThought 平台将编译驱动的软件栈与优化的变压器硬件相结合，以在设备、边缘和本地环境中提供高效的推理。
<img src="https://imageproxy.pbkrs.com/https://edge.prnewswire.com/c/img/favicon.png/query-c2Q9MjAyNi0wNC0yMyZzbj1ISzQwOTcz?x-oss-process=image/auto-orient,1/interlace,1/resize,w_1440,h_1440/quality,q_95/format,jpg" alt="" width="16" height="16" original-src="https://imageproxy.pbkrs.com/https://edge.prnewswire.com/c/img/favicon.png/query-c2Q9MjAyNi0wNC0yMyZzbj1ISzQwOTcz"/>
查看原始内容：https://www.prnewswire.com/news-releases/skymizer-taiwan-inc-unveils-breakthrough-architecture-enabling-ultra-large-llm-inference-on-a-single-card-302751485.html
来源 Skymizer 台湾有限公司

半导体 ETF - VanEck Vectors

标普半导体 ETF - SPDR

动态半导体 ETF - Invesco

纳斯达克半导体 ETF - First Trust

全球科技股指数 ETF - iShares

半导体 3 倍做多 - Direxion

费城交易所 半导体 ETF - iShares

台湾指数 MSCI ETF - iShares

Skymizer Taiwan Inc. 推出了 HTX301 推理芯片，使得在单个 PCIe 卡上进行超大规模 LLM 推理成为可能，能够运行 700B 参数模型而无需 GPU 集群。这一创新简化了 AI 基础设施，提供低延迟、数据隐私和操作控制。HyperThought 平台允许灵活扩展，并与现有的 GPU 设置互补，提升整体效率。HTX301 旨在支持各种企业应用，包括金融、医疗保健和软件工程，同时通过支持本地 AI 工作流程确保数据安全

Delivers industry-leading performance efficiency and enables 700B-parameter models on a single PCIe card — without GPU clusters or intensive cooling
<div class="lb-trans">提供行业领先的性能效率，并在单个 PCIe 卡上支持 700B 参数模型——无需 GPU 集群或强力冷却
</div>, /PRNewswire/ -- Ahead of COMPUTEX 2026, Skymizer Taiwan Inc., a pioneer in AI inference solutions, today previewed a major advancement in on-premise AI deployment with its HTX301 inference chip, which integrates HyperThought™ — a software/hardware co-design platform first introduced at COMPUTEX 2025. The HTX301 is the first reference chip of the HyperThought IP, which defines a long-horizon architecture for AI inference. This first silicon delivers superior performance efficiency while dramatically simplifying the infrastructure required for ultra-large model inference.
<div class="lb-trans">, /PRNewswire/ -- 在 2026 年 COMPUTEX 展会前夕，Skymizer 台湾公司，作为 AI 推理解决方案的先驱，今天预览了一项在本地 AI 部署方面的重大进展，推出了其 HTX301 推理芯片，该芯片集成了 HyperThought™——一个在 2025 年 COMPUTEX 首次推出的软件/硬件协同设计平台。HTX301 是 HyperThought IP 的第一个参考芯片，定义了 AI 推理的长期架构。这个首个硅片提供了卓越的性能效率，同时显著简化了超大模型推理所需的基础设施。
</div>Dismantling the GPU Monopoly on Ultra-Large Model Inference
<div class="lb-trans">打破超大模型推理的 GPU 垄断
</div>Deploying ultra-large models on-premise has historically required massive GPU clusters, high-speed interconnects like NVLink/NVSwitch, and intensive cooling systems — resulting in prohibitive cost and operational complexity.
<div class="lb-trans">在本地部署超大模型历史上，通常需要庞大的 GPU 集群、高速互连（如 NVLink/NVSwitch）和强力冷却系统——这导致了高昂的成本和操作复杂性。
</div>For the first time in the industry, Skymizer is making this possible.
<div class="lb-trans">Skymizer 首次在行业内实现了这一目标。
</div>With a single PCIe card — powered by six HTX301 chips and 384 GB of memory — enterprises can now run 700B-parameter model inference locally at just ~240W per card.
<div class="lb-trans">通过一张 PCIe 卡——由 六个 HTX301 芯片和 384 GB 内存 提供支持——企业现在可以在本地以约 240W 的功耗运行 700B 参数模型推理。
</div>HyperThought is architected for flexible scaling across different form factors — packaged as an SoC or card, from edge to mini data center. Scaling from 1 chip to 6 chips on a single card, with memory capacity ranging from 32GB to 384 GB, HyperThought serves models from 4B to 700B parameters — letting enterprises right-size their deployment to actual workload requirements without over-provisioning.
<div class="lb-trans">HyperThought 旨在 在不同形态之间灵活扩展——以 SoC 或卡片 的形式，从 边缘到迷你数据中心。从 单个芯片扩展到单卡上的 6 个芯片，内存容量范围从 32GB 到 384 GB，HyperThought 支持从 4B 到 700B 参数 的模型——让企业能够根据实际工作负载需求合理配置部署，而无需过度配置。
</div>&#34;Inference has become the dominant AI workload, and infrastructure needs to reflect that reality.&#34;
<div class="lb-trans">&#34;推理已成为主导的 AI 工作负载，基础设施需要反映这一现实。&#34;
</div>&#34;The era of needing superscalar GPU clusters for ultra-large LLMs is over. HyperThought shifts AI from hyperscaler-only complexity to single-card simplicity for every enterprise.&#34;
<div class="lb-trans">&#34;需要超标量 GPU 集群来处理超大 LLM 的时代已经结束。HyperThought 将 AI 从仅限于超大规模的复杂性转变为每个企业都能实现的单卡简单性。&#34;
</div>— William Wei, Chief Marketing Officer, Skymizer
<div class="lb-trans">— William Wei, Skymizer 首席营销官
</div>Eliminating the Hidden Tax on Enterprise AI
<div class="lb-trans">消除企业 AI 的隐性税负
</div>The result: enterprises gain data privacy, low latency, and full operational control — without the infrastructure burden of GPU clusters.
<div class="lb-trans">结果：企业获得数据隐私、低延迟和完全的操作控制——无需 GPU 集群的基础设施负担。
</div>On-prem inference also eliminates the per-token spending anxiety that has become the silent tax on enterprise AI adoption. Cloud-based inference forces teams to ration queries and throttle agents. HyperThought removes that constraint: once deployed, enterprises run unlimited inference at a fixed infrastructure cost.
<div class="lb-trans">本地推理还消除了每个令牌支出的焦虑，这已成为企业 AI 采用的隐性税负。基于云的推理迫使团队限制查询和调节代理。HyperThought 消除了这一限制：一旦部署，企业可以以固定的基础设施成本进行无限推理。
</div>HyperThought complements existing GPU infrastructure rather than replacing it. By offloading decode-heavy inference from GPUs, enterprises improve overall cluster utilization and power efficiency.
<div class="lb-trans">HyperThought 补充现有的 GPU 基础设施，而不是取而代之。通过将解码密集型推理从 GPU 中卸载，企业提高了整体集群的利用率和能效。
</div>Powering Agentic AI Workflows Across the Enterprise
<div class="lb-trans">推动企业中的代理 AI 工作流
</div>HyperThought and the HTX301 are designed for the agentic AI workloads that are rapidly becoming the backbone of enterprise automation. Combined with agent harness frameworks such as OpenClaw — HTX301 delivers the inference throughput these systems demand, with full data sovereignty and deterministic latency.
<div class="lb-trans">HyperThought 和 HTX301 旨在满足迅速成为企业自动化支柱的代理 AI 工作负载。结合 OpenClaw 等代理框架——HTX301 提供了这些系统所需的推理吞吐量，确保数据主权和确定性延迟。
</div>This enables agentic workflow and automation across industries and sectors, including:
<div class="lb-trans">这使得各行业和领域的代理工作流和自动化成为可能，包括：
</div>Financial services (compliance, fraud detection, portfolio reasoning); healthcare &amp; life sciences (clinical decision support, drug interaction analysis); manufacturing (predictive maintenance, quality inspection); legal &amp; professional services (contract review, confidential knowledge retrieval); government &amp; defense (sovereign AI, classified analysis); retail (service automation, inventory reasoning); software engineering (private code copilots, autonomous CI/CD); and semiconductor &amp; IC design (on-prem RTL copilots, verification agents, design-knowledge retrieval over proprietary IP).
<div class="lb-trans">金融服务（合规、欺诈检测、投资组合推理）；医疗保健与生命科学（临床决策支持、药物相互作用分析）；制造业（预测性维护、质量检查）；法律与专业服务（合同审查、机密知识检索）；政府与国防（主权 AI、机密分析）；零售（服务自动化、库存推理）；软件工程（私有代码助手、自动化 CI/CD）；以及 半导体与 IC 设计（本地 RTL 助手、验证代理、基于专有 IP 的设计知识检索）。
</div>Spotlight: On-Prem AI Coding. AI-assisted coding is already table stakes for modern software teams, and demand is accelerating fastest in domains where source code is the company's crown jewel. IC design houses cannot send proprietary RTL to cloud-based assistants without risking exposure of multi-billion-dollar silicon IP; software companies face the same calculus with confidential codebases and customer data. HTX301 delivers the throughput needed to run private code copilots, RTL generators, and verification agents entirely on-premise — eliminating cloud-exposure risk while preserving the full productivity gains of AI-assisted engineering.
<div class="lb-trans">聚焦：本地 AI 编码。 AI 辅助编码已经成为现代软件团队的基本要求，需求在源代码是公司瑰宝的领域中加速增长。IC 设计公司无法将专有 RTL 发送到基于云的助手，而不冒着暴露数十亿美元硅 IP 的风险；软件公司在处理机密代码库和客户数据时面临同样的考量。HTX301 提供了所需的吞吐量，以完全在本地运行私有代码助手、RTL 生成器和验证代理——消除云暴露风险，同时保留 AI 辅助工程的全部生产力提升。
</div>Beyond agentic workloads, a single HTX301 chip supports on-device inference — transcription, translation, visual understanding, and multimodal AI — across edge servers, AI workstations, smart NAS systems, and intelligent endpoints.
<div class="lb-trans">除了代理工作负载，单个 HTX301 芯片还支持设备上的推理——转录、翻译、视觉理解和多模态 AI——适用于边缘服务器、AI 工作站、智能 NAS 系统和智能终端。
</div>Powered by LISA™ and HyperThought™
<div class="lb-trans">由 LISA™ 和 HyperThought™ 提供支持
</div>HyperThought is powered by LISA™ (Language Instruction Set Architecture), Skymizer's proprietary, language-centric ISA optimized for transformer inference. LISA drives performance, power efficiency, and scalability from edge devices to enterprise clusters.
<div class="lb-trans">HyperThought 由 LISA™（语言指令集架构） 提供支持，这是 Skymizer 的专有语言中心 ISA，针对变换器推理进行了优化。LISA 驱动从边缘设备到企业集群的性能、能效和可扩展性。
</div>The on-prem HTX301 card shares the same LISA architectural foundation as HyperThought's on-device LPU — one ISA, one deployment workflow, edge to data center.
<div class="lb-trans">本地 HTX301 卡与 HyperThought 的设备 LPU 共享相同的 LISA 架构基础——一个 ISA，一个部署工作流，从边缘到数据中心。
</div>Prefill/Decode Disaggregation: The HyperThought P/D Strategy
<div class="lb-trans">预填/解码分离：HyperThought P/D 策略
</div>LLM inference consists of two fundamentally different phases: prefill (processing the input prompt, compute-bound) and decode (generating tokens one at a time, memory-bandwidth-bound). GPU-centric infrastructure forces both onto the same silicon, stranding either compute or bandwidth at any given moment. HyperThought disaggregates these phases by design.
<div class="lb-trans">LLM 推理由两个根本不同的阶段组成：预填（处理输入提示，计算密集型）和 解码（逐个生成令牌，内存带宽密集型）。以 GPU 为中心的基础设施将两者强行结合在同一硅片上，导致在任何给定时刻计算或带宽的浪费。HyperThought 通过设计将这些阶段分离。
</div>Hardware Stack — Decode-First Silicon. The HTX301 is purpose-built for decode — the memory-bandwidth-intensive token generation that dominates real-world inference latency. Existing GPUs handle compute-dense prefill; HTX301 cards handle decode. Each silicon matched to its phase.
<div class="lb-trans">硬件堆栈——解码优先的硅片。 HTX301 专为解码而设计——内存带宽密集型的令牌生成主导了现实世界的推理延迟。现有的 GPU 处理计算密集型的预填；HTX301 卡处理解码。每个硅片与其阶段相匹配。
</div>Software Stack — Unified P/D Orchestration. Skymizer's unified software stack — KV-cache manager, phase-aware scheduler, and dynamic placement engine — orchestrates prefill and decode pools, carrying KV-cache state across nodes and rebalancing P:D ratios in real time as workloads shift.
<div class="lb-trans">软件栈 — 统一的 P/D 协调。 Skymizer 的统一软件栈 — KV 缓存管理器、阶段感知调度器和动态放置引擎 — 协调预填充和解码池，在节点之间传递 KV 缓存状态，并在工作负载变化时实时重新平衡 P:D 比率。
</div>&#34;Purpose-built decode hardware paired with an intelligent software stack that orchestrates every inference workload — that's how you disaggregate P/D at scale.&#34;
<div class="lb-trans">&#34;专为解码而设计的硬件与智能软件栈相结合，协调每个推理工作负载 — 这就是如何在规模上解耦 P/D。&#34;
</div>— Luba Tang, Chief Technology Officer, Skymizer
<div class="lb-trans">— Luba Tang，Skymizer 首席技术官
</div>Defining the Next Era of AI Deployment
<div class="lb-trans">定义 AI 部署的下一个时代
</div>As models surge from billions to trillions of parameters, the industry's dependence on brute-force GPU scaling is hitting a wall. Skymizer is built to move past it — combining deep compiler expertise with decode-optimized silicon to define the next era of AI infrastructure.
<div class="lb-trans">随着模型参数从数十亿激增至数万亿，行业对粗暴 GPU 扩展的依赖正面临瓶颈。Skymizer 的构建旨在超越这一点 — 结合深厚的编译器专业知识与解码优化的硅片，定义 AI 基础设施的下一个时代。
</div>Details on HyperThought's extended platform roadmap will be shared at Skymizer's press conference at COMPUTEX 2026.
<div class="lb-trans">关于 HyperThought 扩展平台路线图的详细信息将在 Skymizer 于 COMPUTEX 2026 的新闻发布会上分享。
</div>Request early access to HTX301: skymizer.ai/press
<div class="lb-trans">请求提前访问 HTX301: skymizer.ai/press
</div>About Skymizer Taiwan Inc.
<div class="lb-trans">关于 Skymizer 台湾有限公司
</div>Founded in 2013, Skymizer is an AI inference company. Its flagship HyperThought platform pairs a compiler-driven software stack with transformer-optimized hardware to deliver high-efficiency inference across on-device, edge, and on-prem environments.
<div class="lb-trans">Skymizer 成立于 2013 年，是一家 AI 推理公司。其旗舰产品 HyperThought 平台将编译驱动的软件栈与优化的变压器硬件相结合，以在设备、边缘和本地环境中提供高效的推理。
</div><img src="https://imageproxy.pbkrs.com/https://edge.prnewswire.com/c/img/favicon.png/query-c2Q9MjAyNi0wNC0yMyZzbj1ISzQwOTcz" alt="" original-src="https://edge.prnewswire.com/c/img/favicon.png?sn=HK40973&amp;sd=2026-04-23"/>
View original content:https://www.prnewswire.com/news-releases/skymizer-taiwan-inc-unveils-breakthrough-architecture-enabling-ultra-large-llm-inference-on-a-single-card-302751485.html
<div class="lb-trans">查看原始内容：https://www.prnewswire.com/news-releases/skymizer-taiwan-inc-unveils-breakthrough-architecture-enabling-ultra-large-llm-inference-on-a-single-card-302751485.html
</div>SOURCE Skymizer Taiwan Inc.
<div class="lb-trans">来源 Skymizer 台湾有限公司
</div>

Skymizer Taiwan Inc. Unveils Breakthrough Architecture Enabling Ultra-Large LLM Inference on a Single Card

Fidelity

Taiwan Fd

Skymizer Taiwan Inc.发布突破性架构，使超大型 LLM 推理能够在单张卡上实现