<p>许多企业和政府机构要求所有敏感数据出于法律或安全原因保留在本地。如果这些组织希望使用人工智能，他们不能依赖普通的公共云，但现在他们可以让 AWS 在他们的数据中心构建和管理人工智能硬件和软件。</p>
<p>在公司 re:Invent 大会上于周二宣布，AWS AI Factories 是一个完全托管的解决方案，企业提供数据中心和电力，而贝索斯的公司在他们的屋檐下安装硬件和软件。它们像一个私有的 AWS 区域，利用客户现有的数据中心空间、电力和网络连接，同时 AWS 引入并管理自己的基础设施机架，包括计算、存储、数据库和人工智能服务，所有服务都在本地运行。客户无需担心获取硬件、安装硬件或为他们的人工智能模型购买或构建软件平台。他们所需要的只是数据中心的物理空间和足够的电力容量来驱动所有这些 GPU。这将为组织节省大量时间和专业知识。</p>
<p>客户可以使用 AWS 工具，如 Amazon Bedrock 基础模型构建器或 SageMaker 机器学习平台，以及一些高端硬件，如公司的 Trainium3 人工智能加速器和 Nvidia GPU，如当前一代的 B200 和 GB200，或下一代的 GB300 和 B300。它将使用一个宠物比特级、非阻塞网络来连接 GPU，并提供 Amazon FSx for Lustre 和 Amazon S3 Express One Zone 存储技术。AWS 尚未支持 NVLink Fusion，这是一种高速的芯片间互连，但表示支持将在未来的 Trainium4 芯片中到来。</p>
<p>亚马逊没有透露这将花费多少，因此我们尚不清楚这是否会比从头开始安装自己的硬件和软件更昂贵。</p>
<p>&#34;人工智能工厂专门为每个客户运营，它帮助他们保持这种隔离，维护您从 AWS 获得的安全性和可靠性，同时满足严格的合规性和主权要求，&#34; AWS 首席执行官 Matt Garman 在他的主题演讲中说道。</p>
<p>Garman 表示，这项工作的灵感来自于该服务为沙特阿拉伯的人工智能事业提供私密、安全的人工智能能力的努力，与名为 Humain 的人工智能平台公司合作。该公司正在帮助在该国建立一个&#34;人工智能区域&#34;，将拥有多达 150,000 个人工智能芯片和专用的 AWS 基础设施。</p>
<p>根据 Garman 的说法，AWS 的合作伙伴关系为沙特阿拉伯提供高性能的基础设施、模型和人工智能服务，如 SageMaker 和 Bedrock，同时满足该王国的安全、隐私和负责任的人工智能标准。</p>
<p>“这种类型的工作引起了其他人的一些兴趣：公共部门的大型政府组织对类似的概念感兴趣，” Garman 说。“我们坐下来问自己。我们能否将这种类型的人工智能区域提供给更广泛的客户群体。也许甚至可以利用客户现有的数据中心？”</p>
<ul>
<li>部署到亚马逊云是一个麻烦，AWS 年轻的开发者无法容忍</li>
<li>AWS 和谷歌为他们所说不存在的多云障碍构建了一个解决方案</li>
<li>AWS 加入微软、谷歌的安全人工智能代理竞赛</li>
<li>AWS：你们好，年轻的朋友们？请在 Fortnite 中观看我们的主题演讲</li>
</ul>
<p>在建立自己的人工智能工厂时，AWS 面临着激烈的竞争。戴尔与 Nvidia 的人工智能工厂在 2024 年初推出，其承诺的边缘到数据中心解决方案已经吸引了数十亿的销售额。今年 5 月，该公司自豪地宣布其人工智能工厂拥有 3,000 个客户，上周，戴尔表示截至目前已发货 156 亿美元的人工智能服务器。</p>
<p>HPE 自己的私有人工智能云产品也得到了 Nvidia 的支持，在截至 7 月 31 日的季度中获得了超过 300 个新客户的采用，该公司在其最后一次财报电话会议中宣布。联想也宣布在截至 9 月 30 日的季度中，其基础设施解决方案的销售大幅上升，同比增长 24%，其中人工智能服务器的增长达到&#34;高双位数&#34;。</p>
<p>亚马逊的时机可能有些不合时宜，因为 Forrester 和 Gartner 的分析师调查显示，随着客户希望在这些系统上获得稳固的投资回报，人工智能支出的资金正在收紧，这些系统的建立可能花费数百万美元，更不用说供电、维护和运营的费用。</p>
<p>Forrester 的首席分析师 Naveen Chhabra 推测，AWS 可能已经构建了几个季度，并建议 AWS 正在应对客户在部署人工智能基础设施时面临的挑战，包括冷却、产品的长交货期、架构的零散方法和数据主权。</p>
<p>根据 Chhabra 共同撰写的 11 月 21 日的报告，人工智能支出所带来的收入滞后，客户也注意到了这一点。</p>
<p>“随着自由现金流收紧，利率仍然很高，甚至 OpenAI 的首席执行官也警告说存在类似于互联网泡沫的风险，该行业面临着清算，” Forrester 表示。该分析师小组还认为，迫在眉睫的芯片短缺导致设备间内存的有限和不确定的访问，同时推动供应商重新考虑他们的架构。</p>
<p>Chhabra 认为，许多客户正在将人工智能工作负载迁移到云中以应对这些挑战，但如果您被要求将所有数据保留在本地，这将行不通，而这正是 AWS AI Factories 的目标市场。</p>

<p>AWS 推出了 AI 工厂，这是一个完全托管的企业数据中心 AI 解决方案，在 re:Invent 大会上宣布。该服务允许企业将敏感数据保留在本地，同时由 AWS 管理 AI 硬件和软件。它利用客户现有的数据中心空间和电力，提供如 Amazon Bedrock 和 SageMaker 等工具。AWS 在 AI 基础设施市场面临来自戴尔、HPE 和联想的竞争。该服务旨在满足安全和合规要求，灵感来源于 AWS 与沙特阿拉伯 AI 倡议的合作</p>

<p>re:invent Many businesses and government agencies require that all sensitive data stay on-premises for legal or security reasons. If those orgs want to work with AI, they can't rely on regular public clouds, but now they can let AWS build and manage AI hardware and software in their datacenters.</p>
<div class="lb-trans"><p>许多企业和政府机构要求所有敏感数据出于法律或安全原因保留在本地。如果这些组织希望使用人工智能，他们不能依赖普通的公共云，但现在他们可以让 AWS 在他们的数据中心构建和管理人工智能硬件和软件。</p>
</div><p>Announced Tuesday at the company's re:Invent conference, AWS AI Factories is a fully managed solution where enterprises provide the datacenter and power while the house of Bezos installs its hardware and software under their roof. They operate like a private AWS Region, using customers' existing datacenter space, power, and network links while AWS brings in and manages its own racks of infrastructure, including compute, storage, database, and AI services, all running locally. Customers will not need to worry about acquiring hardware, installing it, or buying or building software platforms for their AI models. All they need is the physical space in a datacenter and enough power capacity to juice all those GPUs. That will save orgs a lot of time and expertise.</p>
<div class="lb-trans"><p>在公司 re:Invent 大会上于周二宣布，AWS AI Factories 是一个完全托管的解决方案，企业提供数据中心和电力，而贝索斯的公司在他们的屋檐下安装硬件和软件。它们像一个私有的 AWS 区域，利用客户现有的数据中心空间、电力和网络连接，同时 AWS 引入并管理自己的基础设施机架，包括计算、存储、数据库和人工智能服务，所有服务都在本地运行。客户无需担心获取硬件、安装硬件或为他们的人工智能模型购买或构建软件平台。他们所需要的只是数据中心的物理空间和足够的电力容量来驱动所有这些 GPU。这将为组织节省大量时间和专业知识。</p>
</div><p>Customers can use AWS tools like the Amazon Bedrock foundation model builder or SageMaker machine-learning platform, as well as some high-end hardware, such as the company's Trainium3 AI accelerators and Nvidia GPUs like the current-gen B200 and GB200, or next-gen GB300 and B300. It will use a petabit-scale, non-blocking network to connect the GPUs and offer Amazon FSx for Lustre and Amazon S3 Express One Zone storage technology. AWS does not yet support NVLink Fusion, which is a high-speed, chip-to-chip interconnect, but says support will arrive in its future Trainium4 chips.</p>
<div class="lb-trans"><p>客户可以使用 AWS 工具，如 Amazon Bedrock 基础模型构建器或 SageMaker 机器学习平台，以及一些高端硬件，如公司的 Trainium3 人工智能加速器和 Nvidia GPU，如当前一代的 B200 和 GB200，或下一代的 GB300 和 B300。它将使用一个宠物比特级、非阻塞网络来连接 GPU，并提供 Amazon FSx for Lustre 和 Amazon S3 Express One Zone 存储技术。AWS 尚未支持 NVLink Fusion，这是一种高速的芯片间互连，但表示支持将在未来的 Trainium4 芯片中到来。</p>
</div><p>Amazon didn't disclose how much this will cost, so we don't yet know whether it will be more expensive than installing one's own hardware and software from scratch.</p>
<div class="lb-trans"><p>亚马逊没有透露这将花费多少，因此我们尚不清楚这是否会比从头开始安装自己的硬件和软件更昂贵。</p>
</div><p>&#34;The AI factories operate exclusively for each customer and it helps them with that separation, maintaining the security and reliability you get from AWS while also meeting stringent compliance and sovereignty requirements,&#34; AWS CEO Matt Garman said in his keynote.</p>
<div class="lb-trans"><p>&#34;人工智能工厂专门为每个客户运营，它帮助他们保持这种隔离，维护您从 AWS 获得的安全性和可靠性，同时满足严格的合规性和主权要求，&#34; AWS 首席执行官 Matt Garman 在他的主题演讲中说道。</p>
</div><p>Garman said the work was inspired by the service's efforts to spin up private, secure AI capabilities for the Kingdom of Saudi Arabia’s AI endeavors, working with the ironically named AI platform company Humain. The company is helping build an &#34;AI Zone&#34; in the country, which will have up to 150,000 AI chips and dedicated AWS infrastructure.</p>
<div class="lb-trans"><p>Garman 表示，这项工作的灵感来自于该服务为沙特阿拉伯的人工智能事业提供私密、安全的人工智能能力的努力，与名为 Humain 的人工智能平台公司合作。该公司正在帮助在该国建立一个&#34;人工智能区域&#34;，将拥有多达 150,000 个人工智能芯片和专用的 AWS 基础设施。</p>
</div><p>According to Garman, the AWS partnership provides Saudi Arabia with high performing infrastructure, models, and AI services like SageMaker and Bedrock, while meeting the kingdom’s security, privacy, and responsible AI standards.</p>
<div class="lb-trans"><p>根据 Garman 的说法，AWS 的合作伙伴关系为沙特阿拉伯提供高性能的基础设施、模型和人工智能服务，如 SageMaker 和 Bedrock，同时满足该王国的安全、隐私和负责任的人工智能标准。</p>
</div><p>“This type of work has sparked some interest in others: large government organizations in the public sector who are interested in a similar concept,” Garman said. “We sat back and asked ourselves. Could we deliver this type of AI zone to a broader set of customers. Maybe even something that could leverage customers' existing datacenters?”</p>
<div class="lb-trans"><p>“这种类型的工作引起了其他人的一些兴趣：公共部门的大型政府组织对类似的概念感兴趣，” Garman 说。“我们坐下来问自己。我们能否将这种类型的人工智能区域提供给更广泛的客户群体。也许甚至可以利用客户现有的数据中心？”</p>
</div><ul>
<li>Deploying to Amazon's cloud is a pain in the AWS younger devs won't tolerate</li>
<li>AWS and Google build a fix for multi-cloud barriers they said didn't exist</li>
<li>AWS joins Microsoft, Google in the security AI agent race</li>
<li>AWS: How do you do, fellow kids? Please watch our keynotes in Fortnite</li>
</ul>
<div class="lb-trans"><ul>
<li>部署到亚马逊云是一个麻烦，AWS 年轻的开发者无法容忍</li>
<li>AWS 和谷歌为他们所说不存在的多云障碍构建了一个解决方案</li>
<li>AWS 加入微软、谷歌的安全人工智能代理竞赛</li>
<li>AWS：你们好，年轻的朋友们？请在 Fortnite 中观看我们的主题演讲</li>
</ul>
</div><p>In building its own AI factories, AWS faces some stiff competition. Dell’s AI Factory with Nvidia was introduced in early 2024, and its promises of an edge to datacenter solution have captured billions in sales. In May, the company boasted 3,000 customers for its AI Factories, and last week, Dell said it had shipped $15.6 billion in AI servers year to date [PDF].</p>
<div class="lb-trans"><p>在建立自己的人工智能工厂时，AWS 面临着激烈的竞争。戴尔与 Nvidia 的人工智能工厂在 2024 年初推出，其承诺的边缘到数据中心解决方案已经吸引了数十亿的销售额。今年 5 月，该公司自豪地宣布其人工智能工厂拥有 3,000 个客户，上周，戴尔表示截至目前已发货 156 亿美元的人工智能服务器。</p>
</div><p>HPE’s own private AI cloud product, which is also backed by Nvidia, won adoption by more than 300 new logos during the quarter ended July 31, it announced during its last earnings call [PDF]. Lenovo has also announced [PDF] a massive upswing in the sale of its infrastructure solutions, up 24 percent year over year in the quarter ended September 30, including &#34;high double digit growth&#34; of AI servers.</p>
<div class="lb-trans"><p>HPE 自己的私有人工智能云产品也得到了 Nvidia 的支持，在截至 7 月 31 日的季度中获得了超过 300 个新客户的采用，该公司在其最后一次财报电话会议中宣布。联想也宣布在截至 9 月 30 日的季度中，其基础设施解决方案的销售大幅上升，同比增长 24%，其中人工智能服务器的增长达到&#34;高双位数&#34;。</p>
</div><p>Amazon's timing may be a bit of a mismatch, as polling from analysts at Forrester and Gartner indicates that the purse strings are tightening on AI spending as customers want a solid track to a return on their investment with these systems, which can cost millions of dollars to stand up, not to mention the price to power, maintain, and operate them.</p>
<div class="lb-trans"><p>亚马逊的时机可能有些不合时宜，因为 Forrester 和 Gartner 的分析师调查显示，随着客户希望在这些系统上获得稳固的投资回报，人工智能支出的资金正在收紧，这些系统的建立可能花费数百万美元，更不用说供电、维护和运营的费用。</p>
</div><p>Naveen Chhabra, principal analyst at Forrester, speculated that AWS has likely been building this for several quarters, and suggested AWS is playing into the challenges that customers face when deploying AI infrastructure, including cooling, long lead times for products, the piecemeal approach to architecture, and data sovereignty.</p>
<div class="lb-trans"><p>Forrester 的首席分析师 Naveen Chhabra 推测，AWS 可能已经构建了几个季度，并建议 AWS 正在应对客户在部署人工智能基础设施时面临的挑战，包括冷却、产品的长交货期、架构的零散方法和数据主权。</p>
</div><p>According to a November 21 report that Chhabra co-wrote, the revenue achieved as a result of AI spending is lagging and customers are taking notice.</p>
<div class="lb-trans"><p>根据 Chhabra 共同撰写的 11 月 21 日的报告，人工智能支出所带来的收入滞后，客户也注意到了这一点。</p>
</div><p>“With free cash flow tightening, interest rates still high, and even OpenAI’s CEO warning of a dot-com-style bubble, the sector faces a reckoning,” Forrester stated. The analyst group also posited that the looming chip shortage is causing limited and uncertain access to memory across devices, while pushing vendors to rethink their architecture.</p>
<div class="lb-trans"><p>“随着自由现金流收紧，利率仍然很高，甚至 OpenAI 的首席执行官也警告说存在类似于互联网泡沫的风险，该行业面临着清算，” Forrester 表示。该分析师小组还认为，迫在眉睫的芯片短缺导致设备间内存的有限和不确定的访问，同时推动供应商重新考虑他们的架构。</p>
</div><p>Chhabra sees many customers moving AI workloads to the cloud to combat these challenges, but that won't work if you are required to keep all of your data on-prem, which is the target market for AWS AI Factories. ®</p>
<div class="lb-trans"><p>Chhabra 认为，许多客户正在将人工智能工作负载迁移到云中以应对这些挑战，但如果您被要求将所有数据保留在本地，这将行不通，而这正是 AWS AI Factories 的目标市场。</p>
</div>

AWS 为企业数据中心提供 AI 一体化解决方案