<p>許多企業和政府機構要求所有敏感數據出於法律或安全原因保留在本地。如果這些組織希望使用人工智能，他們不能依賴普通的公共雲，但現在他們可以讓 AWS 在他們的數據中心構建和管理人工智能硬件和軟件。</p>
<p>在公司 re:Invent 大會上於週二宣佈，AWS AI Factories 是一個完全託管的解決方案，企業提供數據中心和電力，而貝索斯的公司在他們的屋檐下安裝硬件和軟件。它們像一個私有的 AWS 區域，利用客户現有的數據中心空間、電力和網絡連接，同時 AWS 引入並管理自己的基礎設施機架，包括計算、存儲、數據庫和人工智能服務，所有服務都在本地運行。客户無需擔心獲取硬件、安裝硬件或為他們的人工智能模型購買或構建軟件平台。他們所需要的只是數據中心的物理空間和足夠的電力容量來驅動所有這些 GPU。這將為組織節省大量時間和專業知識。</p>
<p>客户可以使用 AWS 工具，如 Amazon Bedrock 基礎模型構建器或 SageMaker 機器學習平台，以及一些高端硬件，如公司的 Trainium3 人工智能加速器和 Nvidia GPU，如當前一代的 B200 和 GB200，或下一代的 GB300 和 B300。它將使用一個寵物比特級、非阻塞網絡來連接 GPU，並提供 Amazon FSx for Lustre 和 Amazon S3 Express One Zone 存儲技術。AWS 尚未支持 NVLink Fusion，這是一種高速的芯片間互連，但表示支持將在未來的 Trainium4 芯片中到來。</p>
<p>亞馬遜沒有透露這將花費多少，因此我們尚不清楚這是否會比從頭開始安裝自己的硬件和軟件更昂貴。</p>
<p>&#34;人工智能工廠專門為每個客户運營，它幫助他們保持這種隔離，維護您從 AWS 獲得的安全性和可靠性，同時滿足嚴格的合規性和主權要求，&#34; AWS 首席執行官 Matt Garman 在他的主題演講中説道。</p>
<p>Garman 表示，這項工作的靈感來自於該服務為沙特阿拉伯的人工智能事業提供私密、安全的人工智能能力的努力，與名為 Humain 的人工智能平台公司合作。該公司正在幫助在該國建立一個&#34;人工智能區域&#34;，將擁有多達 150,000 個人工智能芯片和專用的 AWS 基礎設施。</p>
<p>根據 Garman 的説法，AWS 的合作伙伴關係為沙特阿拉伯提供高性能的基礎設施、模型和人工智能服務，如 SageMaker 和 Bedrock，同時滿足該王國的安全、隱私和負責任的人工智能標準。</p>
<p>“這種類型的工作引起了其他人的一些興趣：公共部門的大型政府組織對類似的概念感興趣，” Garman 説。“我們坐下來問自己。我們能否將這種類型的人工智能區域提供給更廣泛的客户羣體。也許甚至可以利用客户現有的數據中心？”</p>
<ul>
<li>部署到亞馬遜雲是一個麻煩，AWS 年輕的開發者無法容忍</li>
<li>AWS 和谷歌為他們所説不存在的多雲障礙構建了一個解決方案</li>
<li>AWS 加入微軟、谷歌的安全人工智能代理競賽</li>
<li>AWS：你們好，年輕的朋友們？請在 Fortnite 中觀看我們的主題演講</li>
</ul>
<p>在建立自己的人工智能工廠時，AWS 面臨着激烈的競爭。戴爾與 Nvidia 的人工智能工廠在 2024 年初推出，其承諾的邊緣到數據中心解決方案已經吸引了數十億的銷售額。今年 5 月，該公司自豪地宣佈其人工智能工廠擁有 3,000 個客户，上週，戴爾表示截至目前已發貨 156 億美元的人工智能服務器。</p>
<p>HPE 自己的私有人工智能雲產品也得到了 Nvidia 的支持，在截至 7 月 31 日的季度中獲得了超過 300 個新客户的採用，該公司在其最後一次財報電話會議中宣佈。聯想也宣佈在截至 9 月 30 日的季度中，其基礎設施解決方案的銷售大幅上升，同比增長 24%，其中人工智能服務器的增長達到&#34;高雙位數&#34;。</p>
<p>亞馬遜的時機可能有些不合時宜，因為 Forrester 和 Gartner 的分析師調查顯示，隨着客户希望在這些系統上獲得穩固的投資回報，人工智能支出的資金正在收緊，這些系統的建立可能花費數百萬美元，更不用説供電、維護和運營的費用。</p>
<p>Forrester 的首席分析師 Naveen Chhabra 推測，AWS 可能已經構建了幾個季度，並建議 AWS 正在應對客户在部署人工智能基礎設施時面臨的挑戰，包括冷卻、產品的長交貨期、架構的零散方法和數據主權。</p>
<p>根據 Chhabra 共同撰寫的 11 月 21 日的報告，人工智能支出所帶來的收入滯後，客户也注意到了這一點。</p>
<p>“隨着自由現金流收緊，利率仍然很高，甚至 OpenAI 的首席執行官也警告説存在類似於互聯網泡沫的風險，該行業面臨着清算，” Forrester 表示。該分析師小組還認為，迫在眉睫的芯片短缺導致設備間內存的有限和不確定的訪問，同時推動供應商重新考慮他們的架構。</p>
<p>Chhabra 認為，許多客户正在將人工智能工作負載遷移到雲中以應對這些挑戰，但如果您被要求將所有數據保留在本地，這將行不通，而這正是 AWS AI Factories 的目標市場。</p>

<p>AWS 推出了 AI 工廠，這是一個完全託管的企業數據中心 AI 解決方案，在 re:Invent 大會上宣佈。該服務允許企業將敏感數據保留在本地，同時由 AWS 管理 AI 硬件和軟件。它利用客户現有的數據中心空間和電力，提供如 Amazon Bedrock 和 SageMaker 等工具。AWS 在 AI 基礎設施市場面臨來自戴爾、HPE 和聯想的競爭。該服務旨在滿足安全和合規要求，靈感來源於 AWS 與沙特阿拉伯 AI 倡議的合作</p>

<p>re:invent Many businesses and government agencies require that all sensitive data stay on-premises for legal or security reasons. If those orgs want to work with AI, they can't rely on regular public clouds, but now they can let AWS build and manage AI hardware and software in their datacenters.</p>
<div class="lb-trans"><p>許多企業和政府機構要求所有敏感數據出於法律或安全原因保留在本地。如果這些組織希望使用人工智能，他們不能依賴普通的公共雲，但現在他們可以讓 AWS 在他們的數據中心構建和管理人工智能硬件和軟件。</p>
</div><p>Announced Tuesday at the company's re:Invent conference, AWS AI Factories is a fully managed solution where enterprises provide the datacenter and power while the house of Bezos installs its hardware and software under their roof. They operate like a private AWS Region, using customers' existing datacenter space, power, and network links while AWS brings in and manages its own racks of infrastructure, including compute, storage, database, and AI services, all running locally. Customers will not need to worry about acquiring hardware, installing it, or buying or building software platforms for their AI models. All they need is the physical space in a datacenter and enough power capacity to juice all those GPUs. That will save orgs a lot of time and expertise.</p>
<div class="lb-trans"><p>在公司 re:Invent 大會上於週二宣佈，AWS AI Factories 是一個完全託管的解決方案，企業提供數據中心和電力，而貝索斯的公司在他們的屋檐下安裝硬件和軟件。它們像一個私有的 AWS 區域，利用客户現有的數據中心空間、電力和網絡連接，同時 AWS 引入並管理自己的基礎設施機架，包括計算、存儲、數據庫和人工智能服務，所有服務都在本地運行。客户無需擔心獲取硬件、安裝硬件或為他們的人工智能模型購買或構建軟件平台。他們所需要的只是數據中心的物理空間和足夠的電力容量來驅動所有這些 GPU。這將為組織節省大量時間和專業知識。</p>
</div><p>Customers can use AWS tools like the Amazon Bedrock foundation model builder or SageMaker machine-learning platform, as well as some high-end hardware, such as the company's Trainium3 AI accelerators and Nvidia GPUs like the current-gen B200 and GB200, or next-gen GB300 and B300. It will use a petabit-scale, non-blocking network to connect the GPUs and offer Amazon FSx for Lustre and Amazon S3 Express One Zone storage technology. AWS does not yet support NVLink Fusion, which is a high-speed, chip-to-chip interconnect, but says support will arrive in its future Trainium4 chips.</p>
<div class="lb-trans"><p>客户可以使用 AWS 工具，如 Amazon Bedrock 基礎模型構建器或 SageMaker 機器學習平台，以及一些高端硬件，如公司的 Trainium3 人工智能加速器和 Nvidia GPU，如當前一代的 B200 和 GB200，或下一代的 GB300 和 B300。它將使用一個寵物比特級、非阻塞網絡來連接 GPU，並提供 Amazon FSx for Lustre 和 Amazon S3 Express One Zone 存儲技術。AWS 尚未支持 NVLink Fusion，這是一種高速的芯片間互連，但表示支持將在未來的 Trainium4 芯片中到來。</p>
</div><p>Amazon didn't disclose how much this will cost, so we don't yet know whether it will be more expensive than installing one's own hardware and software from scratch.</p>
<div class="lb-trans"><p>亞馬遜沒有透露這將花費多少，因此我們尚不清楚這是否會比從頭開始安裝自己的硬件和軟件更昂貴。</p>
</div><p>&#34;The AI factories operate exclusively for each customer and it helps them with that separation, maintaining the security and reliability you get from AWS while also meeting stringent compliance and sovereignty requirements,&#34; AWS CEO Matt Garman said in his keynote.</p>
<div class="lb-trans"><p>&#34;人工智能工廠專門為每個客户運營，它幫助他們保持這種隔離，維護您從 AWS 獲得的安全性和可靠性，同時滿足嚴格的合規性和主權要求，&#34; AWS 首席執行官 Matt Garman 在他的主題演講中説道。</p>
</div><p>Garman said the work was inspired by the service's efforts to spin up private, secure AI capabilities for the Kingdom of Saudi Arabia’s AI endeavors, working with the ironically named AI platform company Humain. The company is helping build an &#34;AI Zone&#34; in the country, which will have up to 150,000 AI chips and dedicated AWS infrastructure.</p>
<div class="lb-trans"><p>Garman 表示，這項工作的靈感來自於該服務為沙特阿拉伯的人工智能事業提供私密、安全的人工智能能力的努力，與名為 Humain 的人工智能平台公司合作。該公司正在幫助在該國建立一個&#34;人工智能區域&#34;，將擁有多達 150,000 個人工智能芯片和專用的 AWS 基礎設施。</p>
</div><p>According to Garman, the AWS partnership provides Saudi Arabia with high performing infrastructure, models, and AI services like SageMaker and Bedrock, while meeting the kingdom’s security, privacy, and responsible AI standards.</p>
<div class="lb-trans"><p>根據 Garman 的説法，AWS 的合作伙伴關係為沙特阿拉伯提供高性能的基礎設施、模型和人工智能服務，如 SageMaker 和 Bedrock，同時滿足該王國的安全、隱私和負責任的人工智能標準。</p>
</div><p>“This type of work has sparked some interest in others: large government organizations in the public sector who are interested in a similar concept,” Garman said. “We sat back and asked ourselves. Could we deliver this type of AI zone to a broader set of customers. Maybe even something that could leverage customers' existing datacenters?”</p>
<div class="lb-trans"><p>“這種類型的工作引起了其他人的一些興趣：公共部門的大型政府組織對類似的概念感興趣，” Garman 説。“我們坐下來問自己。我們能否將這種類型的人工智能區域提供給更廣泛的客户羣體。也許甚至可以利用客户現有的數據中心？”</p>
</div><ul>
<li>Deploying to Amazon's cloud is a pain in the AWS younger devs won't tolerate</li>
<li>AWS and Google build a fix for multi-cloud barriers they said didn't exist</li>
<li>AWS joins Microsoft, Google in the security AI agent race</li>
<li>AWS: How do you do, fellow kids? Please watch our keynotes in Fortnite</li>
</ul>
<div class="lb-trans"><ul>
<li>部署到亞馬遜雲是一個麻煩，AWS 年輕的開發者無法容忍</li>
<li>AWS 和谷歌為他們所説不存在的多雲障礙構建了一個解決方案</li>
<li>AWS 加入微軟、谷歌的安全人工智能代理競賽</li>
<li>AWS：你們好，年輕的朋友們？請在 Fortnite 中觀看我們的主題演講</li>
</ul>
</div><p>In building its own AI factories, AWS faces some stiff competition. Dell’s AI Factory with Nvidia was introduced in early 2024, and its promises of an edge to datacenter solution have captured billions in sales. In May, the company boasted 3,000 customers for its AI Factories, and last week, Dell said it had shipped $15.6 billion in AI servers year to date [PDF].</p>
<div class="lb-trans"><p>在建立自己的人工智能工廠時，AWS 面臨着激烈的競爭。戴爾與 Nvidia 的人工智能工廠在 2024 年初推出，其承諾的邊緣到數據中心解決方案已經吸引了數十億的銷售額。今年 5 月，該公司自豪地宣佈其人工智能工廠擁有 3,000 個客户，上週，戴爾表示截至目前已發貨 156 億美元的人工智能服務器。</p>
</div><p>HPE’s own private AI cloud product, which is also backed by Nvidia, won adoption by more than 300 new logos during the quarter ended July 31, it announced during its last earnings call [PDF]. Lenovo has also announced [PDF] a massive upswing in the sale of its infrastructure solutions, up 24 percent year over year in the quarter ended September 30, including &#34;high double digit growth&#34; of AI servers.</p>
<div class="lb-trans"><p>HPE 自己的私有人工智能雲產品也得到了 Nvidia 的支持，在截至 7 月 31 日的季度中獲得了超過 300 個新客户的採用，該公司在其最後一次財報電話會議中宣佈。聯想也宣佈在截至 9 月 30 日的季度中，其基礎設施解決方案的銷售大幅上升，同比增長 24%，其中人工智能服務器的增長達到&#34;高雙位數&#34;。</p>
</div><p>Amazon's timing may be a bit of a mismatch, as polling from analysts at Forrester and Gartner indicates that the purse strings are tightening on AI spending as customers want a solid track to a return on their investment with these systems, which can cost millions of dollars to stand up, not to mention the price to power, maintain, and operate them.</p>
<div class="lb-trans"><p>亞馬遜的時機可能有些不合時宜，因為 Forrester 和 Gartner 的分析師調查顯示，隨着客户希望在這些系統上獲得穩固的投資回報，人工智能支出的資金正在收緊，這些系統的建立可能花費數百萬美元，更不用説供電、維護和運營的費用。</p>
</div><p>Naveen Chhabra, principal analyst at Forrester, speculated that AWS has likely been building this for several quarters, and suggested AWS is playing into the challenges that customers face when deploying AI infrastructure, including cooling, long lead times for products, the piecemeal approach to architecture, and data sovereignty.</p>
<div class="lb-trans"><p>Forrester 的首席分析師 Naveen Chhabra 推測，AWS 可能已經構建了幾個季度，並建議 AWS 正在應對客户在部署人工智能基礎設施時面臨的挑戰，包括冷卻、產品的長交貨期、架構的零散方法和數據主權。</p>
</div><p>According to a November 21 report that Chhabra co-wrote, the revenue achieved as a result of AI spending is lagging and customers are taking notice.</p>
<div class="lb-trans"><p>根據 Chhabra 共同撰寫的 11 月 21 日的報告，人工智能支出所帶來的收入滯後，客户也注意到了這一點。</p>
</div><p>“With free cash flow tightening, interest rates still high, and even OpenAI’s CEO warning of a dot-com-style bubble, the sector faces a reckoning,” Forrester stated. The analyst group also posited that the looming chip shortage is causing limited and uncertain access to memory across devices, while pushing vendors to rethink their architecture.</p>
<div class="lb-trans"><p>“隨着自由現金流收緊，利率仍然很高，甚至 OpenAI 的首席執行官也警告説存在類似於互聯網泡沫的風險，該行業面臨着清算，” Forrester 表示。該分析師小組還認為，迫在眉睫的芯片短缺導致設備間內存的有限和不確定的訪問，同時推動供應商重新考慮他們的架構。</p>
</div><p>Chhabra sees many customers moving AI workloads to the cloud to combat these challenges, but that won't work if you are required to keep all of your data on-prem, which is the target market for AWS AI Factories. ®</p>
<div class="lb-trans"><p>Chhabra 認為，許多客户正在將人工智能工作負載遷移到雲中以應對這些挑戰，但如果您被要求將所有數據保留在本地，這將行不通，而這正是 AWS AI Factories 的目標市場。</p>
</div>

AWS 為企業數據中心提供 AI 一體化解決方案