編者按：

在一年一度的亞馬遜云科技re:Invent大會(huì)上，全球科技界的目光再次聚焦。 亞馬遜云科技高級(jí)副總裁Peter DeSantis首先登場(chǎng)，分享作為云計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者，亞馬遜云科技憑借其在硬件工程上的卓越成就，與競(jìng)爭(zhēng)對(duì)手拉開(kāi)了顯著代差。 從芯片（Graviton和Trainium系列）到服務(wù)器（Trainium2 Server和Trainium2 UltraServer）到網(wǎng)絡(luò)（10P10U網(wǎng)絡(luò)架構(gòu)和AI網(wǎng)絡(luò)），到云對(duì)生成式AI的支持（Llama和Claude模型在Amazon Bedrock上運(yùn)行最快）等等，全面闡述了亞馬遜云科技的技術(shù)創(chuàng)新和工程化能力。

在Peter的演講中，最重大的兩項(xiàng)發(fā)布分別為Trainium2 Server和Project Rainier。Trainium2 Server是亞馬遜云科技用于機(jī)器學(xué)習(xí)訓(xùn)練的最強(qiáng)大服務(wù)器，Project Rainier則是包含了數(shù)十萬(wàn)個(gè)Trainium2 芯片的新集群，其運(yùn)算能力是以往集群的5倍多，將可加快Claude模型的迭代速度，讓客戶以更低價(jià)格、更快速度使用更高智能的模型。

芯片創(chuàng)新

Graviton與Trainium定義AI計(jì)算未來(lái)

亞馬遜云科技通過(guò)自主研發(fā)Graviton和Trainium芯片，為云計(jì)算市場(chǎng)樹立了新的標(biāo)桿。Graviton系列芯片是亞馬遜云科技針對(duì)云工作負(fù)載定制的ARM處理器。從Graviton到Graviton4，亞馬遜云科技在性能、安全性和能效比方面實(shí)現(xiàn)了顯著提升。Graviton4作為亞馬遜云科技迄今為止最強(qiáng)大的芯片，支持多插槽配置，相比前代Graviton3，處理速度提升了30%，內(nèi)核數(shù)量增加了50%，內(nèi)存帶寬提升了75%。

Graviton4為用戶提供了更高性能、更低成本的云計(jì)算解決方案。Graviton4的強(qiáng)大性能，使得用戶能夠更高效地運(yùn)行大型Java應(yīng)用、數(shù)據(jù)庫(kù)等高負(fù)載工作，從而在激烈的市場(chǎng)競(jìng)爭(zhēng)中占據(jù)先機(jī)。

Trainium芯片，則是亞馬遜云科技專為AI訓(xùn)練設(shè)計(jì)的脈動(dòng)陣列架構(gòu)芯片。這種架構(gòu)通過(guò)直接傳遞計(jì)算結(jié)果，避免了傳統(tǒng)CPU和GPU在內(nèi)存訪問(wèn)和計(jì)算步驟之間的延遲，從而大幅提升了AI訓(xùn)練的效率。Trainium2芯片與亞馬遜云科技的NeuroLink技術(shù)相結(jié)合，能夠構(gòu)建出超級(jí)服務(wù)器，為AI模型的訓(xùn)練提供前所未有的計(jì)算能力。

Trainium2的性能比上一代提高了4倍，內(nèi)存容量提高了3倍，能效提高了2倍。在AI日益成為企業(yè)核心競(jìng)爭(zhēng)力的今天，Trainium2的推出無(wú)疑為用戶提供了強(qiáng)有力的支持，助力他們?cè)贏I領(lǐng)域取得更大的突破。

通過(guò)自主研發(fā)芯片，亞馬遜云科技不僅降低了對(duì)外部供應(yīng)商的依賴，更在技術(shù)上與競(jìng)爭(zhēng)對(duì)手持續(xù)拉開(kāi)代差。

云網(wǎng)絡(luò)與AI網(wǎng)絡(luò)

構(gòu)建高性能、高可靠的數(shù)字基礎(chǔ)設(shè)施

亞馬遜云科技在云網(wǎng)絡(luò)方面一直保持著領(lǐng)先地位，而本次re:Invent大會(huì)上展示的AI網(wǎng)絡(luò)，更是將亞馬遜云科技的網(wǎng)絡(luò)技術(shù)推向了一個(gè)新的高度。

Peter DeSantis強(qiáng)調(diào)了云網(wǎng)絡(luò)的關(guān)鍵特性，如大規(guī)模容量、快速擴(kuò)展能力和高可靠性。云網(wǎng)絡(luò)需要應(yīng)對(duì)每天數(shù)千臺(tái)服務(wù)器的連接需求，確保網(wǎng)絡(luò)不會(huì)成為客戶服務(wù)的瓶頸。

亞馬遜云科技的云網(wǎng)絡(luò)通過(guò)全球數(shù)據(jù)中心之間的高速互聯(lián)，不僅支持大規(guī)模的數(shù)據(jù)傳輸和處理，更通過(guò)智能路由和故障恢復(fù)機(jī)制，確保了網(wǎng)絡(luò)的可靠性和穩(wěn)定性。Peter DeSantis在演講中提到，亞馬遜云科技的云網(wǎng)絡(luò)已經(jīng)實(shí)現(xiàn)了5個(gè)9（99.999% ）的可用性。

而AI網(wǎng)絡(luò)，則是亞馬遜云科技為AI訓(xùn)練和應(yīng)用專門打造的高性能網(wǎng)絡(luò)。亞馬遜云科技通過(guò)推出10P10U網(wǎng)絡(luò)結(jié)構(gòu)，實(shí)現(xiàn)了數(shù)十個(gè)PB比特的網(wǎng)絡(luò)容量和低于10微秒的延遲。

此外，亞馬遜云科技還在AI網(wǎng)絡(luò)中通過(guò)專有的中繼連接器和新的網(wǎng)絡(luò)路由協(xié)議，通過(guò)中央計(jì)劃與分散控制的結(jié)合，實(shí)現(xiàn)了對(duì)網(wǎng)絡(luò)故障的快速響應(yīng)和恢復(fù)。

Claude 3.5與Project Rainier

與Anthropic攜手推進(jìn)AI前沿

Anthropic與亞馬遜云科技之間的緊密合作，是本次re:Invent大會(huì)上的最大亮點(diǎn)。作為AI領(lǐng)域的佼佼者，Anthropic的Claude模型在代碼編寫、文檔生成和工具使用等方面表現(xiàn)出色。而亞馬遜云科技作為云計(jì)算領(lǐng)域的領(lǐng)航者，為Anthropic提供了強(qiáng)大的計(jì)算資源和技術(shù)支持。

在演講中，Anthropic的聯(lián)合創(chuàng)始人兼首席計(jì)算官Tom Brown分享了Claude 3.5模型的最新進(jìn)展。這款模型不僅繼承了Claude系列的高效和智能，更通過(guò)亞馬遜云科技的Trainium2芯片和NeuroLink技術(shù)，實(shí)現(xiàn)了性能的大幅提升。Tom Brown提到，通過(guò)亞馬遜云科技的超級(jí)服務(wù)器，客戶可以將Claude 3.5 Haiku模型的運(yùn)行速度提高60%，從而大幅提升AI應(yīng)用的效率和效果。

在Tom的分享中，我們了解到Claude3.5作為Anthropic的旗艦AI模型，已經(jīng)在亞馬遜云科技的Amazon Bedrock上取得了顯著的應(yīng)用成果，并應(yīng)用于金融數(shù)據(jù)處理、醫(yī)療保健信息分析、研究數(shù)據(jù)處理等多個(gè)領(lǐng)域。Claude3.5的廣泛應(yīng)用，展示了生成式AI在推動(dòng)行業(yè)創(chuàng)新方面的巨大潛力。

亞馬遜云科技Amazon Bedrock推出面向基礎(chǔ)模型的延遲優(yōu)化推理功能，該功能現(xiàn)已公開(kāi)預(yù)覽，為AI應(yīng)用帶來(lái)更快的響應(yīng)速度和更強(qiáng)的響應(yīng)能力。目前，這些新的推理選項(xiàng)支持Anthropic的Claude 3.5 Haiku模型以及Meta的Llama 3.1 405B和70B模型，與標(biāo)準(zhǔn)模型相比，它們?cè)诒３譁?zhǔn)確率的同時(shí)降低了延遲。據(jù)Anthropic驗(yàn)證，在使用亞馬遜云科技Amazon Bedrock的延遲優(yōu)化推理功能時(shí)，Claude 3.5 Haiku在亞馬遜云科技上的運(yùn)行速度比其他任何地方都快。此外，使用Amazon Bedrock的延遲優(yōu)化推理功能，Llama 3.1 405B和70B在亞馬遜云科技上的運(yùn)行速度也超過(guò)了其他主要云服務(wù)提供商。

亞馬遜云科技宣布推出Project Rainier，這是一個(gè)擁有數(shù)十萬(wàn)個(gè)Trainium2芯片的新集群，該集群將支持更大規(guī)模和更復(fù)雜的AI訓(xùn)練項(xiàng)目。Project Rainier的發(fā)布，標(biāo)志著亞馬遜云科技在AI領(lǐng)域的布局進(jìn)一步加深。

結(jié) 語(yǔ)

從芯片創(chuàng)新到云網(wǎng)絡(luò)與AI網(wǎng)絡(luò)，再到與Anthropic的緊密合作和Project Rainier的發(fā)布，亞馬遜云科技在re:Invent 2024大會(huì)上展示了其在云計(jì)算領(lǐng)域的全面領(lǐng)先地位。這些技術(shù)突破持續(xù)提升了亞馬遜云科技的競(jìng)爭(zhēng)力，與其他云廠商拉開(kāi)技術(shù)代差。

然而，亞馬遜云科技的成功并非偶然。其背后深厚的創(chuàng)新文化，是亞馬遜云科技能夠在云計(jì)算領(lǐng)域持續(xù)領(lǐng)先的關(guān)鍵。亞馬遜云科技注重細(xì)節(jié)、追求卓越的領(lǐng)導(dǎo)風(fēng)格，鼓勵(lì)員工勇于嘗試、不斷突破的創(chuàng)新精神，以及以客戶為中心、不斷滿足客戶需求的服務(wù)理念，共同構(gòu)成了亞馬遜云科技獨(dú)特的創(chuàng)新文化。

亞馬遜云科技借AI之智，為全球企業(yè)帶來(lái)更多的機(jī)遇和變革，為用戶鑄就無(wú)可比擬的競(jìng)勝之道，共同推動(dòng)數(shù)字經(jīng)濟(jì)的發(fā)展和社會(huì)的進(jìn)步。

*前述特定亞馬遜云科技生成式人工智能相關(guān)的服務(wù)僅在亞馬遜云科技海外區(qū)域可用，亞馬遜云科技中國(guó)僅為幫助您發(fā)展海外業(yè)務(wù)和/或了解行業(yè)前沿技術(shù)選擇推薦該服務(wù)。