AMD加速器,缺乏雲端需求
如果您希望可以時常見面,歡迎標星收藏哦~
來源:內容來自tomshardware,謝謝。
大約一年前,當AMD推出其用於AI和高性能計算(HPC)的Instinct MI300X加速器時,亞馬遜雲服務(AWS)曾表達過將其部署到雲端的興趣。然而,亞馬遜表示,由於缺乏強勁的市場需求,目前仍未部署這一加速器。
“我們以客戶需求爲導向,”亞馬遜旗下公司Annapurna Labs的產品與客戶工程總監Gadi Hutt告訴《Business Insider》。“如果客戶明確表示有強烈需求,那麼我們沒有理由不部署。”
然而,至少根據Hutt的說法,目前還沒有足夠的需求來證明在AWS中部署AMD的Instinct MI300X加速器的合理性。雖然AMD的Instinct MI300X比英偉達的H100價格更低,但其軟件生態尚不如英偉達的CUDA成熟,這讓許多開發者望而卻步。不過,隨着AMD的硬件產品(例如Instinct MI325X)的持續改進,其軟件也應會隨之提升。
某種程度上,Hutt可能算是一個相關利益方,因爲Annapurna開發的Trainium芯片在AWS數據中心中與AMD和英偉達的產品形成競爭。然而,如果他是在正式場合發表了上述言論,這就可以被視爲AWS的立場。
談到Trainium,通過自家設計的Trainium和Trainium2芯片,AWS不需要向AMD或英偉達支付溢價,這使得其基於Trainium的Trn1和Trn2實例相比英偉達H100 GPU驅動的實例價格更具競爭力。這可能也是非英偉達第三方解決方案需求較低的另一個原因。
談到英偉達,AWS在其re:Invent大會上宣佈將通過採用英偉達即將推出的Blackwell GPU加強其AI能力。在re:Invent大會上,AWS推出了搭載Blackwell GPU的P6服務器,反映出這些機器將備受市場期待。
儘管AWS尚未在雲中提供AMD的Instinct MI300X,但它繼續與AMD保持密切合作,並在雲中提供了大量基於AMD EPYC處理器的實例。得益於其核心數量和內存子系統,這些處理器在計算和內存密集型實例中相較於英特爾至強處理器具有顯著優勢。
https://www.tomshardware.com/tech-industry/weak-demand-prevents-amazon-from-deploying-amds-instinct-ai-accelerators-in-the-cloud-the-company-plans-to-strengthen-its-portfolio-with-nvidia-blackwell-gpus
半導體精品公衆號推薦
專注半導體領域更多原創內容
關注全球半導體產業動向與趨勢
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅爲了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯繫半導體行業觀察。
今天是《半導體行業觀察》爲您分享的第3970期內容,歡迎關注。
『半導體第一垂直媒體』
實時 專業 原創 深度
公衆號ID:icbank
喜歡我們的內容就點“在看”分享給小夥伴哦