(資料圖)

【太平洋科技資訊】早前,微軟與英偉達(dá)宣達(dá)成合作,發(fā)布了Azure ND H100 v5 VM虛擬機(jī)預(yù)覽版。經(jīng)過(guò)數(shù)月的測(cè)試后,微軟在今日正式推出了這款虛擬機(jī),并宣布擴(kuò)展了其Azure OpenAI服務(wù)。

ND H100 v5 VM是Azure迄今為止最強(qiáng)大和高度可伸縮的AI虛擬機(jī)系列。該虛擬機(jī)支持的按需配置可達(dá)8至上千個(gè)通過(guò)Quantum-2 InfiniBand網(wǎng)絡(luò)互連的NVIDIA H100 GPU,從而顯著提高了AI模型的性能。相較于上一代的ND A100 v4 VM,這款虛擬機(jī)包含了一些創(chuàng)新技術(shù)。

首先,它搭載了8塊NVIDIA H100 Tensor Core GPU,通過(guò)下一代NV Switch和NV Link 4.0進(jìn)行互連。其次,在無(wú)阻塞胖樹網(wǎng)絡(luò)中,每個(gè)GPU搭載了400 Gb/s的NVIDIA Quantum-2 CX7 InfiniBand,每個(gè)虛擬機(jī)的性能達(dá)到了3.2Tb/s。此外,每個(gè)虛擬機(jī)中的8塊本地GPU之間通過(guò)3.8Tb/s的對(duì)分割帶寬的NV Switch和NV Link 4.0進(jìn)行互聯(lián)。此外,該虛擬機(jī)還采用了第四代英特爾至強(qiáng)可擴(kuò)展處理器,以及PCIE第5代主機(jī)到GPU的互連,每個(gè)GPU的帶寬為64Gb/s。最后,它還搭載了16信道的4800 MHz DDR5內(nèi)存。

這款新的虛擬機(jī)使用了NVIDIA的NVIDIA Tensor Core H100 GPU和NVIDIA Quantum-2 InfiniBand網(wǎng)絡(luò),目前僅限于美國(guó)東部和西部Azure企業(yè)訪問(wèn)。微軟表示,他們正在努力在明年為其虛擬機(jī)添加數(shù)十萬(wàn)塊新的GPU。

除了推出這款A(yù)zure虛擬機(jī),微軟還宣布擴(kuò)展其Azure OpenAI服務(wù),在加拿大東部、美國(guó)東部2、日本東部和英國(guó)南部地區(qū)上線,ChatGPT AI 平臺(tái)最強(qiáng)大的版本 GPT-4 也將適用于新的 Azure OpenAI 服務(wù)區(qū)域。

微軟表示,Azure OpenAI服務(wù)的客戶已經(jīng)超過(guò)11000名,本季度平均每天吸引100名新客戶。這一顯著的增長(zhǎng)證明了他們的服務(wù)為渴望利用人工智能潛力滿足其獨(dú)特需求的企業(yè)帶來(lái)了價(jià)值和可擴(kuò)展性。

標(biāo)簽: