首頁(yè) > 新聞 > 科技 > 正文

英特爾推出新型AI處理芯片Gaudi 3 比英偉達H100快50%

2024-04-10 17:17:00
字體:
來(lái)源:轉載
供稿:網(wǎng)友
美國當地時(shí)間4月9日,英特爾在面向客戶(hù)和合作伙伴的英特爾on產(chǎn)業(yè)創(chuàng )新大會(huì )上,英特爾CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。

英特爾表示,Gaudi 3 AI加速器可通過(guò)以太網(wǎng)的通用標準連接多達數萬(wàn)個(gè)加速器。與上一代產(chǎn)品相比,英特爾Gaudi 3將帶來(lái)4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升。該加速器將為尋求大規模部署生成式AI的企業(yè)帶來(lái)AI訓練和推理方面的重大飛躍。

英特爾Gaudi 3預計可大幅縮短70億和130億參數Llama2模型,以及1750億參數GPT-3模型的訓練時(shí)間。

英特爾表示,Gaudi 3能夠比英偉達上一代H100處理器訓練特定大型語(yǔ)言模型的速度快40%,在推理端比英偉達H100快50%。

基辛格在現場(chǎng)表示,Gaudi 3的性能將與英偉達H200相當,在某些領(lǐng)域的性能甚至會(huì )更好。但是他沒(méi)有給出具體數據。

值得注意的是,外媒指出,H100是英偉達Hopper產(chǎn)品線(xiàn)中的老款芯片,在2022年發(fā)布。英偉達在去年又發(fā)布了H200,將于今年二季度正式開(kāi)售,2024年3月英偉達展示了新的Blackwell B100和B200芯片。

英特爾表示,Gaudi 3已經(jīng)在Meta大模型Llama上做了測試,可以有效地訓練或部署AI大模型,包括文生圖的Stable Diffusion和語(yǔ)音識別的Whisper等等。

在現場(chǎng),基辛格也展示了集成最新英特爾芯片的AI PC,能夠快速處理的多項任務(wù),例如快速處理郵件、語(yǔ)音處理、圖像渲染等。

據了解,英特爾Gaudi 3采用臺積電5納米工藝制造。英特爾Gaudi 3將于2024年第二季度面向OEM廠(chǎng)商出貨,包括戴爾、惠普和超微電腦在內的公司將使用該芯片。

當天,英特爾還分享了企業(yè)AI各細分領(lǐng)域的下一代產(chǎn)品和服務(wù)的最新信息。英特爾為面向數據中心、云和邊緣發(fā)布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將于2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其后推出,帶來(lái)更高的AI性能。

英特爾想要打造一個(gè)廣泛的AI生態(tài)聯(lián)盟,推動(dòng)企業(yè)在A(yíng)I領(lǐng)域創(chuàng )新。

英特爾概述了面向開(kāi)放的、可擴展的AI系統的戰略,其中包括硬件、軟件、框架和工具。當天,英特爾聯(lián)合多家公司宣布,將創(chuàng )建一個(gè)開(kāi)放平臺助力企業(yè)推動(dòng)AI創(chuàng )新。這一計劃旨在開(kāi)發(fā)開(kāi)放的、多供應商的生成式AI系統,通過(guò)RAG(檢索增強生成)技術(shù),提供部署便利性、性能和價(jià)值。RAG可使企業(yè)在標準云基礎設施上運行的大量現存專(zhuān)有數據源得到開(kāi)放大語(yǔ)言模型(LLM)功能的增強,加速生成式AI在企業(yè)中的應用。

進(jìn)入4月以來(lái),英特爾股價(jià)累計跌幅超過(guò)13%。外媒指出,新的人工智能芯片能否幫助英特爾找到股價(jià)上漲的動(dòng)能值得關(guān)注,在9日盤(pán)中,英特爾一度下跌1.7%,或創(chuàng )出約三年半來(lái)最差六日表現,但在發(fā)布新的芯片后,英特爾股價(jià)開(kāi)始上漲。截至9日美股收盤(pán),英特爾收漲0.92%,市值1632億美元。
發(fā)表評論 共有條評論
用戶(hù)名: 密碼:
驗證碼: 匿名發(fā)表