英特爾：為DeepSeek大模型提供優(yōu)化工具降低部署門檻

快訊 2025年02月02日 17:15 1 admin

　　來(lái)源：環(huán)球網(wǎng)

　　【環(huán)球網(wǎng)科技綜合報(bào)道】近日，DeepSeek推出了一款名為Janus Pro的先進(jìn)AIGC（人工智能生成內(nèi)容）模型，該模型以其卓越的性能和高精度引起了行業(yè)的廣泛關(guān)注。

　　2月2日，英特爾方面表示，英特爾? Gaudi 2D AI加速器針對(duì)Janus Pro進(jìn)行了優(yōu)化，為AI開發(fā)者提供了以更低的成本和更高的效率部署復(fù)雜任務(wù)的可能性，滿足了行業(yè)對(duì)于推理計(jì)算能力的需求。

　　據(jù)了解，DeepSeek Janus Pro首次采用了統(tǒng)一的Transformer架構(gòu)，打破了傳統(tǒng)AIGC模型依賴多路徑視覺編碼的限制，實(shí)現(xiàn)了理解與生成任務(wù)的一體化支持。通過優(yōu)化訓(xùn)練策略和擴(kuò)大模型規(guī)模，Janus Pro在文生圖等功能上展現(xiàn)了顯著的性能提升和穩(wěn)定性，并推出了10億參數(shù)和70億參數(shù)兩個(gè)版本，進(jìn)一步鞏固了其在性能和精度方面的競(jìng)爭(zhēng)力。

　　值得一提的是，Janus Pro在統(tǒng)一Transformer架構(gòu)下，文生圖模型的吞吐量不再僅僅依賴于加速器的高算力，而是充分利用HBM內(nèi)存的高帶寬和大容量。借助英特爾? Gaudi 2D提供的2.45TB/秒的高帶寬和96GB HBM大容量?jī)?nèi)存，Janus Pro在處理批處理任務(wù)時(shí)表現(xiàn)出了顯著的吞吐性能提升，能夠大幅縮短了任務(wù)處理時(shí)間。結(jié)合英特爾Optimum-Habana框架的優(yōu)化，僅需約10秒即可生成16張高質(zhì)量圖片，極大提升了文生圖任務(wù)的效率。

　　此外，DeepSeek的蒸餾模型也得到了至強(qiáng)和Gaudi平臺(tái)的支持，有助于降低總體擁有成本（TCO），促進(jìn)AI技術(shù)的普及。目前，英特爾的AI產(chǎn)品組合已針對(duì)超過500個(gè)開源AI模型提供支持，包括DeepSeek、Llama 3.1和通義千問等，同時(shí)致力于構(gòu)建開放生態(tài)系統(tǒng)，為企業(yè)AI應(yīng)用的實(shí)現(xiàn)提供堅(jiān)實(shí)基礎(chǔ)。（勃潺）

標(biāo)簽：英特爾門檻部署