1750億!全球第一臺百億億次超算的模型誕生

這幾個月來ChatGPT很火，帶動各大科技巨頭都要下場研發(fā)自己的AI大模型，現(xiàn)在Intel也加入戰(zhàn)局，推出AuroragenAI模型，參數(shù)量高達1萬億。

目前ChatGPT 3.5模型的參數(shù)規(guī)模說是1750億，意味著AuroragenAI模型至少是它的5倍，目前有不少公司都宣傳自家的模型是萬億參數(shù)級別的，但是水分很多，Intel的萬億參數(shù)模型要可信很多。

因為AuroragenAI模型是配套Intel為美國Argonne阿拉貢國家實驗室開發(fā)的Aurora超算的，性能達到了200億億次，是當前TOP500超算冠軍Frontier的2倍，后者是全球第一臺百億億次超算。

Aurora超算共有10624個節(jié)點，每個節(jié)點2組CPU及6組GPU，CPU是Sapphire Rapids-SP架構(gòu)的，總計21248個，GPU是Intel最強的Ponte Vecchio，總計63744個。

還有10.9PB的DDR5內(nèi)存，1.36PB的HBM CPU內(nèi)存，8.16PB的HBM GPU內(nèi)存，峰值帶寬分別可達5.95PB/s、30.5PB/s、208.9PB/s。

存儲系統(tǒng)還有230PB容量，30TB/s帶寬，光看參數(shù)的話Aurora超算真的是夢幻級別。

Aurora genAI模型就運行在Aurora超算上，1萬億參數(shù)的能力很好很強大，不過它跟ChatGPT不同，主要用于科學(xué)計算領(lǐng)域，包括生物學(xué)、癌癥、大氣科學(xué)、天文學(xué)、高分子化學(xué)等領(lǐng)域。