阿里電信聯(lián)手建設(shè)10萬卡智算集群,配備1萬顆自研芯片
關(guān)鍵詞: 阿里巴巴 真武AI芯片 萬卡智算集群 中國電信
阿里巴巴(Alibaba)與中國電信宣布,在中國廣東韶關(guān)建設(shè)一座用于人工智能(AI)訓(xùn)練與推理的數(shù)據(jù)中心,并配備1萬顆自研真武AI芯片。
阿里云表示,粵港澳大灣區(qū)首個(gè)基于"真武"芯片的萬卡智算集群預(yù)計(jì)擴(kuò)容至10萬卡規(guī)模。
該集群實(shí)現(xiàn)了從芯片、云平臺(tái)到模型應(yīng)用的全鏈路自主研發(fā),是國家"超大規(guī)模智算集群"新基建在大灣區(qū)的首個(gè)落地項(xiàng)目。
據(jù)悉,真武芯片整機(jī)提供1.5T超大顯存,卡間互聯(lián)帶寬超過700GB/s,為國產(chǎn)算力底座提供了堅(jiān)實(shí)支撐。
值得一提的是,相較傳統(tǒng)單機(jī)部署模式,集群單卡吞吐性能提升達(dá)9.3倍,每秒Token生成總量提升近10倍。
阿里巴巴總裁吳泳銘星期三(8日)也發(fā)內(nèi)部信,宣布AI相關(guān)組織調(diào)整,包括設(shè)立集團(tuán)技術(shù)委員會(huì),升級通義大模型事業(yè)部并加速AI建設(shè)。
集團(tuán)技術(shù)委員會(huì)由吳泳銘擔(dān)任組長,成員包括周靖人、吳澤明、李飛飛。其中,周靖人擔(dān)任技術(shù)委員會(huì)首席AI架構(gòu)師,李飛飛負(fù)責(zé)阿里云技術(shù)和AI云基礎(chǔ)設(shè)施建設(shè),吳澤明負(fù)責(zé)集團(tuán)業(yè)務(wù)技術(shù)平臺(tái)以及AI推理平臺(tái)建設(shè)。(校對/趙月)