算力的互聯(lián)與互通
發(fā)布時間:
2024.03.22
講座時間:2024年03月27日14:00-16:30
講座地點:沙河校區(qū)立德樓603學(xué)術(shù)報告廳
數(shù)字經(jīng)濟發(fā)展水平與算力規(guī)模密切相關(guān),數(shù)據(jù)的高效處理決定數(shù)字經(jīng)濟高質(zhì)量發(fā)展。報告首先介紹三大類算力:1 HPC算力,2 AI算力,3 數(shù)據(jù)中心算力。介紹能支持大模型訓(xùn)練的兩種系統(tǒng): 1.基于英偉達公司GPU的系統(tǒng);2.基于國產(chǎn)AI芯片的系統(tǒng)。要改變國產(chǎn)卡的生態(tài)系統(tǒng)不好的局面,需要做好10個軟件:編程框架,并行加速,通信庫,算子庫,AI 編譯器,編程語言,調(diào)度器、內(nèi)存分配、容錯系統(tǒng)和存儲系統(tǒng)。
主講人簡介:
鄭緯民,清華大學(xué)計算機系教授,中國工程院院士。長期從事高性能計算機體系結(jié)構(gòu)、并行算法和系統(tǒng)研究。在國內(nèi)率先研制并成功應(yīng)用集群架構(gòu)高性能計算機。在國產(chǎn)神威太湖之光上研制的極大規(guī)模天氣預(yù)報應(yīng)用獲得ACM Gordon Bell獎。曾獲國家科技進步一等獎1項、二等獎2項、國家技術(shù)發(fā)明二等獎1 項,何梁何利科技進步獎,獲得首屆中國存儲終身成就獎。