在線客服
企業(yè)微信
南京人工智能計算中心全自主運行“大模型”
南京人工智能計算中心近日對外公布，中心成功實現(xiàn)LLaMA、ChatGLM-6B、BLOOM、鵬程·盤古α等主流NLP（自然語言處理）大模型上線。這些大模型均為目前人工智能產(chǎn)學(xué)界最前沿、最受關(guān)注的技術(shù)“寵兒”，可針對用戶需求提供相對準確的答案和建議，應(yīng)用廣泛。
江北科投集團副總經(jīng)理、先進計算產(chǎn)業(yè)發(fā)展有限公司總經(jīng)理戴曉玉介紹，該中心實現(xiàn)從芯片到系統(tǒng)再到應(yīng)用部署層全棧自主可控。他解釋，大模型在算力中心成功適配，意味著使用中心算力服務(wù)的企業(yè)及院校機構(gòu)都可以在國產(chǎn)生態(tài)中“跑”起大模型。
今年以來，人工智能算力需求呈現(xiàn)爆發(fā)式增長，被稱為算力之源的GPU（圖形處理器）是人工智能大模型發(fā)展的關(guān)鍵基礎(chǔ)設(shè)施。目前，全球GPU巨頭企業(yè)英偉達，在人工智能訓(xùn)練芯片領(lǐng)域占據(jù)很高的市場份額，不少算力中心都采用其芯片運行。
據(jù)介紹，昇思MindSpore是華為開源推出的首個業(yè)界全場景AI框架。該中心基于這一框架，將主流NLP大模型適配到本地環(huán)境中，實現(xiàn)高效運行。目前，一家互聯(lián)網(wǎng)電商企業(yè)在測試中，使用適配后的大模型運營自己的平臺，運行情況良好。
沿著江心洲大橋駛?cè)虢毙聟^(qū)，南京人工智能計算中心正立于一側(cè)。這個算力中心的“大腦”位于這座大廈二樓的機房內(nèi)，機柜上一個個排列整齊的“黑匣子”泛出藍光，那是算力中心的核心模塊，24小時不間斷運轉(zhuǎn)。中心一期計算能力達40PFLOPS（每秒4億億次浮點運算次數(shù)），于去年5月對外提供服務(wù)，如今分配率為100%，算力已全部供應(yīng)給企業(yè)、院校機構(gòu)，使用率峰值達85%左右。將于9月上線的二期項目預(yù)計擴容100PFLOPS算力，部分算力服務(wù)已被預(yù)訂。
在算力中心穩(wěn)定運行后，一批省內(nèi)重點高校主動邀約合作，探路用全自主的“算力”跑起屬于自己的科研大模型。去年11月，南京大學(xué)、江北科投集團、華為公司三方簽約，共同孵化“金陵·女媧”科研大模型。這一大模型可幫助研究人員從基因出發(fā)探究生命體的新規(guī)律，為罕見病診斷以及藥物設(shè)計提供支撐。“為了發(fā)現(xiàn)可能藥物或有效靶標，原本需要做千萬次嘗試，有了大模型的輔助，只需做十分之一甚至百分之一的工作量。”戴曉玉解釋。
當下，東南大學(xué)毫米波國家重點實驗室、南農(nóng)作物遺傳與種質(zhì)創(chuàng)新國家重點實驗室、中科院自動化所等科研機構(gòu)都在該中心進行科研大模型的孵化，未來可應(yīng)用于人工智能生物學(xué)、EDA、智能制造和智慧育種等產(chǎn)業(yè)。（許雯斐）
南京人工智能計算中心近日對外公布，中心成功實現(xiàn)LLaMA、ChatGLM-6B、BLOOM、鵬程·盤古α等主流NLP（自然語言處理）大模型上線。這些大模型均為目前人工智能產(chǎn)學(xué)界最前沿、最受關(guān)注的技術(shù)“寵兒”，可針對用戶需求提供相對準確的答案和建議，應(yīng)用廣泛。
江北科投集團副總經(jīng)理、先進計算產(chǎn)業(yè)發(fā)展有限公司總經(jīng)理戴曉玉介紹，該中心實現(xiàn)從芯片到系統(tǒng)再到應(yīng)用部署層全棧自主可控。他解釋，大模型在算力中心成功適配，意味著使用中心算力服務(wù)的企業(yè)及院校機構(gòu)都可以在國產(chǎn)生態(tài)中“跑”起大模型。
今年以來，人工智能算力需求呈現(xiàn)爆發(fā)式增長，被稱為算力之源的GPU（圖形處理器）是人工智能大模型發(fā)展的關(guān)鍵基礎(chǔ)設(shè)施。目前，全球GPU巨頭企業(yè)英偉達，在人工智能訓(xùn)練芯片領(lǐng)域占據(jù)很高的市場份額，不少算力中心都采用其芯片運行。
據(jù)介紹，昇思MindSpore是華為開源推出的首個業(yè)界全場景AI框架。該中心基于這一框架，將主流NLP大模型適配到本地環(huán)境中，實現(xiàn)高效運行。目前，一家互聯(lián)網(wǎng)電商企業(yè)在測試中，使用適配后的大模型運營自己的平臺，運行情況良好。
沿著江心洲大橋駛?cè)虢毙聟^(qū)，南京人工智能計算中心正立于一側(cè)。這個算力中心的“大腦”位于這座大廈二樓的機房內(nèi)，機柜上一個個排列整齊的“黑匣子”泛出藍光，那是算力中心的核心模塊，24小時不間斷運轉(zhuǎn)。中心一期計算能力達40PFLOPS（每秒4億億次浮點運算次數(shù)），于去年5月對外提供服務(wù)，如今分配率為100%，算力已全部供應(yīng)給企業(yè)、院校機構(gòu)，使用率峰值達85%左右。將于9月上線的二期項目預(yù)計擴容100PFLOPS算力，部分算力服務(wù)已被預(yù)訂。
在算力中心穩(wěn)定運行后，一批省內(nèi)重點高校主動邀約合作，探路用全自主的“算力”跑起屬于自己的科研大模型。去年11月，南京大學(xué)、江北科投集團、華為公司三方簽約，共同孵化“金陵·女媧”科研大模型。這一大模型可幫助研究人員從基因出發(fā)探究生命體的新規(guī)律，為罕見病診斷以及藥物設(shè)計提供支撐。“為了發(fā)現(xiàn)可能藥物或有效靶標，原本需要做千萬次嘗試，有了大模型的輔助，只需做十分之一甚至百分之一的工作量。”戴曉玉解釋。
當下，東南大學(xué)毫米波國家重點實驗室、南農(nóng)作物遺傳與種質(zhì)創(chuàng)新國家重點實驗室、中科院自動化所等科研機構(gòu)都在該中心進行科研大模型的孵化，未來可應(yīng)用于人工智能生物學(xué)、EDA、智能制造和智慧育種等產(chǎn)業(yè)。（許雯斐）
