2023年10月21日至22日,由中國計(jì)算機(jī)學(xué)會(huì)(CCF)和開放原子開源基金會(huì)聯(lián)合主辦的CCF中國開源大會(huì)(CCF ChinaOSC)在湖南省長沙市北辰國際會(huì)議中心成功召開。此次大會(huì)以“開源聯(lián)合,聚力共贏”為主題,旨在推動(dòng)國內(nèi)外開源事業(yè)的交流與合作,共同探討開源未來的發(fā)展方向和趨勢。
2023 CCF中國開源大會(huì)現(xiàn)場
高文院士:大模型開源推動(dòng)技術(shù)創(chuàng)新與產(chǎn)業(yè)發(fā)展
在21日的主論壇會(huì)議上,鵬城實(shí)驗(yàn)室主任、中國工程院院士高文發(fā)表了題為《鵬城·腦海預(yù)訓(xùn)練大模型底座與開源合作》的報(bào)告。高文院士詳細(xì)介紹了鵬城腦海預(yù)訓(xùn)練大模型的底座技術(shù)和應(yīng)用場景,并強(qiáng)調(diào)了開源合作的重要性。他指出,以ChatGPT為代表的聊天預(yù)訓(xùn)練大模型已經(jīng)對人類經(jīng)濟(jì)生活產(chǎn)生了巨大的影響。而這種影響背后,強(qiáng)大的算力基礎(chǔ)是大模型能夠理解海量數(shù)據(jù)并不斷演化的關(guān)鍵因素。
鵬城實(shí)驗(yàn)室主任高文院士分享報(bào)告
高文院士表示,基于鵬城云腦II先進(jìn)自主E級智能算力平臺,鵬城實(shí)驗(yàn)室正在持續(xù)訓(xùn)練鵬城·腦海大模型底座。腦海是一個(gè)完全自主可控、開源開放的自然語言稠密大模型,參數(shù)級別達(dá)到2000億,性能達(dá)到國際先進(jìn)水平。他強(qiáng)調(diào),鵬城·腦海大模型底座的輸出內(nèi)容符合中文核心價(jià)值觀,這對于推動(dòng)大模型在國內(nèi)的發(fā)展具有重要意義。
高文院士還指出,開源已經(jīng)成為推動(dòng)技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展的重要力量,而大模型開源更是未來發(fā)展的重要方向之一。通過開源開放的方式,可以匯聚全球的智慧和力量,加速大模型的研發(fā)進(jìn)程,并且推動(dòng)大模型在各個(gè)行業(yè)和領(lǐng)域的應(yīng)用。他表示,鵬城實(shí)驗(yàn)室已經(jīng)開放基于鵬城·腦海自然語言預(yù)訓(xùn)練大模型底座的合作,將持續(xù)共建大模型開源聯(lián)合體,助力國產(chǎn)自主創(chuàng)新的大模型生態(tài)發(fā)展。
大模型開源創(chuàng)新研究聯(lián)合體:聯(lián)接資源,推動(dòng)創(chuàng)新
為進(jìn)一步推動(dòng)大規(guī)模模型的研究和發(fā)展,促進(jìn)學(xué)術(shù)界和工業(yè)界的交流與合作,以及匯聚全球的智慧和力量,會(huì)上進(jìn)行了“大模型開源創(chuàng)新研究聯(lián)合體”的成立儀式。由OpenI啟智社區(qū)運(yùn)營中心主任余躍博士為大家簡單介紹關(guān)于成立“大模型開源創(chuàng)新研究聯(lián)合體”的背景和目的。他表示,該聯(lián)合體的主要目標(biāo)是通過將三種創(chuàng)新體相互聯(lián)接以構(gòu)建更好的大模型開源發(fā)展生態(tài)。
余躍博士介紹大模型開源創(chuàng)新研究聯(lián)合體
第一種是對計(jì)算資源跨域協(xié)作的聯(lián)接。目前通過中國算力網(wǎng)加入聯(lián)合體的有鵬城云腦以及來自全國的8家智算中心。這種聯(lián)接方式旨在優(yōu)化和整合各中心的資源,打破孤立,實(shí)現(xiàn)資源共享,以推動(dòng)大規(guī)模模型的開發(fā)和研究。
第二種是對包括了鵬城·腦海在內(nèi)的大模型主體的聯(lián)接。鵬城·腦海是一個(gè)強(qiáng)大的AI模型,具備深度學(xué)習(xí)和推理能力。通過聯(lián)接這些模型,開發(fā)者可以更方便地利用這些模型進(jìn)行研究和開發(fā),進(jìn)一步推動(dòng)大模型的發(fā)展和應(yīng)用。
第三種是對包括科研機(jī)構(gòu)、高校、企業(yè)等群智主體的聯(lián)接。這種聯(lián)接方式旨在促進(jìn)學(xué)術(shù)界和工業(yè)界的交流與合作,匯聚全球的智慧和力量,共同推動(dòng)大模型技術(shù)的不斷發(fā)展和應(yīng)用。
在成立儀式上,由中國工程院院士王懷民、余躍博士以及來自北京昇騰人工智能計(jì)算中心、天津人工智能計(jì)算中心、沈陽人工智能計(jì)算中心、大連人工智能計(jì)算中心、長春算力中心、西安未來人工智能計(jì)算中心、武漢超算中心&人工智能計(jì)算中心、成都智算中心8家計(jì)算中心代表上臺聯(lián)合見證了這一重要時(shí)刻。大模型開源創(chuàng)新研究聯(lián)合體將成為人工智能領(lǐng)域的一個(gè)重要平臺,為未來的技術(shù)創(chuàng)新和發(fā)展奠定堅(jiān)實(shí)的基礎(chǔ)。
大模型開源創(chuàng)新研究聯(lián)合體成立儀式合影
中國大模型開源之路:專家探討文化、技術(shù)與企業(yè)實(shí)踐
繁榮中國開源生態(tài),促進(jìn)中國開源發(fā)展,離不開產(chǎn)學(xué)研的參與和努力。會(huì)上,由中國科學(xué)院院士、CCF開源發(fā)展委員會(huì)主任王懷民主持了以“中國大模型的開源發(fā)展之路”為主題的開源高峰論壇,與會(huì)嘉賓包括高文院士、復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院教授邱錫鵬、清華大學(xué)計(jì)算機(jī)系WeBank講席教授唐杰、阿里云CTO周靖人以及百川智能創(chuàng)始人兼CEO王小川。這些嘉賓就中國大模型的開源發(fā)展問題進(jìn)行了深入探討,并提出了寶貴的建議。
“中國大模型的開源發(fā)展之路”高峰論壇
其中,高文院士強(qiáng)調(diào)了開源的重要性,認(rèn)為開源本身是一種文化。傳統(tǒng)的軟件開源與大模型的開源并沒有本質(zhì)差別,都需要構(gòu)建合作伙伴關(guān)系、建立生態(tài)。大模型開源后,其影響力將更廣泛,更多的開發(fā)者和企業(yè)將能夠基于它來開發(fā)更多應(yīng)用與服務(wù)。他還特別提到OpenI啟智社區(qū),其獨(dú)特之處在于它成功地從實(shí)驗(yàn)性科研項(xiàng)目發(fā)展成為備受開發(fā)者喜愛的開源社區(qū)。他認(rèn)為,吸引并服務(wù)好年輕人是關(guān)鍵,讓社區(qū)成為大家喜愛的聚集地是社區(qū)建設(shè)最重要的任務(wù)。
唐杰教授則從技術(shù)角度出發(fā),探討了大模型的開源技術(shù)挑戰(zhàn)和解決方案。他認(rèn)為,解決模型的可解釋性、隱私保護(hù)以及跨語言、跨領(lǐng)域等問題是大模型開源的關(guān)鍵。同時(shí),他還分享了如何利用強(qiáng)化學(xué)習(xí)等技術(shù)來優(yōu)化大模型的性能。
邱錫鵬教授表示,大模型的開源將促進(jìn)更多的創(chuàng)新和合作。他認(rèn)為,在開源社區(qū)中,應(yīng)該注重培養(yǎng)年輕的人才,讓他們成為推動(dòng)大模型開源發(fā)展的重要力量。
周靖人則從企業(yè)的角度出發(fā),分享了阿里云和魔搭社區(qū)在大模型開源方面的探索和實(shí)踐。他認(rèn)為,企業(yè)應(yīng)該積極參與大模型的開源工作,通過合作來推動(dòng)技術(shù)的發(fā)展,同時(shí)也要注重保護(hù)知識產(chǎn)權(quán)。
王小川提出模型開源比以往的項(xiàng)目開源更積極,開源之后,大家能基于模型很快搭建自己的服務(wù)平臺,可用性較以往大有提升。他表示,百川智能將致力于推動(dòng)大模型的開源發(fā)展,通過建立合作伙伴關(guān)系、培養(yǎng)人才以及加強(qiáng)技術(shù)研發(fā)等方面來推動(dòng)中國大模型開源的進(jìn)步和發(fā)展。
最后,王懷民院士總結(jié)了本次對中國大模型的開源發(fā)展之路的討論,他表示,我們感受到中國建設(shè)的大模型開源創(chuàng)新環(huán)境具有吸引力,吸引中國開發(fā)者乃至全球創(chuàng)新者的關(guān)注。未來期待基于大模型開源激發(fā)我國人工智能應(yīng)用創(chuàng)新,助力中國信息產(chǎn)業(yè)發(fā)展。
中國大模型開源事業(yè)的健康發(fā)展、開源生態(tài)的良性構(gòu)建,離不開政府、企業(yè)、科研機(jī)構(gòu)以及各界開源愛好者的持續(xù)支持和廣泛參與。最后,鵬城實(shí)驗(yàn)室熱烈歡迎對鵬城·腦海大模型開源感興趣的組織機(jī)構(gòu)通過以下聯(lián)系方式加入大模型開源創(chuàng)新研究聯(lián)合體,期待在各方的支持下,中國的大模型開源事業(yè)能夠取得更大的突破和進(jìn)步。
鵬城·腦海大模型網(wǎng)址:
https://openi.pcl.ac.cn/extension/mind
聯(lián)系郵箱: