鯤雲科技(jì)近日(rì)攜手(shǒu)百(bǎi)度(dù)飛槳(PaddlePaddle)，完成(chéng)了搭(dā)載CAISA芯(xīn)片(piàn)的鯤雲星(xīng)空(kōng)X3加速卡(qiǎ)對PaddlePaddle框(kuàng)架模型(xíng)轉化的全麵(miàn)支(zhī)持(chí)。這意味著鯤雲自主(zhǔ)研發的全(quán)球首款數據(jù)流AI芯(xīn)片(piàn)CAISA，可快(kuài)速(sù)適(shì)配百度飛槳PaddleX模(mó)型格式(shì)，支(zhī)持(chí)主流算法網絡，穩(wěn)定(dìng)運(yùn)行，能(néng)夠達到兼(jiān)容性(xìng)及性能(néng)，可靠性要(yào)求，便於(yú)開發者(zhě)快速(sù)實現多樣(yàng)化AI應(yīng)用部署(shǔ)，這次(cì)合作進一(yī)步(bù)擴大(dà)了雙(shuāng)方在AI產業的(dí)創(chuàng)新(xīn)生態。

Paddle模型(xíng)到(dào)星(xīng)空X3加(jiā)速(sù)卡轉換部署流(liú)程(chéng)

鯤雲(yún)科技自(zì)成(chéng)立(lì)以來，一(yī)直深耕數據流AI芯(xīn)片的(dí)自(zì)主(zhǔ)研(yán)發，已(yǐ)實(shí)現量產的CAISA芯片，在芯片利用率(shuài)上提升了最(zuì)高11.6倍，其高算力性價比(bǐ)，高架構(gòu)通用(yòng)性及(jí)高(gāo)軟件易用性(xìng)的優(yōu)勢(shì)，在(zài)與(yǔ)百(bǎi)度飛槳的適(shì)配(pèi)過程(chéng)中(zhōng)得(dé)到(dào)了更(gēng)好的呈(chéng)現。搭(dā)載CAISA芯(xīn)片的星空X3加(jiā)速卡(qiǎ)峰(fēng)值(zhí)性(xìng)能為(wéi)10.9TOPs，實(shí)測(cè)結(jié)果(guǒ)顯示(shì)運行(háng)ResNet50的延時(shí)低至3.38ms，吞吐(tǔ)率達到(dào)1181.68fps，在精(jīng)度保證(zhèng)的情況(kuàng)下(xià)，性能表現優於同(tóng)類(lèi)產品(pǐn)。

星(xīng)空(kōng)X3加速(sù)卡百(bǎi)度(dù)飛槳深(shēn)度學習平(píng)台(tái)提供了(liǎo)快速有(yǒu)效搭(dā)建訓(xùn)練深(shēn)度(dù)學習模型的方(fāng)案，並透過Paddle2ONNX模塊(kuài)與鯤雲的星(xīng)空(kōng)X3加(jiā)速(sù)卡(qiǎ)完成(chéng)了簡單快(kuài)速的適配(pèi)。在(zài)飛槳全流(liú)程(chéng)開發(fā)圖(tú)形化工(gōng)具(jù)PaddleX和鯤(kūn)雲自(zì)行(háng)研發的RainBuilder編譯器(qì)支持下(xià)，星空X3加速卡(qiǎ)在離綫狀態將(jiāng)ONNX等模型(xíng)格(gé)式轉(zhuǎn)換成IR格式(shì)後(hòu)在RainBuilder Runtime上部署，支持ResNet, YOLO, DeepLab 等各種(zhǒng)CNN類(lèi)主流算法推(tuī)斷(duàn)模(mó)型，開發者隻(zhī)需兩步，便可輕(qīng)易實現(xiàn)模型到硬件(jiàn)的(dí)部(bù)署和(hé)運(yùn)行。

RainBuilder端到端自(zì)動(dòng)編(biān)譯(yì)工具鏈(liàn)

飛槳(jiǎng)是中國首個開源開放(fàng)，技(jì)術(shù)領(lǐng)先(xiān)，功(gōng)能(néng)完備的產(chǎn)業(yè)級(jí)深度(dù)學習(xí)平(píng)台，鯤(kūn)雲是國內數(shù)據流AI芯片研(yán)發(fā)的(dí)先行(háng)者(zhě)，致力於加(jiā)速人工智能在(zài)產(chǎn)業的落地和應(yīng)用。本次(cì)合作(zuò)為人(rén)工智能(néng)開發者(zhě)提(tí)供(gōng)了更(gēng)高效(xiào)的多(duō)樣化(huà)AI部署選擇(zé)，進一步降低(dī)了(liǎo) AI 應用的開(kāi)發難(nán)度(dù)，提高開發(fā)效(xiào)率，未來(lái)，百度(dù)飛(fēi)槳(jiǎng)與鯤雲科(kē)技將在底層架(jià)構和(hé)硬件上進一步推(tuī)進合作，為自主(zhǔ)人(rén)工(gōng)智(zhì)能產業的發(fā)展(zhǎn)提供(gōng)新(xīn)的探(tàn)索方向(xiàng)。

關於百度(dù)飛槳(jiǎng)PaddlePaddle

飛槳(jiǎng)(PaddlePaddle)以(yǐ)百度多年的(dí)深度(dù)學習技(jì)術研(yán)究和業務應用為基礎，集深度(dù)學習核心(xīn)訓練和推理框架(jià)，基(jī)礎(chǔ)模型庫，端到(dào)端開發(fā)套(tào)件和(hé)豐富(fù)的工(gōng)具組件於一體(tǐ)，是中(zhōng)國首個自(zì)主研發，功能(néng)完備(bèi)，開(kāi)源開(kāi)放的產(chǎn)業(yè)級深度(dù)學習平(píng)台(tái)。飛(fēi)槳企(qǐ)業版針對企(qǐ)業級需求增(zēng)強了(liǎo)相(xiāng)應(yīng)特(tè)性，包含(hán)零門檻AI開發平(píng)台EasyDL和全(quán)功能AI開發(fā)平(píng)台BML。EasyDL主要(yào)麵向(xiàng)中小企業，提(tí)供(gōng)零門(mén)檻，預(yù)置(zhì)豐富網(wǎng)絡(luò)和模型(xíng)，便捷(jié)高(gāo)效的開(kāi)發平台(tái);BML是(shì)為大(dà)型企業提供(gōng)的功(gōng)能全麵，可靈(líng)活定製(zhì)和被(bèi)深度集成(chéng)的開發平(píng)台(tái)。目(mù)前，飛(fēi)槳(jiǎng)累計(jì)開(kāi)發者320萬(wàn)，服(fú)務企業(yè)12萬家，基(jī)於飛槳(jiǎng)開(kāi)源深(shēn)度(dù)學習(xí)平(píng)台產生了(liǎo)36萬個(gè)模型(xíng)。飛槳助力(lì)開(kāi)發者快(kuài)速實(shí)現AI想法，快速(sù)上綫AI業(yè)務。幫助(zhù)越(yuè)來越多的(dí)行(háng)業(yè)完(wán)成AI賦(fù)能，實(shí)現產業智(zhì)能(néng)化升(shēng)級。

關於鯤雲RainBuilder編譯工具(jù)鏈

專為CAISA架(jià)構(gòu)設計的RainBuilder編(biān)譯工(gōng)具(jù)鏈提供從(cóng)算(suàn)法(fǎ)模(mó)型到板(bǎn)級產品(pǐn)部署的(dí)一整(zhěng)套開發套(tào)件，包(bāo)括(kuò)RainBuilder Compiler，RainBuilder Runtime和(hé)RainBuilder Driver三層。RainBuilder Compiler支持(chí)算法模型的智能(néng)解(jiě)析(xī)，自動化(huà)量化壓(yā)縮，節點(diǎn)融合，內(nèi)存(cún)優化，能(néng)夠將(jiāng)模(mó)型(xíng)轉化為適用於CAISA架構的中間表達(dá)和數(shù)據。RainBuilder Runtime提供性能(néng)模型分析，精度驗證，自動綫(xiàn)程(chéng)調(tiáo)度，軟(ruǎn)硬(yìng)件並行，異(yì)常(cháng)處理(lǐ)等功能(néng)，為用戶(hù)提供豐富易用(yòng)的開發(fā)接口以(yǐ)完(wán)成對底層AI硬件(jiàn)的高(gāo)效應用。RainBuilder Driver支(zhī)持(chí)CAISA硬件架(jià)構驅(qū)動，硬件模塊計(jì)算調(tiáo)度以及硬件(jiàn)模型(xíng)分析，可以自動進(jìn)行(háng)細粒度(dù)性(xìng)能優化及(jí)調度(dù)。RainBuilder使(shǐ)用(yòng)過程簡單便捷(jié)，支(zhī)持用戶自(zì)定(dìng)義算子(zǐ)，用戶(hù)無需(xū)對(duì)底層(céng)硬件有(yǒu)深入的(dí)了解(jiě)，隻需兩步，即可通過(guò)基(jī)於C++/Python的(dí)標(biāo)準開(kāi)發流(liú)程實(shí)現算(suàn)法快速部(bù)署(shǔ)。