Imagination 攜手百度飛槳，共推中國人工智能生態(tài)建設(shè)

發(fā)布時間：2022-05-25作者來源：張國斌瀏覽：2615

我們已經(jīng)進入了萬物智能互聯(lián)的時代，人工智能技術(shù)成為給千行百業(yè)賦能智慧的不二選擇，在人工智能應(yīng)用中，構(gòu)建一個學(xué)習(xí)、應(yīng)用的生態(tài)直觀重要。美國人工智能領(lǐng)先企業(yè)都非常注重打造生態(tài)系統(tǒng)，如谷歌的Tensorflow，臉書的pytorch 等，在中國，目前，百度飛槳（PaddlePaddle）受到越來越多開發(fā)者以及人工智能上下游企業(yè)的青睞。

5月20日，Imagination Technologies在“Wave Summit 2022”大會上宣布：攜手百度飛槳（PaddlePaddle）及多家合作伙伴共同發(fā)起“硬件生態(tài)共創(chuàng)計劃”，利用自身的優(yōu)勢技術(shù)和市場應(yīng)用經(jīng)驗共同構(gòu)建高效的軟硬一體平臺方案，將百度飛槳軟件的先進算法和靈活性與Imagination異構(gòu)計算IP技術(shù)相結(jié)合，支持下游芯片及應(yīng)用開發(fā)商在此基礎(chǔ)上快速創(chuàng)建全面優(yōu)化的解決方案。

據(jù)悉，百度飛槳是中國[敏感詞]自主研發(fā)、功能豐富、開源開放的產(chǎn)業(yè)級深度學(xué)習(xí)平臺。截至2022年5月，百度飛槳已經(jīng)匯聚了477萬開發(fā)者，創(chuàng)建56萬個AI模型，累計服務(wù)18萬家企事業(yè)單位。硬件生態(tài)共創(chuàng)計劃是飛槳“大航海”計劃2.0的重要部分之一。

目前，很多人工智能開發(fā)者在實際應(yīng)用中面臨多種挑戰(zhàn)，例如在開發(fā)階段，模型實現(xiàn)復(fù)雜，開發(fā)效率較低；在訓(xùn)練階段，產(chǎn)業(yè)界的數(shù)據(jù)量大，訓(xùn)練時間長，反復(fù)訓(xùn)練困難；在部署階段，實際產(chǎn)業(yè)落地的要求很高，同時多硬件還會帶來了很大的部署成本；另外還有產(chǎn)業(yè)模型庫包含的模型較少，無法滿足開發(fā)者的應(yīng)用訴求等。而百度飛槳開發(fā)便捷的深度學(xué)習(xí)框架、超大規(guī)模深度學(xué)習(xí)模型訓(xùn)練技術(shù)、多端多平臺推理部署引擎和產(chǎn)業(yè)級的開源模型庫解決了這些挑戰(zhàn)。此外，一些國產(chǎn)AI芯片跟PyTorch和TF不兼容。但卻可以兼容百度飛槳，所以，百度飛槳對于推動本土AI應(yīng)用普及發(fā)揮了巨大作用。

Imagination計算業(yè)務(wù)副總裁Shreyas Derashri表示：“很高興能夠與百度飛槳及眾多合作伙伴再次攜手，發(fā)布‘硬件生態(tài)共創(chuàng)計劃’，并為業(yè)界構(gòu)建軟硬一體的計算方案。2020年，Imagination加入百度飛槳硬件生態(tài)圈；2021年，Imagination和百度飛槳在全球人工智能（AI）生態(tài)系統(tǒng)方面開展合作。此次合作是雙方良好合作的延續(xù)，在算力和算法方面優(yōu)勢的深度融合，可為行業(yè)提供更優(yōu)化的解決方案。”

實際上，隨著人工智能技術(shù)在各行業(yè)的廣泛應(yīng)用及快速發(fā)展，業(yè)界已從各自獨立的硬件算力驅(qū)動和算法創(chuàng)新驅(qū)動進入到算法和硬件協(xié)同創(chuàng)新階段。在硬件生態(tài)共創(chuàng)計劃中，合作雙方基于百度飛槳（PaddlePaddle）對未來硬件計算平臺的需求，結(jié)合Imagination （GPU, CPU, AI）異構(gòu)計算IP技術(shù)，從算法模型到計算框架再到半導(dǎo)體IP技術(shù)通過聯(lián)合優(yōu)化的方法，構(gòu)建高效靈活的軟件棧方案，為芯片廠商提供設(shè)計指導(dǎo)和Benchmark參考。面向行業(yè)應(yīng)用共建Model Zoo，為平臺和終端客戶提供參考方案。這種全新的生態(tài)合作模式將為雙方的客戶及合作伙伴帶來更多價值。未來，雙方將面向使用Imagination NC-SDK的飛槳開發(fā)者共同開發(fā)培訓(xùn)課程，進行聯(lián)合培訓(xùn)認證。

Imagination產(chǎn)品市場總監(jiān)鄭魁在也在大會上做了演講具體分享了合作細節(jié)，他指出目前Imagination已經(jīng)有一些模型是可以部署在基于Imagination一款4TOPs端側(cè)推理芯片上，雙方正在進行持續(xù)的優(yōu)化，下半年會針對某些典型市場應(yīng)用發(fā)布一個聯(lián)合優(yōu)化的成果。

展望未來他表示這些模型會部署在更豐富的一些異構(gòu)平臺上面，如大算力平臺等來滿足高等級智能化應(yīng)用需求。他透露雙方會針對開發(fā)者推出培訓(xùn)視頻，在近期上線。

他強調(diào)Imagination全球芯片累計出貨量已經(jīng)超過110億！是擁有GPU IP 、RISC-V CPU IP以及 AI神經(jīng)網(wǎng)絡(luò)加速器 IP的公司，且大多數(shù)產(chǎn)品都滿足Function Safety功能安全標準。

這三款I(lǐng)P加上Imagination的軟件構(gòu)成了多核異構(gòu)的解決方案，針對不同的市場應(yīng)用提供各種高性能、低功耗、高度靈活可擴展的IP組合解決方案，如手機移動方案或是汽車智能駕艙，自動駕駛甚至是數(shù)據(jù)中心的應(yīng)用方案等。

目前，異構(gòu)計算成為芯片設(shè)計的下一個重要方向。針對這個趨勢， Imagination從三個方向進行創(chuàng)新，一個是針對目前已有的 GPU、CPU和AI 神經(jīng)網(wǎng)絡(luò)加速器，持續(xù)在多核架構(gòu)上演進、在性能跟功耗上持續(xù)優(yōu)化。一個是在系統(tǒng)層面，為了消除數(shù)據(jù)瓶頸，對存儲、安全進行創(chuàng)新性優(yōu)化。還有一個是在軟件層面提供了統(tǒng)一、開放，并且標準的工具鏈，支持標準的 framework操作，這就使開發(fā)者可以快速靈活的把他們的應(yīng)用部署在異構(gòu)架構(gòu)上。

他以軟件為例，傳統(tǒng)上網(wǎng)絡(luò)模型的部署會分成三個階段，首先會把在云端訓(xùn)好的模型去轉(zhuǎn)換成一個通用格式，然后通過建圖和編譯，生成平臺硬件相關(guān)的一些code。最后把它部署在硬件的執(zhí)行單元上。

而在Imagination的工具鏈里，Imagination為開發(fā)者提供了更豐富的部署和優(yōu)化功能。如在adapter之后，通過graph transform，去把 layer進行了調(diào)整，讓它們對執(zhí)行單元更友好。再往后通過data profiling工具跟simulation工具，可以去幫助開發(fā)者確定[敏感詞]的量化策略，滿足符合它應(yīng)用性能和精度的要求。然后在compiler中，Imagination把靈活性開放給開發(fā)者，讓他們靈活的去定制后端執(zhí)行單元，如 layer是跑在GPU上還是跑在神經(jīng)網(wǎng)絡(luò)加速器上還是跑在 CPU上，這些由開發(fā)者決定。

“我們在與飛槳的生態(tài)合作項目中，雙方就會從模型層一直到飛槳的框架，一直到我們IP的底層軟件，沿著這樣的一個應(yīng)用部署的路徑，我們雙方會進行全棧的優(yōu)化。同時除了offline的部署方式，我們也會提供runtime的API叫做IMG DNN來滿足開發(fā)者 online的部署需要。”他指出，“最終我們會跟飛槳一起會推出深度優(yōu)化的，并且可以非常靈活，拓展性非常強的多核異構(gòu)平臺方案。”

他表示未來Imagination會希望自己的客戶或芯片伙伴都參與到飛槳項目中來，

未來我們希望可以跟我們的芯片客戶或者是芯片伙伴們一起都參與到“硬件生態(tài)共創(chuàng)計劃”里，在一些重要應(yīng)用領(lǐng)域，如自動駕駛，手機以及數(shù)據(jù)中心等，在基于飛槳的框架中，提供高競爭力的國產(chǎn)計算平臺方案。

“眾人拾柴火焰高”，我注意到還有其他一些芯片公司也參與到百度飛槳項目中，希望本土的人工智能生態(tài)日益完善，為智慧化轉(zhuǎn)型助力！（完）

免責(zé)聲明：本文原創(chuàng)作者張國斌，本文僅代表作者個人觀點，不代表薩科微及行業(yè)觀點，只為轉(zhuǎn)載與分享，支持保護知識產(chǎn)權(quán)，轉(zhuǎn)載請注明原出處及作者，如有侵權(quán)請聯(lián)系我們刪除。

上一條：大同談江上舟
下一條：越南自主汽車品牌未來會干翻中國汽車自主品牌嗎？