每日時(shí)訊!Meta 推自研芯片計(jì)劃,切分英偉達(dá)蛋糕

2023-05-20 13:06:48來(lái)源:ZAKER科技  

Meta 公布了自研芯片的進(jìn)展。名為 Meta Training and Inference Accelerator,即 Meta 訓(xùn)練和推理加速芯片,簡(jiǎn)稱 MTIA。它預(yù)計(jì)將于 2025 年發(fā)布。


【資料圖】

Meta 宣稱 MTIA 是提高效率和水平的重要工具, 定制化的 MTIA 采用 ASIC 架構(gòu),可并行執(zhí)行多個(gè)任務(wù),適用于 AI 加速計(jì)算,從而成為 Meta 人工智能訓(xùn)練和推理芯片家族中重要的組成部分。

Meta 強(qiáng)調(diào),雖然芯片的內(nèi)存和網(wǎng)絡(luò)等功能還需要進(jìn)一步優(yōu)化,但 MTIA 在每瓦性能方面 " 顯著 " 提升了效率,可以幫助 Meta 更好探索人工智能前沿技術(shù)。

此外 Meta 還表示,MTIA 將專注于人工智能推理,而不是訓(xùn)練。

第一代 MTIA 由 Meta 在 2020 年創(chuàng)建,使用了 7 納米工藝,在 Meta 自己設(shè)計(jì)的性能測(cè)試中,它被認(rèn)為在 " 中低復(fù)雜度 " 的 AI 模型方面相比 GPU 具有優(yōu)勢(shì)。

Meta AI 官方關(guān)于 MTIA 芯片的示意簡(jiǎn)圖

除了 MTIA,Meta 還在開發(fā)另一種芯片,被稱為 Meta 可擴(kuò)展視頻處理器(MSVP),顧名思義,MSVP 主要的工作是將視頻內(nèi)容——不管是短視頻還是直播,都盡量通過(guò) MSVP 來(lái)加載整合,滿足不同平臺(tái)渠道對(duì)碼率、分辨率和低延遲等需求,避免讓基礎(chǔ)視頻需求采用軟件編碼形式處理,進(jìn)而加速整個(gè)視頻工作流程。

Meta 在幾個(gè)月前成立了生成式 AI 團(tuán)隊(duì),據(jù)說(shuō)扎克伯格,CTO Andrew Bosworth 花了大量的時(shí)間和這個(gè)團(tuán)隊(duì)討論 Meta 在人工智能領(lǐng)域能做些什么。上周他們剛推出了針對(duì)廣告客戶的內(nèi)容設(shè)計(jì)工具。

Meta 在人工智能的進(jìn)展過(guò)去集中在審核過(guò)濾和廣告推薦算法這些領(lǐng)域,許多時(shí)候這些負(fù)載是使用 CPU 組合運(yùn)行的,再加上定制的專門用于加速的 AI 芯片。

隨著生成式 AI 的爆發(fā),Meta 已經(jīng)采購(gòu)了大量的英偉達(dá)芯片,原來(lái)的芯片方案已經(jīng)被放棄。

Meta 基礎(chǔ)設(shè)施副總裁 Alexis Bjorlin 在 TechCrunch 的采訪中將自研芯片形容為 " 構(gòu)建對(duì)堆棧所有層面的控制能力 ",這和百度的 AI 戰(zhàn)略思路很相似,從數(shù)據(jù)中心設(shè)計(jì)到訓(xùn)練框架再到數(shù)據(jù)集和算法,Meta 試圖在 AI 方面追上競(jìng)爭(zhēng)對(duì)手,開始進(jìn)行對(duì)本身 AI 全鏈條資源的整合。

自研芯片緊鑼密鼓提上日程,形成對(duì)比的是現(xiàn)在所有人都還在依賴英偉達(dá)的芯片。

Meta 目前訓(xùn)練大模型所使用的是名為 Research SuperCluster ( RSC ) 的超級(jí)計(jì)算機(jī),它內(nèi)置了 2000 個(gè)英偉達(dá) DGX A100 系統(tǒng),包括 16000 塊 A100 GPU。

谷歌和微軟也都有自己的超級(jí)計(jì)算機(jī),微軟把它整合在了自己的 Azure 云上(然后又和 OpenAI 結(jié)合在一起,后者使用微軟的資源訓(xùn)練大模型),谷歌的超算則有 26000 塊 H100 GPU。

超算資源直接和大模型開發(fā)訓(xùn)練以及推理的進(jìn)度有關(guān),但也意味著會(huì)受到英偉達(dá)產(chǎn)能的 " 卡脖子 ",因此各家都在推動(dòng)自研芯片進(jìn)展。

Google 很早就研發(fā)了名為 TPU 的訓(xùn)練芯片,AlphaGo 就由其驅(qū)動(dòng)。上個(gè)月有消息傳出,微軟在秘密研發(fā)自己的 AI 芯片,合作伙伴是英偉達(dá)對(duì)手 AMD。

Meta 走向自研之路是順理成章的,強(qiáng)化在 AI 領(lǐng)域的垂直整合能力不僅可以降低成本,定制芯片還能方便根據(jù)自家業(yè)務(wù)需求定制功能,更容易打造差異化競(jìng)爭(zhēng)點(diǎn)。

如果 Meta 的大模型一方面能在傳統(tǒng)的社交業(yè)務(wù)上支撐內(nèi)容廣告營(yíng)銷(這部分具體的運(yùn)行模式 Meta 自己承認(rèn)也還在探索中),另一方面將生成式 AI 接入元宇宙,幫助用戶生成數(shù)字孿生形象和相關(guān)的代碼,那么其增長(zhǎng)潛力將會(huì)極其巨大,扎克伯格在 2 月份就表示要致力于提高 Meta 的人工智能算力,押注 AI 的未來(lái)看上去是必由之路,Meta 的自研芯片是向這條道路進(jìn)發(fā)的最新嘗試。

關(guān)鍵詞:

責(zé)任編輯:hnmd003

相關(guān)閱讀

相關(guān)閱讀

精彩推送

推薦閱讀