大模型時代下,企業需要什么云?
(相關資料圖)
手工勞動 / 獸姐
手工編輯 / 角叔
出品 / 獨角獸挖掘機
開年來,隨著 ChatGPT 的狂飆,引發了一輪全球的大模型熱,各方資金蜂擁而入。
ChatGPT 能夠成為火爆全球的頂流模型,除了自身強大的創新能力,也離不開強大算力的支持,這背后是耗資數億美元,用了英偉達數萬顆 A100 的微軟超級計算機。
一個有意思的現象是,打造出 ChatGPT 的明星公司 OpenAI 依然處于燒錢賺吆喝的巨虧狀態,提供核心算力芯片的英偉達卻是賺得缽滿盤滿,今年來股價已經翻番,市值破萬億美元。
可以說,隨著大模型時代到來,給整個產業鏈都帶來了新的挑戰和機遇,甚至有人驚呼第四次科學技術革命到來了。
AI 大模型背后的海量數據,需要有強大的算力作為支持,這自然也推動了云計算的升級迭代。
某種程度上,大模型之爭說到底也是云服務能力之爭。在市場明顯過熱的情況下,行業也開始有一些更加理性的聲音傳出,不需要這么多大模型,真正能夠為產業所用才是正解。
如何解決算力成本高企后,大模型訓練本身帶來的高昂成本,讓很多企業想用而不敢用的問題?站在新的生產力時代的起點,從云入端,數字基建服務商應該怎么部署?
時代正在呼喚新一代數字基礎設施。尤其是大模型的爆發,對于算力基礎設施提出更高的要求,應盡可能地用更高效的異構基礎設施資源,來支持不同的算力需求。
01
大模型下的數字基礎設施
早在數年前,就有不少企業逐漸意識到數智化升級的重要意義,但隨著近年來數智轉型逐漸進入 " 深水區 ",企業對此的需求也發生了一些明顯變化。
這些變化集中體現在三個方面。
從轉型意識來看,此前企業推動自身的數字化改造,幾乎都是從局部切入,更多是為了適應社會發展的被動數字化;而時至今日,這種觀點已發生了翻天覆地的變化,由點及面,越來越多企業開始主動求變,從全局出發,希望借助數字化來提升增長韌性。
從業務部署來看,在資源管理方面,多數企業原來只需單純管理 IaaS,現在則需要對全棧資源做統一管理;在安全防護方面,他們更希望在做推進數字化建設的同時,根據業務場景制定一體化安全體系,保障業務安全穩定運營。
從 " 上云 " 模式來看,企業 " 上云 " 整體呈現 " 多態、多地、多芯、多棧 " 這四種形態,在云端 AI 進化到顯著的訓練推理、云桌面、圖形圖像設計等多元化場景階段時,云上異構成為最能發揮 AI 效率的計算方式,但這也給數字化建設提出了更為嚴峻的挑戰。
一方面要保證靈活性,在混合多云架構下,讓多種計算資源能夠進行良好的協作;另一方面,需要強調安全性,能夠廣泛支持各類芯片、云平臺及不同異構基建,提升中國企業的經營韌性。
這與京東云對新一代數字基礎設施的理解不謀而合,曹鵬認為,新一代數字基礎設施至少應該具備三個特征。首先,是融合開放。從實際應用來看,一個數字基礎設施僅依靠單一架構,已很難支撐整個社會的運轉。市場需要更加融合、更加開放的基礎設施,這樣才能屏蔽很多客戶差異化的需求,把更多異構的硬件納入到設施管理中來,對不同行業、不同應用提供很好的兼容性。
數字基礎設施融合方法,要做到的就是三 " 多 " —— " 多云、多芯、多活 ",這個做到廣泛支持各類芯片架構,包括 GPU、CPU、NPU,包括兼容各類公有云和私有云平臺,這樣才能支持下一步的智能化和產業化的發展。
其次,是極致的技術降本。大模型和數字化對于基礎設施需求越來越大,技術密度、網絡帶寬和存儲需求,都呈幾何級增長,算力成本變成非常重要的因素,有能力把算力成本降得更低,這是作為一個好的基礎設施應該考慮的。
" 比如京東云新一代分布式存儲平臺云海,能夠做到千萬級的 IOPS,延遲達到百微秒以內,通過存算分離技術架構,節省成本超 30%。比如軟硬一體虛擬化引擎京剛,將算力虛擬化損耗降至零,作為數據中心級 DPU 引擎,將存儲 IOPS、網絡轉發性能均提升 50%。"
第三,是安全可靠。隨著智能化、信息化、數字化的推薦,信息安全也變得愈發重要。保證信息是安全、不被泄露,保證業務能夠高質量地、連續地發展,同樣值得重視。" 京東云在服務上可以做到 99.995%,在存儲上的可靠性可以做到 12 個 9,這都是全球頂尖的水平。"
02
統一邏輯的 " 一朵云 "
大模型的如火如荼,為產業發展帶來更多可能性,這也是互聯網大廠、科創公司爭搶布局的根本原因。
而另一個擺在面前的現實問題是計算硬件的性能提升門檻越來越高,AI 算力短缺問題極有可能是一個長期存在的問題。
對于大多數企業而言,想要更高效地解決算力瓶頸等問題,為自身數智化建設提供更充足、普惠且安全的 AI 算力,或許還有一條更為 " 經濟 " 的途徑可走。
這里 " 更經濟的途徑 ",對應的是數字基礎設施提供者的 "AI 普惠 " 相互對應,即基于穩定的云計算基礎設施,將強大的 AI 算力和簡單上手的技術工具,輸送到企業特別是中小企業手中。
尤其是對中小企業來說,可以把這塊成本省下來,把服務交給京東這類能提供效率高且安全的云的大廠。
格局一打開,選擇就更多了。
從需求匹配的角度來看,在 " 萬物皆可上云 " 時代,混合多云確實是必要的,也逐漸成為主流趨勢之一。報告顯示,有高達 85% 的企業使用兩個或多云平臺,有 25% 的企業至少使用五個云平臺。
一云獨放不是春,多云混合春滿園。
從用戶端來說,采用 " 多云 " 架構,既可以避免與單一云廠商技術與業務綁定帶來的風險加劇,又可以構建更加靈活、性價比更高、有主導權的混合云結構,來解決存量、增量兩方面問題。
如何通過統一邏輯 " 一朵云 " 實現更敏捷、更開放、更高性價比和一致體驗的云架構,正是混合多云技術要解決的問題。
而京東云對此頗有心得。從創立之初起,京東云就支撐著京東大生態的運行,京東各條線業務從 " 上云 " 那一刻起,就生長出一個混合多云的環境,這也是一個天然的超大規模混合多云實踐場。
按照京東云事業部副總裁劉辰的介紹,京東的混合多云平臺是以應用為中心的云設計范式,與以資源為中心的傳統公有云、專有云平臺不同,混合多云平臺讓算力去找應用,讓算力去找數據,實現算力按需按時供給和數據流動。
簡言之,就是在落地層面實現多云、多芯、多活。這也是新一代數字基礎設施三大典型特征最重要的體現。
在多云方面,京東通過統一的云抽象層 " 云艦 ",打通分布在公有云、專有云、IDC 和邊緣節點的物理基礎設施,打通 Underlay 和 Overlay 網絡,數據和業務應用,并實現統一的運維運營和管理體系,從統管到統建。
在多芯方面,除了全面兼容 Intel,AMD,ARM 架構的 CPU,和全棧國產化軟硬件體系基礎上,通過京東集團生產級業務的國產化應用落地的打磨,京東云積累了從硬件到操作系統,基礎數據庫和中間件,以及應用運行時的全棧調優經驗,實現生產級國產化可用。
在多活方面,云艦與現在的一云多芯的云架構,以單元化技術,實現同一個應用跨芯片進行多活部署和調度,一部分流量運行在傳統 x86 云平臺,另外一部分流量運行在國產化平臺,不斷優化適配性能,穩定性和兼容性,實現應用在國產化環境的真替真用。
成本是不容忽視的另一個重點,京東云給出的解決方案是 " 異構算力池化 "。
一方面支持本地的 GPU/NPU 虛擬化,容器化,讓 AI 應用無需修改代碼就可以調用遠端的 GPU、NPU 資源,實現數據中心級別的池化管理和彈性調度,并與現有云平臺打通,實現 CPU,GPU 協同調度;另一方面,同時兼容多種 AI 訓練框架,并支持多種 AI 推理任務混合部署。
如此看來,京東云所打造的統一邏輯的 " 一朵云 ",不僅更適用于當下企業數智化轉型的需要,更重要的是,其這種通過精益調度為企業降本增效的功效,已成為新一代數字基礎設施的一類代表能力。
03
走向產業是必然
2023 年開年以來,以 BATJ 為代表的互聯網大廠,以商湯科技、科大訊飛等為代表的科技公司,以及各類初創企業,紛紛加入大模型領域。京東也宣告將在 7 月 13 日正式發布自己的大模型,以及京東大模型與產業場景結合的最新進展。
盡管公眾對于 AI 的關注已達到了一個新的高度,但從大市場的動作來看,大多數互聯網企業、科技企業等在錘煉大模型時,大多似乎都是直接對標 OpenAI 的 GPT-4,坦白講,鮮有顯著的差異化價值。
大模型想要 " 研以致用 ",走向產業已是一種必然。
但在產業應用的過程中,大模型企業可能要思考的是:一來,技術快速溢出,但算力基礎設施難以同步跟進,如何解決越來越大的算力供需的 " 剪刀差 ";二來,千行百業的落地條件和能力稟賦各有所不同,如何結合行業周期、行業痛點、個體特征等提供服務方案。
這就要求數字基礎設施服務商,必須擁有豐富的服務實體產業經驗,可以及時洞察產業客戶的需求,并基于此進行技術和產品的更新迭代,讓每一個技術創新都能切實解決真實場景下各類用戶最在意的真問題。
這就是京東云不斷聚焦于 " 產業 " 方向的關鍵所在。就實踐這一層,京東云已通過 " 服務練兵 ",驗證了產業大模型真正走向應用的可能與商業價值。
將京東云在生態內的極限考驗平移至大市場,在對外部企業提供數字服務支持時,京東云同樣顯得格外游刃有余。
這不得不提到京東云在 2022 年與央視春晚的紅包合作。在沒有額外增加一臺服務器的基礎上,京東云騰挪調度現有資源,包括遍布全國的 70 多座數據中心、近 300 萬個容器、超 1000 萬核算力資源,通過 16 次秒級精準調度資源,支持了那場超大流量洪峰的全球節目。
此外,國家電投、中化能源、蘇州農商行等重量企業都進入了京東云的 " 朋友圈 "。這些客戶基礎資源龐大,管理復雜,遷移困難,業務龐雜,而京東云在他們原有云資源環境的基礎上,完成混合多云部署,為各業務部門之間跨系統、跨業務單元提供一體化協同管控。
截至目前,京東云已服務了超 95% 的大型央企、2048 家大型企業、914 家金融機構和超 207 萬家中小微企業。
"對京東來說,技術永遠只是手段,而不是目的,我們發展大模型,最終還是希望將產業實踐中凝聚出的數字化能力,開放出來服務社會,不斷提升產業效率。" 曹鵬如是說。
曾幾何時,人們認為做大模型像是一場短跑比賽,拼的是眼力和速度,只要看得準時機、提前入局、快速投入,就能狂飆突進甚至成功沖刺。
現實情況已讓各方愈發深刻地意識到,大模型走入千行百業,實際是一場跨欄比賽,要跨過:算力資源的性價、基礎模型的選擇、業務場景的結合、開發工具的完備、商業模式的摸索、生態資源的支持等。
只有這樣,才有可能更好地面對大模型時代的到來。(完)
責任編輯:hnmd003
相關閱讀
相關閱讀
-
大模型時代下,企業需要什么云?
新一代數字基礎設施已來。手工勞動 獸姐手工編輯 角叔出品 獨角獸挖掘
-
周受資親自組織商家開會,TikTok 電商將在美國市場發力?
雷峰網獨家獲悉,近日TikTokCEO周受資親自組織美國的MCN機構和TikTokSh
-
LV 帆布袋已被炒至 700 元,如果沒有 logo 你還會買嗎?
這兩天,走在時尚前沿,歡喜軋鬧猛的上海人又開始排隊了!原來,繼喜茶
-
巨蟹座女生的幸運色是什么顏色(巨蟹座女生的長相)
來為大家解答以上的問題。巨蟹座女生的幸運色是什么顏色,巨蟹座女生的
-
“加價王”在華銷量暴跌,沒有國產計劃!雷克薩斯中國高管被指受賄5000萬 每日看點
“加價王”雷克薩斯陷高管受賄風波。據媒體報道,近日,一封名為《關于
-
全球快資訊:“近千萬全款買房難入住”,上海首個超低能耗住宅擬延期半年交付,750余戶業主措手不及
圖片來源:圖蟲昔日“卡首付”的上海閔行高分紅盤融信旭輝世紀古美(備
-
王慧文的舊光年,會是宿華的新故事嗎? 每日熱議
從王慧文打響國內大模型熱潮的第一槍開始,無論大廠還是明星創業者
-
視焦點訊!一首畢業歌,一場未來的約定
一首畢業歌,無論唱得怎樣,那份真誠都是這個夏天最動人的告白。
-
國產高端手機屏幕雖仍需努力,但未來可期 環球觀察
近日紅魔方面宣布,將于7月5日推出新款旗艦游戲手機紅魔8SPro系列。在
-
當前消息!谷歌折疊屏手機又“翻車“,禍根可能數年前就已埋下
對于最近這段時間的智能手機行業來說,如果要評選最強機型的話,可能大
-
valve 禁止采用 AI 生成未知版權內容的游戲上架 Steam
品玩6月29日訊,據videogameschronicle報道,Valve已經開始禁止Steam上
-
每日快看:語音交互 + 大模型,更擬人的車機交互何時出現?
在FF912 0的發布會上,我們看到了這樣一段語音交互。幫我在Malibu找一
-
好兄弟上下鋪,光年之外是美團
光年之外聯合創始人王慧文病倒后,美團創始人王興接下了好兄弟的整個團
-
思維馳學習機什么意思_全球看點
想要用好手心游戲日報這款軟件,就要知道遇到了思維馳學習機什么意思的
-
棲霞市莊園街道牟家村志愿服務隊_關于棲霞市莊園街道牟家村志愿服務隊概略
1、棲霞市莊園街道牟家村志愿服務隊是由棲霞市莊園街道志愿服務隊領導
-
百萬醫療保險是不是假的?有什么特點?-環球微速訊
不是,是真的。百萬醫療保險作為一種重要的醫療保障工具,確實存在于保
-
天天觀天下!意外險不住院可以報銷嗎?怎么報銷?
對于是否可以報銷不住院的情況,具體視保險合同的條款而定。在購買意外
-
精彩看點:陽光人壽真心守護兩全保險靠譜嗎?特點有哪些?
靠譜。陽光人壽真心守護兩全保險是由陽光人壽保險公司推出的保險產品。
-
【世界新要聞】心梗屬不屬于意外險?保障哪些內容?
不屬于。心梗屬于一種疾病,而意外險主要針對因外界突發事件導致的事故
-
天天快消息!匈牙利航司來華“提貨”:空客天津首次交付歐洲客戶,中國金租公司受青睞
本次交付的A321NEO飛機圖片來源:空客中國時隔四年,空客天津工廠再度
-
國壽鴻宇兩全保險好不好?保障有哪些?-當前最新
比較好。國壽鴻宇兩全保險由中國人壽保險公司推出,作為中國最大的保險
-
世界熱點評!電力服務先行 零距離“問診” 全過程“把脈”
近日,包頭供電公司客戶服務中心結合“安全生產月”及電力領域綜合監管
-
Redmi Pad 2 跑分現身 入門定位搭載驍龍 680
早前爆料Redmi除了K60至尊版待發布外,還有一款入門平板待更新,今天這
-
7.12 發 榮耀 MagicV2 官宣 干翻 MateX3?|世界動態
聲音|小白昨日,2023上海世界移動通信大會(MWC2023)開幕,不少手機廠
-
騰訊網易米哈游 3 大游戲廠商發布暑期限玩通知
今日騰訊游戲、網易游戲、米哈游3大游戲廠商紛紛發布了暑假未成年人限
-
蘋果 Beats 時隔四年發新品:將與 AirPods 一起收割音樂市場?
提到「音樂」與「街頭文化」的結合,你會想到什么?毫無疑問,Beats耳
-
iPhone:我 16 歲了,你用過幾款!
如果要說今天對于蘋果來說是個非常重要的日子,很多人可能都會一臉迷茫
-
今亮點!中國天眼,“看見”引力波蹤影了
中國天眼(FAST)再度迎來重大突破。利用FAST觀測數據,我國脈沖星測時
-
阿斯巴甜將被列為可能致癌物?世衛組織回應
每經AI快訊,6月29日,消息人士透露,世衛組織下屬癌癥研究機構預計將
-
焦點要聞:殺戮地帶2_《殺戮地帶4:暗影墜落》中文劇情解說視頻攻略
《殺戮地帶4:暗影墜落》中國故事講解視頻介紹,《殺戮地帶4:暗影墜落
精彩推薦
閱讀排行
精彩推送
- 【玉米半年報】趨勢未改 節奏為王
- 百萬醫療險和醫保哪個好?可以一...
- 世界快消息!螞蟻保險百萬醫療險...
- 焦點簡訊:太平洋保險100元意外險...
- 浙江雅虎最近6年無新增專利,深...
- 每日熱文:可以買兩份百萬醫療嗎...
- 世界視訊!豬價跌破7元大關,5家...
- 華夏一號兩全保險萬能型可靠嗎?...
- 科絡達獲奇瑞雄獅【“第1屆開發...
- 頭條焦點:“海員比武”觀察:“...
- 錢多事少還自帶事業編?畢業就被...
- 榮耀手表 4 曝光,外觀一反常...
- iPhone:我 16 歲了,你用過幾...
- 美光計劃 2024 年推出首款 GDDR7 顯存
- 當前關注:人氣驟降!ChatGPT ...
- 美團以 20.65 億人民幣收購光年之外
- 天天要聞:美團公告稱擬收購光年...
- 世界實時:生態環境部:我國開展...
- 全球微資訊!新基金密集成立 增...
- 我國首條直通雄安天然氣管道正式...
- 環球精選!工信部總工程師趙志國...
- 【當前獨家】二手車過戶手續及費...
- 環球要聞:無什么可什么什么成語...
- 順應年輕群體需求,世紀佳緣推出...
- 天天速看:胡錫進炒股第3天就虧...
- 全球熱消息:核心一級資本充足率...
- 全球頭條:股價兩月漲近130%!中...
- 環球觀焦點:深圳最大山姆店排隊...
- 學平險是不是意外險?保障什么?
- 時代IPO快訊:歐菲斯及深規院等...