Meta打造全球最快AI超級電腦,預計年中完成

圖片來源: 

Meta

,志在用以訓練數兆參數的大型模型,加速實現元宇宙(metaverse)願景。

名為AI Research SuperCluster(RSC)的超級電腦預計2022年中打造完成。Meta執行長Mark Zuckerberg表示目前RSC是全球運行中最快AI超級電腦之一,但等建造完成時將成為全球最快。

目前Meta研究人員已經用RSC來訓練自然語言處理(NLP)及電腦視覺(computer vision)研究使用的大型模型。他們希望RSC未來可以處理數兆參數的模型。

Meta表示由於有些實驗要進行好幾個星期,且涉及數千個GPU,因此RSC架構必須極穩定,此外又必須好操作以支援研究人員進行各種AI模型的訓練。

RSC由數個運算節點組成,並以高速網路串連而成。Meta表示RSC目前已包含760個Nvidia DGX A100系統節點,總和達6,080顆GPU。和Meta現有訓練系統相較,早期標竿測試顯示RSC的電腦視覺作業運算速度提升20倍,執行Nvidia Collective Communication Library(NCCL)的速度快9倍有餘,而訓練大型NLP模型的效能則提升3倍。這表示一個擁有數百億參數的模型訓練完成時間,可以從過去的9個星期縮短為3周。

真空封口機該不該買?使用心得分享

各式封口機、包裝機械、客製化訂做、特殊改造

好的茗茶,更需要密封性高的茶葉罐,才能留住香氣!

鴻和興精密工業股份有限公司,是由在台灣專業生產茶葉罐、奶粉罐具有領先地位的光華金屬所投資組織成立的一家專業製造包裝材料之馬口鐵罐製造廠,秉持的專業、品質、服務、效率為各大客戶服務。

客製專屬滑鼠墊、可愛造型L夾L型資料夾、透明證件套、手提袋,專業印刷設計廠商!

通過SGS環保認證,無毒無害 環保材質符合歐盟RoHs、REACH認證

常見的貨櫃種類?

金誠貨櫃屋尺寸均依國際標準組織ISO (International Standardization Organization) 認定標準,並區分成鐵貨櫃、冷凍貨櫃和特殊貨櫃三種類型。

圖片來源/Meta

其他規格方面,RSC每座DGX節點透過Nvidia Quantum 1600 Gb/s InfiniBand 二層Clos網路架構串連,以減少網路超載(oversubscription)問題。RSC儲存系統將採用175 PB的Pure Storage FlashArray、46 PB的Penguin Altus快取儲存及10 PB Pure Storage FlashBlade。

等年中打造完成時,RSC將搭載1.6萬顆GPU,而混合精度運算(mixed precision compute)效能達到將近5 Exaflops,使其成為全球最快超級電腦AI。RSC的快取及儲存系統設計,未來計畫可提供16TB/s頻寬及1 Exabyte儲存容量。

目前RSC已經和去年5月美國國家能源研究科學計算中心(National Energy Research Scientific Computing Center,NERSC)揭示的相當,後者採用了6,159顆Nvidia A100 GPU。

,據現行,Meta RSC第一階段約為第4名,完成後浮點運算速度約為227 petaflop/s,可望躍居全球第2快。

https://www.ithome.com.tw/news/149052

掌握產品行銷策略,帶你認識商品包裝設計基本要素

包裝設計是兼具美感和實用、設計和製作印刷的精緻工藝。包裝設計包含了結構規劃、視覺設計、材質選定及後續的生產加工

臭氧機推薦

臭氧機、紫外線燈作水質淨化、殺菌設備,因臭氧機具強大氧化、殺菌、除臭能力,省電、無耗材費用,深受水處理業者採用

如何選購橡膠製品規格有哪些?

品質優益穩定,效率高成本低,並已獲得國內外大廠承認使用,品質合乎EIA國際標準, 此外也針對客戶端的需要代客Tape and Reel封裝服務。

專業客製化禮物、贈品設計,辦公用品常見【L夾】搖身一變大受好評!

採用PVC0.2白色軟皮料印製,4色印刷加上表層防刮油墨,另也可選表層上亮膜。

work_outlinePosted in 工業