2024,6 月23 星期日
32.9 C
Taipei

Supermicro 利用即將推出的搭載 HBM3e 記憶體的 NVIDIA HGX H200 和 MGX Grace Hopper 平台擴闊人工智能解決方案

Supermicro 擴闊 8-GPU、4-GPU 和 MGX 產品線來支援 NVIDIA HGX H200 和 Grace Hopper 超級晶片,為大型語言模型應用程式提供更快更大的 HBM3e 記憶體——搭載 NVIDIA HGX 8-GPU 的 Supermicro 新型創新 4U 液冷伺服器使每機架的計算密度提高了一倍,功率高達每機架 80 千瓦,降低了總體擁有成本 (TCO)

加州聖荷西和丹佛 2023年11月14日 /美通社/ — Supercomputing Conference(簡稱 SC23— Supermicro,Inc.(納斯達克股票代碼:SMCI是一間面向人工智能、雲端計算、儲存和 5G/邊緣的全面 IT 解决方案供應商,即將推出配備 H200 Tensor Core GPU 的全新 NVIDIA HGX H200 產品線,從而擴闊其在人工智能領域的影響力。Supermicro 領先業界的人工智能平台(包括 8U 和 4U 通用型 GPU 系統)均可直接插入 HGX H200 8GPU 和 HGX H200 4GPU,相較於 NVIDIA H100 Tensor Core GPU,HGX H200 的 HBM3e 記憶體容量和頻寬分別提高了近 2 倍和 1.4 倍。此外,Supermicro NVIDIA MGXTM 系統的廣泛產品組合還支援即將推出的搭載 HBM3e 記憶體的 NVIDIA Grace Hopper 超級晶片。憑藉前所未有的效能、可擴展性和可靠性,Supermicro 的機架式人工智能解決方案可加速計算密集型生成式人工智能、大型語言模型 (LLM) 訓練和 HPC 應用程式的效能,同時滿足不斷增長的模型規模發展需求。Supermicro 利用積木式架構,可以快速將新技術推向市場,使客戶能夠盡早提高生產力。

03_2023__4U_8GPU_H200_1080

03_2023__4U_8GPU_H200_1080

Supermicro 還推出了業界密度最高的伺服器,在 4U 液冷系統中搭載 NVIDIA HGX H100 8-GPU 系統,採用最新的 Supermicro 液冷解決方案。這款業界最精巧的高效能 GPU 伺服器,使數據中心營運商能夠减少佔地面積和能源成本,同時在單個機架中提供最高效能的人工智能訓練能力。憑藉密度最高的 GPU 系統,企業可以利用尖端的液冷解決方案降低總體擁有成本。

Supermicro 總裁兼行政總裁 Charles Liang 表示:「Supermicro 與 NVIDIA 合作,為人工智能訓練和 HPC 應用程式設計出最先進的系統。我們的積木式架構使我們能夠率先將最新技術推向市場,讓客戶以前所未有的速度部署生成式人工智能。憑藉我們遍佈全球的生產設施,我們可以更快地向客戶交付這些新系統。新系統採用了 NVIDIA H200 GPU,配備 NVIDIA ® NVLink ™ 和 NVSwitch ™ 高速 GPU 互連(速度為 900GB/s),在我們的機架規模人工智能解決方案中,每個節點可提供高達 1.1TB 的高頻寬 HBM3e 記憶體,為當今的大型語言模型和生成式人工智能提供最高效能的模型並行。我們也很高興能提供世界上最精巧的 NVIDIA HGX 8-GPU 液冷伺服器,它將我們的機架規模人工智能解決方案的密度提高了一倍,同時降低了能源成本,為當今的加速數據中心實現綠色計算。」

進一步了解配備 NVIDIA GPU 的 Supermicro 伺服器

Supermicro 設計並製造了多種不同外形尺寸的人工智能伺服器產品組合。受歡迎的 8U 和 4U 通用型 GPU 系統採用了四路和八路的 NVIDIA HGX H100 GPU ,現在可以直接插入全新 H200 GPU,在更短的時間內訓練更大的語言模型。每個 NVIDIA H200 GPU 包含 141GB 記憶體,頻寬為 4.8 TB/s。

NVIDIA 高效能運算、人工智能及量子計算數據中心產品解決方案總監 Dion Harris 表示:「Supermicro 即將推出的伺服器設計採用了 NVIDIA HGX H200 ,這將有助加速生成式人工智能和高效能運算的工作負載,從而使企業和組織能夠最大限度地利用其人工智能基礎設施。配備高速 HBM3e 記憶體的 NVIDIA H200 GPU 能夠為各種工作負載處理海量數據。

此外,最近推出的搭載 NVIDIA GH200 Grace Hopper 超級晶片的 Supermicro MGX 伺服器也採用了搭載 HBM3e 記憶體的 NVIDIA H200 GPU。

全新 NVIDIA GPU 能夠加速當今和未來的大型語言模型 (LLM),使其在更緊湊、更高效的集群中容納上千億的參數,從而以更短的時間訓練生成式人工智能,同時允許在一個系統中容納多個更大的模型,進行實時 LLM 推理,為數百萬用戶提供生成式人工智能服務。

在 SC23 大會上,Supermicro 展示了最新款的 4U 通用型 GPU 系統,該系統採用八路 NVIDIA HGX H100 及公司最新的液冷創新技術,進一步提高了密度和效率,推動了人工智能的發展。憑藉 Supermicro 領先業界、為綠色計算而設的 GPU 和 CPU 冷板、CDU(冷卻液分配裝置)和 CDM(冷卻液分配歧管),全新的 4U 通用型液冷 GPU 系統亦為八路 NVIDIA HGX H200 做好了準備,透過 Supermicro 完全集成的機架式液冷解決方案和 L10、L11 和 L12 驗證測試,將大幅减少數據中心的佔地面積、電力成本和部署障礙。

如欲了解更多資訊,請蒞臨 SC23 的 Supermicro 展台

關於 Super Micro Computer, Inc.

Supermicro(納斯達克股票代碼:SMCI)為應用最佳化整體 IT 解決方案的全球領導者。Supermicro 的成立據點及營運中心位於美國加州聖荷西,致力為企業、雲端、人工智能和 5G 電信/邊緣 IT 基礎架構提供領先市場的創新技術。我們是一家提供伺服器、人工智能、儲存、物聯網、交換機系統、軟件和支援服務的全方位 IT 解決方案製造商。Supermicro 的主機板、電源和主機殼設計專業知識進一步促進了公司的研發與生產,為全球客戶實現了從雲端到邊緣的下一代創新。我們的產品皆由內部團隊所設計及製造(在美國、亞洲及荷蘭),透過全球化營運提供規模生產及展現絕佳效率,透過最佳化設計,降低整體擁有成本 (TCO),透過先進的綠色運算技術來減少對環境的衝擊。屢獲殊榮的 Server Building Block Solutions® 產品組合,讓客戶可以自由選擇這些具高度彈性、可重複使用且極為多元的建構式組合系統,我們支援各種外形尺寸、處理器、記憶體、GPU、儲存、網絡、電源和散熱解決方案(冷氣、自然冷卻或液冷),因此能為客戶的工作負載與應用提供最佳的效能。

Supermicro、Server Building Block Solutions 和 We Keep IT Green 皆為 Super Micro Computer, Inc. 的商標和/或註冊商標。

所有其他品牌、名稱和商標皆為其各自擁有者之財產。

 

你可能也想看

熱門新聞

112年度職業訓練成果展示活動暨就業博覽會   桃園風禾公園登場

記者張辰卿/桃園報導桃園市政府勞動局(21)日於桃園風禾公園舉辦「112年度職業訓練成果展示活動暨就業博覽會」,職訓成果會場展示職業訓練班學員豐碩成果,讓民眾就近瞭解多元職業訓練機會,桃園市長張善政親臨會場表揚職業訓練績優訓練單位。    ▲市長張善政至攤位體驗視障按摩 。( 圖/ 桃園市政府勞動局提供) 張善政表示,提升勞工技能並促進市民就業,一直是桃市府重要施政目標,桃園「有頭鹿」職能訓練場每年辦理失業者職業訓練、照顧服務員訓練班及產訓班次合計50班次以上,提供至少1,600個訓練名額,也結合勞動部職訓資源,並輔導學員習得技能後都能順利進入職場,訓後就業率達8成,搭配每年辦理超過200場徵才活動,112年就業媒合率達86.6%,更榮獲111年勞動部對地方政府勞動行政業務督導考核第1名殊榮。桃市府尤其注重青年職能及就業培力,針對設籍桃市未滿30歲青年持續推動「青年安薪讚 就業大滿貫」方案,透過穩定青年工作、進修、考照之獎勵機制,輔導桃市青年持續提升就業競爭力及穩定就業。為了提供市民朋友們優質的職業訓練環境,並達到更好的訓練效果,特別針對111年承辦失業者及照顧服務員職前訓練之職訓單位進行評鑑考核,並於今112年度職業訓練成果展示進行績優辦訓單位頒獎。  ▲就業博覽會參展單位協助民眾求職 。( 圖/ 桃園市政府勞動局提供) 活動現場展示職訓班豐富訓練成果,包含時尚剪髮體驗、道地美食小吃品嚐、肩頸按摩及指甲彩繪等多元互動體驗;並與勞動部勞動力發展署桃竹苗分署合作展示「創業市集」專區,邀請10家優質新創企業主展出微型創業成果,讓蒞臨現場的民眾體驗獨特創意小物及特色商品,推廣桃園在地文化特色及新創團隊;另現場提供重機具體驗、DIY手作活動一系列趣味闖關及摸彩活動,內容精采豐富。 ▲張善政偕貴賓大合影。( 圖/...

經濟部2023台灣市博會   傳市品牌.好市好食-中秋採買都在這

記者張辰卿/台中報導「經濟部2023台灣市博會-中區場」今9/9日在臺中驛鐵道文化園區熱烈登場,此場次共精選出全臺41家各具特色的傳統市場及夜市攤商以美食帶路,其中設立了中秋主題專區,包括榮獲經濟部五星樂活名攤臺中市逢甲夜市隔水加熱串燒即食「激旨焼き鳥」、新北市五股市場五星樂活名攤高品質肉品專賣「荳牛肉鋪」、臺中市第三市場百年歷史餅店「三廣商行」等中秋相關美食共計8攤,而除了中秋必買的節慶攤位外,現場更有來自全臺北、中、南、東的傳統市場及夜市美食攤商,一次逛足,吃得滿足。 經濟部陳怡鈴主任秘書表示,疫情這三年來市場攤商及廣大消費民眾的健康與安全對經濟部來說責無旁貸,所以在市場及夜市推動包含環境定期清消、食品遮罩與餐具高溫清洗機等輔導補助,就是為了消費者可以買得安心、吃得放心。 ▲ 經濟部陳怡鈴主任秘書(右)出席活動,觀摩現場展售攤位。(圖/經濟部中部辦公室提供) 此外,在疫情過後的現在,陳怡鈴主任秘書提到王美花部長非常重視我們的傳統市場及夜市,許多觀光客一下飛機就直奔傳統市場及夜市,部長要求市場及夜市除了保持乾淨以外,同時經濟部也精進作法,將美學導入我們的市集攤位改造,讓市場及夜市一年比一年進步、一年比一年更賺錢,並且希望除了攤商老闆之外,地方政府與鄉親朋友都能共同努力,不只為了在地,也為了吸引觀光客,讓大家來到傳統市場及夜市遊逛消費後,拋開過去傳統市場湯湯水水、滿地泥濘的舊印象,有更舒服舒適的安全消費環境。 陳怡鈴主任秘書進一步說明提到,此次活動現場除了有傳統市場及夜市展區與政策宣導區外,還有中秋主題PK專區,邀集了從串燒、魚丸、糕餅等中秋必吃,喜愛傳統市場的民眾不要錯過,歡迎帶著一家大小來臺中車站遊逛。 民眾如果想要知道更多「2023台灣市博會-傳市品牌·好市好食」活動資訊,可隨時上「台灣市集gogo購」粉絲團查詢了解!(https://www.facebook.com/NMgo.tw/)。(經濟部中部辦公室廣告)

保經新勢力攀越高峰 業績逆勢成長300%

生活中心/綜合報導 2022年壽險業保費收入2兆3344億元,較前年衰退近2成,創10年新低,成軍4年的呈祥保經業績卻逆勢成長3倍,異軍突起。總裁胡志誠分享治軍祕訣,指呈祥為同仁提供很好的創業平台,更重視專業素養,堅守從業人員規範,進而能提供符合國人需求的優質保險規畫,博得信任。 呈祥保經4周年前夕在高雄萬豪酒店舉辦呈祥盃暨高峰競賽頒獎典禮及春酒晚宴,席開百桌與全台12事業部逾千人同樂,另表揚績優人員,將「舞台」留給共同打拚的事業夥伴,也斥資數百萬獎勵績優者入住日本京都琵琶湖溫泉飯店及環球影城五星飯店,體驗尊榮。 呈祥保經於2019年5月創立,半年內成立7個事業部,首年佣金突破1億,近3年無畏疫情及政經情勢夾擊,營收一步跳升至3億多,團隊逾千人,戰力可觀。 「去年壽險業慘澹,呈祥仍逆勢成長」,總裁胡志誠在年會以攀登聖母峰的心情勉勵夥伴一步一腳印,堅定前行,厚德載物,穩紮穩打。 他說,論資歷,呈祥仍在幼兒園階段,但最大特色是培訓素人且自創各職級教材,堅持複製而不控制,訓練是最高的投資報酬率,「因為舞台是為傑出員工而設,不是經營者」;「品牌是由內而外,領導就要帶頭服務,我若不能感動員工,他們就無法感動客戶」。 為彰顯核心價值及願景,胡志誠提2個5年計畫,6個品牌建立步驟,誓建立優質保經文化。一路走來他懷抱使命用心經營,創造差異化,強調病態及投機絕不是呈祥選項,只有獲得同仁、客戶及保險公司的信任與認同,才能受人敬重。 ▲胡志誠總裁及黃奕綱副董與各事業部領導人一同感謝各大保險公司與會、支持與愛護。(圖/呈祥保經提供) 以專業為首務的呈祥保經吸聚不少青年世代,副董事長黃奕綱即是典範,他24歲由廣告業轉戰壽險業,3年晉升通訊處經理,創下紀錄,2019年與胡志誠共同創設呈祥保經,如今是接班首選,並開啟呈祥傳賢計劃,奠立專業治理、永續經營的模式。 呈祥創始之初僅140人,現擴增至近1,300人,成長10倍,以25歲到30歲青年世代居多。內部不斷精進系統化訓練,導入AI優化作業。黃奕綱說,呈祥搭建一個優質的創業平台,以專業、專注、利他為事業拓展心法,激勵大家從個人卓越邁向組織卓越,精實壯大,實現創業夢想。 ▲邀請創作歌手蕭秉治表演。(圖/呈祥保經提供)  

2023營養師節 35位營養師快閃新竹

新竹振道/記者 萬世璉/新竹報導 2/22號是營養師節,新竹市營養師公會邀集35位營養師在新竹火車站前進行快閃活動,身穿粉紅色上衣的營養師們,以我的餐盤-6口訣編排舞蹈動作,希望以簡單易懂的方式宣導民眾健康飲食。 民眾一般到醫院就診的前後,都需要和營養師配合飲食調整,透過營養師節的快閃,也是讓大家認識「營養師」這角色的重要性。 當天活動以「食健康 食營養 營養師予你身體更佳勇」為主題,利用簡單易懂的口訣快閃新竹市區。

最愛老牌手搖飲店 網友選這家!

生活中心/綜合報導 台灣是手搖飲王國,品牌超過數百家,光飲料店門市就有近三萬家,比便利商店還多,有網友在Dcard發文詢問,最愛的屹立不搖老牌手搖有哪些?網友票選出最喜歡的還是CP值超高、創立三十年的南霸天「茶之魔手」! 網友發文表示,「一堆沒聽過的手搖一家家開,明明手搖店已經夠多了,新開的還是不少,而且價格真的一間比一間高,想到國小時候雞排+珍奶只要五十元就想哭…但話說回來,撇開新開的飲料店,還是有很多老牌飲料店老神在在,想知道各位有沒有偏愛的老牌飲料店咧?」 網友票選出最喜歡的老牌手搖飲店,是創立三十年的南霸天「茶之魔手」。(翻攝自網路) 文章引來近百位網友回覆,其中50嵐、清心、迷客夏都有不少擁護者,但被推薦最多的則是茶之魔手,雖然前陣子抵不過成本上升壓力,取消多年的凍漲政策微調五元,一度讓消費者傳出不滿聲浪,但價格比起其他品牌還是便宜許多,許多北部網友更敲碗寫道「拜託茶魔來北部開店,台北人快窮死了」、「茶之魔手超在,去年還整個凍漲真的服」、「羨慕中南部的人多了茶魔可以選,省下不少飲料費」、「真的要選一家的話,茶魔的茶是喝過最解渴不膩的」、「魔手價格控到現在真的還是非常實惠」。 「茶之魔手」是台灣第二大、擁有五百間門市的手搖飲品牌,在南部飲料市場更擁有廣大鐵粉,在台南的分店密集度更有如超商!而從去年財政部統計資料來看,全國飲料店數創下歷史新高,達二點二萬家店,但品牌的汰換速度也相當快,許多爆紅的手搖飲店可能瞬間就退燒,或是讓加盟主血本無歸,消費者在有眾多選擇之下,手搖品牌的生存難度也同步增加。