2023,12 月2 星期六
19.2 C
Taipei

Supermicro 利用即將推出的搭載 HBM3e 記憶體的 NVIDIA HGX H200 和 MGX Grace Hopper 平台擴闊人工智能解決方案

Supermicro 擴闊 8-GPU、4-GPU 和 MGX 產品線來支援 NVIDIA HGX H200 和 Grace Hopper 超級晶片,為大型語言模型應用程式提供更快更大的 HBM3e 記憶體——搭載 NVIDIA HGX 8-GPU 的 Supermicro 新型創新 4U 液冷伺服器使每機架的計算密度提高了一倍,功率高達每機架 80 千瓦,降低了總體擁有成本 (TCO)

加州聖荷西和丹佛 2023年11月14日 /美通社/ — Supercomputing Conference(簡稱 SC23— Supermicro,Inc.(納斯達克股票代碼:SMCI是一間面向人工智能、雲端計算、儲存和 5G/邊緣的全面 IT 解决方案供應商,即將推出配備 H200 Tensor Core GPU 的全新 NVIDIA HGX H200 產品線,從而擴闊其在人工智能領域的影響力。Supermicro 領先業界的人工智能平台(包括 8U 和 4U 通用型 GPU 系統)均可直接插入 HGX H200 8GPU 和 HGX H200 4GPU,相較於 NVIDIA H100 Tensor Core GPU,HGX H200 的 HBM3e 記憶體容量和頻寬分別提高了近 2 倍和 1.4 倍。此外,Supermicro NVIDIA MGXTM 系統的廣泛產品組合還支援即將推出的搭載 HBM3e 記憶體的 NVIDIA Grace Hopper 超級晶片。憑藉前所未有的效能、可擴展性和可靠性,Supermicro 的機架式人工智能解決方案可加速計算密集型生成式人工智能、大型語言模型 (LLM) 訓練和 HPC 應用程式的效能,同時滿足不斷增長的模型規模發展需求。Supermicro 利用積木式架構,可以快速將新技術推向市場,使客戶能夠盡早提高生產力。

03_2023__4U_8GPU_H200_1080

03_2023__4U_8GPU_H200_1080

Supermicro 還推出了業界密度最高的伺服器,在 4U 液冷系統中搭載 NVIDIA HGX H100 8-GPU 系統,採用最新的 Supermicro 液冷解決方案。這款業界最精巧的高效能 GPU 伺服器,使數據中心營運商能夠减少佔地面積和能源成本,同時在單個機架中提供最高效能的人工智能訓練能力。憑藉密度最高的 GPU 系統,企業可以利用尖端的液冷解決方案降低總體擁有成本。

Supermicro 總裁兼行政總裁 Charles Liang 表示:「Supermicro 與 NVIDIA 合作,為人工智能訓練和 HPC 應用程式設計出最先進的系統。我們的積木式架構使我們能夠率先將最新技術推向市場,讓客戶以前所未有的速度部署生成式人工智能。憑藉我們遍佈全球的生產設施,我們可以更快地向客戶交付這些新系統。新系統採用了 NVIDIA H200 GPU,配備 NVIDIA ® NVLink ™ 和 NVSwitch ™ 高速 GPU 互連(速度為 900GB/s),在我們的機架規模人工智能解決方案中,每個節點可提供高達 1.1TB 的高頻寬 HBM3e 記憶體,為當今的大型語言模型和生成式人工智能提供最高效能的模型並行。我們也很高興能提供世界上最精巧的 NVIDIA HGX 8-GPU 液冷伺服器,它將我們的機架規模人工智能解決方案的密度提高了一倍,同時降低了能源成本,為當今的加速數據中心實現綠色計算。」

進一步了解配備 NVIDIA GPU 的 Supermicro 伺服器

Supermicro 設計並製造了多種不同外形尺寸的人工智能伺服器產品組合。受歡迎的 8U 和 4U 通用型 GPU 系統採用了四路和八路的 NVIDIA HGX H100 GPU ,現在可以直接插入全新 H200 GPU,在更短的時間內訓練更大的語言模型。每個 NVIDIA H200 GPU 包含 141GB 記憶體,頻寬為 4.8 TB/s。

NVIDIA 高效能運算、人工智能及量子計算數據中心產品解決方案總監 Dion Harris 表示:「Supermicro 即將推出的伺服器設計採用了 NVIDIA HGX H200 ,這將有助加速生成式人工智能和高效能運算的工作負載,從而使企業和組織能夠最大限度地利用其人工智能基礎設施。配備高速 HBM3e 記憶體的 NVIDIA H200 GPU 能夠為各種工作負載處理海量數據。

此外,最近推出的搭載 NVIDIA GH200 Grace Hopper 超級晶片的 Supermicro MGX 伺服器也採用了搭載 HBM3e 記憶體的 NVIDIA H200 GPU。

全新 NVIDIA GPU 能夠加速當今和未來的大型語言模型 (LLM),使其在更緊湊、更高效的集群中容納上千億的參數,從而以更短的時間訓練生成式人工智能,同時允許在一個系統中容納多個更大的模型,進行實時 LLM 推理,為數百萬用戶提供生成式人工智能服務。

在 SC23 大會上,Supermicro 展示了最新款的 4U 通用型 GPU 系統,該系統採用八路 NVIDIA HGX H100 及公司最新的液冷創新技術,進一步提高了密度和效率,推動了人工智能的發展。憑藉 Supermicro 領先業界、為綠色計算而設的 GPU 和 CPU 冷板、CDU(冷卻液分配裝置)和 CDM(冷卻液分配歧管),全新的 4U 通用型液冷 GPU 系統亦為八路 NVIDIA HGX H200 做好了準備,透過 Supermicro 完全集成的機架式液冷解決方案和 L10、L11 和 L12 驗證測試,將大幅减少數據中心的佔地面積、電力成本和部署障礙。

如欲了解更多資訊,請蒞臨 SC23 的 Supermicro 展台

關於 Super Micro Computer, Inc.

Supermicro(納斯達克股票代碼:SMCI)為應用最佳化整體 IT 解決方案的全球領導者。Supermicro 的成立據點及營運中心位於美國加州聖荷西,致力為企業、雲端、人工智能和 5G 電信/邊緣 IT 基礎架構提供領先市場的創新技術。我們是一家提供伺服器、人工智能、儲存、物聯網、交換機系統、軟件和支援服務的全方位 IT 解決方案製造商。Supermicro 的主機板、電源和主機殼設計專業知識進一步促進了公司的研發與生產,為全球客戶實現了從雲端到邊緣的下一代創新。我們的產品皆由內部團隊所設計及製造(在美國、亞洲及荷蘭),透過全球化營運提供規模生產及展現絕佳效率,透過最佳化設計,降低整體擁有成本 (TCO),透過先進的綠色運算技術來減少對環境的衝擊。屢獲殊榮的 Server Building Block Solutions® 產品組合,讓客戶可以自由選擇這些具高度彈性、可重複使用且極為多元的建構式組合系統,我們支援各種外形尺寸、處理器、記憶體、GPU、儲存、網絡、電源和散熱解決方案(冷氣、自然冷卻或液冷),因此能為客戶的工作負載與應用提供最佳的效能。

Supermicro、Server Building Block Solutions 和 We Keep IT Green 皆為 Super Micro Computer, Inc. 的商標和/或註冊商標。

所有其他品牌、名稱和商標皆為其各自擁有者之財產。

 

你可能也想看

歡歌2023年度盛典來襲!金曲製造機薛忠銘、丁曉雯、陳威全坐鎮賽事直播選拔最強歌手,分享歌唱秘笈!

台北2023年11月30日 /美通社/ -- 由歡歌舉辦的年度盛典大型音樂賽事活動「為歌而戰」於11/28拉開序幕。活動將會持續40天,各路高手將參與歡歌的年度盛典活動,從各個賽道角逐聯盟代言人的資格。而明星製作人丁曉雯、陳威全兩位老師將會分別擔任兩個聯盟的明星隊長,在薛忠銘老師帶領的評審團隊下,眾選手們將會用歌聲通過層層選拔,爭奪冠軍寶座。 此次的明星陣容堪稱豪華:丁曉雯老師,出版作品400多首,音樂專輯製作暨統籌40餘張。知名作詞作品:《青蘋果樂園》、《愛上一個不回家的人》、《你是我胸口永遠的痛》、《你是我心內的一首歌》、《我的愛我的夢我的家》等。陳威全老師,歌手加製作人,已發行八張個人專輯,創作過創作多達200多⾸,曾參與製作了叮噹的《我愛他》,黃美珍的《只怕想家》,楊丞琳的《我們都傻》,潘瑋柏的《一個人》等知名音樂作品。薛忠銘老師,城市科大流行音樂系主任,合作的歌手包括:張學友、陳奕迅、張信哲、蔡依林、楊丞琳、F4等,曾憑藉《那些年》(電影《那些年,我們一起追的女孩》主題曲)獲得第23屆金曲獎「最佳單曲製作人」。 此次與歡歌的合作,幾位金曲製作人老師都接受了獨家專訪,分享了許多關於音樂的故事:歡歌:這次受邀前來歡歌擔任明星隊長是什麼樣的感受?丁曉雯老師:第一次擔任評審還要兼競賽的隊長,很新鮮,有一點校長兼撞鐘的感覺。陳威全老師:覺得很開⼼,可以把經驗跟選⼿們分享,同時期待發掘有潛⼒的歌⼿。薛忠銘老師: 科技的進步創造也改變很多娛樂結構發展,而透過線上軟體並且進行歌唱類型的比賽會是未來有興趣與有才華的人更接近心中夢想的踏腳石。很期待能透過這樣的方式發掘潛在的Super star。 歡歌:此次希望在歡歌裡聽到什麼樣的聲音,有什麼評判標準,對歡歌裡的歌手有何寄望?丁曉雯老師:唱歌的音準節奏換氣點是基本功,更重要的是聲音的辨識度與情感的詮釋,希望這一次在歡歌的比賽中能夠聽到具有個人風格的參賽者。陳威全老師:希望可以聽到較有個性的聲⾳和歌⼿,期待歌⼿們樂在其中,把最厲害的拿出來,不要保留。薛忠銘老師:...

歡歌2023年度盛典來襲!金曲製造機薛忠銘、丁曉雯、陳威全坐鎮賽事直播選拔最強歌手,分享歌唱秘笈!

台北2023年11月30日 /美通社/ -- 由歡歌舉辦的年度盛典大型音樂賽事活動「為歌而戰」於11/28拉開序幕。活動將會持續40天,各路高手將參與歡歌的年度盛典活動,從各個賽道角逐聯盟代言人的資格。而明星製作人丁曉雯、陳威全兩位老師將會分別擔任兩個聯盟的明星隊長,在薛忠銘老師帶領的評審團隊下,眾選手們將會用歌聲通過層層選拔,爭奪冠軍寶座。 此次的明星陣容堪稱豪華:丁曉雯老師,出版作品400多首,音樂專輯製作暨統籌40餘張。知名作詞作品:《青蘋果樂園》、《愛上一個不回家的人》、《你是我胸口永遠的痛》、《你是我心內的一首歌》、《我的愛我的夢我的家》等。陳威全老師,歌手加製作人,已發行八張個人專輯,創作過創作多達200多⾸,曾參與製作了叮噹的《我愛他》,黃美珍的《只怕想家》,楊丞琳的《我們都傻》,潘瑋柏的《一個人》等知名音樂作品。薛忠銘老師,城市科大流行音樂系主任,合作的歌手包括:張學友、陳奕迅、張信哲、蔡依林、楊丞琳、F4等,曾憑藉《那些年》(電影《那些年,我們一起追的女孩》主題曲)獲得第23屆金曲獎「最佳單曲製作人」。 此次與歡歌的合作,幾位金曲製作人老師都接受了獨家專訪,分享了許多關於音樂的故事:歡歌:這次受邀前來歡歌擔任明星隊長是什麼樣的感受?丁曉雯老師:第一次擔任評審還要兼競賽的隊長,很新鮮,有一點校長兼撞鐘的感覺。陳威全老師:覺得很開⼼,可以把經驗跟選⼿們分享,同時期待發掘有潛⼒的歌⼿。薛忠銘老師: 科技的進步創造也改變很多娛樂結構發展,而透過線上軟體並且進行歌唱類型的比賽會是未來有興趣與有才華的人更接近心中夢想的踏腳石。很期待能透過這樣的方式發掘潛在的Super star。 歡歌:此次希望在歡歌裡聽到什麼樣的聲音,有什麼評判標準,對歡歌裡的歌手有何寄望?丁曉雯老師:唱歌的音準節奏換氣點是基本功,更重要的是聲音的辨識度與情感的詮釋,希望這一次在歡歌的比賽中能夠聽到具有個人風格的參賽者。陳威全老師:希望可以聽到較有個性的聲⾳和歌⼿,期待歌⼿們樂在其中,把最厲害的拿出來,不要保留。薛忠銘老師:...

Globe Group致力複製金融科技的成功 用數字技術解決菲律賓最大的問題

菲律賓馬尼拉2023年11月30日 /美通社/ -- 菲律賓領先的數字解決方案平台Globe Group致力複製其金融科技部門GCash的成功,GCash目前是菲律賓排名第一的金融超級應用,也是唯一一家雙高獨角獸企業。 ...

導入Google BQ、進軍 Meta 漸強實驗室宣告「More Than LINE」祭新解方

台北2023年11月29日 /美通社/ -- 台灣行銷科技公司「漸強實驗室」是不少企業經營 LINE 官方帳號的重要推手,主打行銷及對話互動解決方案,11 月 28 日產品發表會宣布祭出「More...

熱門新聞

保經新勢力攀越高峰 業績逆勢成長300%

生活中心/綜合報導2022年壽險業保費收入2兆3344億元,較前年衰退近2成,創10年新低,成軍4年的呈祥保經業績卻逆勢成長3倍,異軍突起。總裁胡志誠分享治軍祕訣,指呈祥為同仁提供很好的創業平台,更重視專業素養,堅守從業人員規範,進而能提供符合國人需求的優質保險規畫,博得信任。 呈祥保經4周年前夕在高雄萬豪酒店舉辦呈祥盃暨高峰競賽頒獎典禮及春酒晚宴,席開百桌與全台12事業部逾千人同樂,另表揚績優人員,將「舞台」留給共同打拚的事業夥伴,也斥資數百萬獎勵績優者入住日本京都琵琶湖溫泉飯店及環球影城五星飯店,體驗尊榮。 呈祥保經於2019年5月創立,半年內成立7個事業部,首年佣金突破1億,近3年無畏疫情及政經情勢夾擊,營收一步跳升至3億多,團隊逾千人,戰力可觀。 「去年壽險業慘澹,呈祥仍逆勢成長」,總裁胡志誠在年會以攀登聖母峰的心情勉勵夥伴一步一腳印,堅定前行,厚德載物,穩紮穩打。 他說,論資歷,呈祥仍在幼兒園階段,但最大特色是培訓素人且自創各職級教材,堅持複製而不控制,訓練是最高的投資報酬率,「因為舞台是為傑出員工而設,不是經營者」;「品牌是由內而外,領導就要帶頭服務,我若不能感動員工,他們就無法感動客戶」。 為彰顯核心價值及願景,胡志誠提2個5年計畫,6個品牌建立步驟,誓建立優質保經文化。一路走來他懷抱使命用心經營,創造差異化,強調病態及投機絕不是呈祥選項,只有獲得同仁、客戶及保險公司的信任與認同,才能受人敬重。 ▲胡志誠總裁及黃奕綱副董與各事業部領導人一同感謝各大保險公司與會、支持與愛護。(圖/呈祥保經提供) 以專業為首務的呈祥保經吸聚不少青年世代,副董事長黃奕綱即是典範,他24歲由廣告業轉戰壽險業,3年晉升通訊處經理,創下紀錄,2019年與胡志誠共同創設呈祥保經,如今是接班首選,並開啟呈祥傳賢計劃,奠立專業治理、永續經營的模式。 呈祥創始之初僅140人,現擴增至近1,300人,成長10倍,以25歲到30歲青年世代居多。內部不斷精進系統化訓練,導入AI優化作業。黃奕綱說,呈祥搭建一個優質的創業平台,以專業、專注、利他為事業拓展心法,激勵大家從個人卓越邁向組織卓越,精實壯大,實現創業夢想。 ▲邀請創作歌手蕭秉治表演。(圖/呈祥保經提供)

2023營養師節 35位營養師快閃新竹

新竹振道/記者 萬世璉/新竹報導 2/22號是營養師節,新竹市營養師公會邀集35位營養師在新竹火車站前進行快閃活動,身穿粉紅色上衣的營養師們,以我的餐盤-6口訣編排舞蹈動作,希望以簡單易懂的方式宣導民眾健康飲食。 民眾一般到醫院就診的前後,都需要和營養師配合飲食調整,透過營養師節的快閃,也是讓大家認識「營養師」這角色的重要性。 當天活動以「食健康 食營養 營養師予你身體更佳勇」為主題,利用簡單易懂的口訣快閃新竹市區。

最愛老牌手搖飲店 網友選這家!

生活中心/綜合報導 台灣是手搖飲王國,品牌超過數百家,光飲料店門市就有近三萬家,比便利商店還多,有網友在Dcard發文詢問,最愛的屹立不搖老牌手搖有哪些?網友票選出最喜歡的還是CP值超高、創立三十年的南霸天「茶之魔手」! 網友發文表示,「一堆沒聽過的手搖一家家開,明明手搖店已經夠多了,新開的還是不少,而且價格真的一間比一間高,想到國小時候雞排+珍奶只要五十元就想哭…但話說回來,撇開新開的飲料店,還是有很多老牌飲料店老神在在,想知道各位有沒有偏愛的老牌飲料店咧?」 網友票選出最喜歡的老牌手搖飲店,是創立三十年的南霸天「茶之魔手」。(翻攝自網路) 文章引來近百位網友回覆,其中50嵐、清心、迷客夏都有不少擁護者,但被推薦最多的則是茶之魔手,雖然前陣子抵不過成本上升壓力,取消多年的凍漲政策微調五元,一度讓消費者傳出不滿聲浪,但價格比起其他品牌還是便宜許多,許多北部網友更敲碗寫道「拜託茶魔來北部開店,台北人快窮死了」、「茶之魔手超在,去年還整個凍漲真的服」、「羨慕中南部的人多了茶魔可以選,省下不少飲料費」、「真的要選一家的話,茶魔的茶是喝過最解渴不膩的」、「魔手價格控到現在真的還是非常實惠」。 「茶之魔手」是台灣第二大、擁有五百間門市的手搖飲品牌,在南部飲料市場更擁有廣大鐵粉,在台南的分店密集度更有如超商!而從去年財政部統計資料來看,全國飲料店數創下歷史新高,達二點二萬家店,但品牌的汰換速度也相當快,許多爆紅的手搖飲店可能瞬間就退燒,或是讓加盟主血本無歸,消費者在有眾多選擇之下,手搖品牌的生存難度也同步增加。

遏阻妨害綠能產業 嘉縣市府與檢調跨域合作打擊不法

記者蔡佳坊/嘉義報導 嘉義縣地檢署、嘉義縣政府及嘉義市政府24日跨域合作,舉辦「打擊妨害綠能產業發展聯繫平台」會議,由嘉縣府、嘉市府及台灣電力公司針對綠能產業現況發表專題報告,並透過與檢調單位合作,遏阻不法人士對綠能產業廠商施壓或進行犯罪行為。 啟動儀式由嘉義縣長翁章梁、嘉義市副市長陳淑慧、臺灣高等檢察署檢察長張斗輝、法務部廉政署署長莊榮松、臺灣嘉義地方檢察署檢察長張曉雯、法務部政風小組參事林嚞慧、台電公司嘉義區營業處處長許墩貴主持。聯繫平台啟用後,一旦發現公務員、民意代表或黑道份子勒索廠商,將立刻進行不法行為通報,有效縮短處理時間。 翁章梁說,綠能產業發展是國家重大政策,為了在2025年完成20GW的目標,有許多廠商投入發展。因全球多個品牌簽署RE100,公開承諾「在2050年前達成100%使用再生能源」,使綠能產業不只是能源轉型,更牽涉到維持全球秩序。在龐大產業背後已有不少人虎視眈眈,想要從中不法獲利,為此地方政府與檢警調單位合作,希望能阻止犯罪行為發生,讓綠能產業順利發展。 廉政署長莊榮松表示,嘉義地區是發展綠能產業的重要區域,為了讓綠能產業可以安心、安全的永續發展,政府與檢調單位需要合作,成為廠商們的堅強後盾,排除發展過程間遇到的障礙。 嘉義縣綠能產業的三大推動方向為「綠能屋頂全民參與計畫」、「產業園區擴大設置太陽光電」、「畜農漁電共生」。綠能屋頂全民參與計畫擴大屋頂型設置量、發展農漁電共生,促進產業升級,將114年1.2GW備案容量目標量調整至1.5GW。因應未來綠電需求遞增、全球再生能源倡議的RE100,嘉縣府將積極輔導綠能發展,強化綠能與在地產業連結,帶動綠能自給自足的能源轉型。 政風處長郭建毅指出,聯繫平台啟動後,將邀請嘉義縣綠能產業廠商參與「企業誠信論壇」,辦理「圖利與便民」講座,透過系列活動使行政過程更透明,綠電廠商與公部門交流時,可諮詢合法處理方式,不需擔心機關承辦案件時產生圖利問題。

黃敏惠率主管參訪新港 學習「社會處方籤」推動市政建設

記者蔡佳坊/嘉市報導 嘉義市長黃敏惠7日率一級主管前往嘉義縣新港鄉,除拜訪新港奉天宮之外,並與新港文教基金會創辦人陳錦煌等人座談,了解基金會這幾年來推動地方創生、青年返鄉、健康社區及社會處方籤等經驗,一行收穫滿滿,期許作為嘉義市未來政策推動的參考。 黃敏惠表示,新港文教基金會在歷任董事長的帶領下,在新港鄉推動許多有意義的工作,不管是在教育、文化、社區營造各方面,都有亮眼的表現,建立社區自主永續經營機制,因此也獲得了文化部社區營造獎的殊榮,可說是地方創生的典範。新港文教基金會作為台灣社區營造的先驅,帶動各地社區用自己的力量來改變未來。而陳錦煌醫師也以在地的熱忱,長年推動公共事務,關心社會上弱勢族群並給予協助,充分展現醫者仁心之風範,相當不容易。 ▲嘉義市政府一行參觀新港培桂堂。(圖/嘉義市政府提供) 黃敏惠指出,此次參訪行程非常有意義,藉這次參訪機會,將彼此社造經驗互相交流,期待未來有更多合作帶動嘉義地區發展。而新港素園長照據點不僅結合志工、新住民、慢飛天使以及長者等,建立彼此連結,成為共榮社區服務據點,嘉義市目標是要成為一個健康老化、活耀老化的城市,藉由汲取成功經驗融入施政,才能讓嘉義市不斷突破再創新。市府團隊在今年有許多新的局處長加入,同時十大旗艦計畫的推動需放眼大嘉義地區的布局,不管是軌道路網的串聯、全齡的照顧和人才的磁吸等,都可以藉由新港經驗,給嘉義市更多的啟發。 陳錦煌除了分享新港文教基金會推動社會處方籤成功案例,還提及高鐵一日生活圈對於大嘉義的影響甚鉅,以及面對高齡化和少子化帶來的社會衝擊,需提前布局因應。他表示,社會處方籤的概念來自於英國,是一種非醫療的介入,需要連結社區的資源,共同解決社會問題。像是新港文教基金會這幾年透過「新港素園」成為長照據點,結合志工、新住民、外籍移工及社區的照顧力量,提供失智長輩一個能與社區連結並延緩失智及失能,減少醫療資源的浪費。