遠端邊緣運算需要高效能AI和訓練解決方案來支援高階工作負載以提高生產力
加州聖荷西2024年2月22日 /美通社/ -- Supermicro, Inc.(納斯達克股票代碼:SMCI)為AI、雲端、儲存和 5G/邊緣領域的全方位 IT 解決方案製造商,正在擴展其AI解決方案產品組合,讓客戶在公共空間、零售商店或工業基礎架構等邊緣位置能有效運用AI的強大性能。透過使用搭載NVIDIA GPU的Supermicro應用最佳化伺服器,可更輕鬆地微調預訓練模型(Pre-trained Model)及將AI推論解決方案部署在產生資料的邊緣端,進而縮短回應時間與改善決策。
Supermicro總裁暨執行長梁見後表示:「Supermicro擁有最多元的邊緣AI解決方案產品組合,能支援客戶用於邊緣環境的預訓練模型。Supermicro Hyper-E伺服器搭載兩個第五代Intel® Xeon®處理器並支援最多三個NVIDIA H100 Tensor Core GPU,能為邊緣AI提供無與倫比的效能。藉由這些具有最高8TB記憶體的伺服器,我們能將資料中心的AI處理性能帶至邊緣位置。隨著企業透過在邊緣端處理AI資料來建立競爭優勢,Supermicro也將繼續為產業提供最佳化解決方案。」
深入了解Supermicro邊緣AI解決方案,請造訪:www.supermicro.com/edge-ai
透過這些伺服器升級,如非必要情況,使用者不再需要將資料傳回雲端進行處理,再將資訊擷取回邊緣端。同時,客戶現在可以使用預先訓練且效能最佳化後的大型語言模型(LLM),並透過NVIDIA AI Enterprise在其邊緣位置使用,以便在靠近資料生成端進行即時、精準的決策。
NVIDIA合作夥伴聯盟副總裁Kevin Connors表示:「越來越多來自醫療保健、零售、製造和汽車等領域的企業有意在邊緣端運用AI技術。Supermicro的全新NVIDIA認證系統由NVIDIA AI平台所驅動,提供了最高效能的加速運算基礎架構,並透過NVIDIA AI Enterprise軟體協助運行邊緣 AI 工作負載。」
例如,Supermicro的Hyper-E伺服器SYS-221HE系列便針對邊緣訓練和推論進行了最佳化,而其具備短機身與前置 I/O設計的系統機型搭載了雙路CPU。此系統最多容納三個雙寬NVIDIA Tensor Core GPU,包括NVIDIA H100、A10、L40S、A40和A2 GPU。這些GPU為Supermicro Hyper-E提供足夠的運算能力,可在收集、分析和儲存資料的邊緣端處理AI 工作負載。Supermicro SYS-221HE也提供前置或後置維運選項,使這些伺服器可被安裝在各種環境內。包括Eviden等合作夥伴正在打造邊緣AI解決方案,進而改善傳統零售商店內的客戶體驗,這些即為Supermicro Hyper-E伺服器的性能和靈活性可被運用的範例。
Supermicro的先進邊緣伺服器還包括:
歡迎蒞臨Supermicro在2024年世界行動通訊大會(Mobile World Congress 2024)內的展位。該大會在西班牙巴塞隆納內舉辦,Supermicro展位位於2 號廳內的2D35展場位置。
零售業智慧應用專家StoreGenius執行長Jacque Istok表示:「Eviden的 AI零售解決方案是基於Supermicro邊緣系統和NVIDIA技術,徹底改變了人們在商店等空間內導覽和互動的方式。透過商店的3D模型和能傳達適當資訊的互動式聊天機器人,此解決方案為客戶提供互動式且個人化的購物模式,進而改善購物體驗。融合逼真的臉部動畫、先進的語音辨識和3D建模,使虛擬購物幾乎如同在實體商店一樣真實。」
關於Super Micro Computer, Inc.
Supermicro(納斯達克股票代碼:SMCI)為應用最佳化全方位IT解決方案的全球領導者。Supermicro的成立據點及營運中心位於美國加州聖荷西,致力為企業、雲端、AI和5G電信/邊緣IT基礎架構提供領先市場的創新技術。我們是全方位IT解決方案製造商,提供伺服器、AI、儲存、物聯網、交換器系統、軟體及支援服務。Supermicro的主機板、電源和機箱設計專業進一步推動了我們的發展與產品生產,為全球客戶實現了從雲端到邊緣的下一代創新。我們的產品皆由企業內部團隊設計及製造(在美國、亞洲及荷蘭),透過全球化營運實現極佳的規模與效率,並藉營運最佳化降低總體擁有成本(TCO),以及經由綠色運算技術減少環境衝擊。屢獲殊榮的Server Building Block Solutions®產品組合,讓客戶可以自由選擇這些具高度彈性、可重複使用且極為多元的建構式組合系統,我們支援各種外形尺寸、處理器、記憶體、GPU、儲存、網路、電源和散熱解決方案(空調、自然氣冷或液冷),因此能為客戶的工作負載與應用提供最佳的效能。
Supermicro、Server Building Block Solutions和We Keep IT Green皆為Super Micro Computer, Inc.的商標和/或註冊商標。
所有其他品牌、名稱和商標皆為其各自所有者之財產。