輝達:與鴻海密切合作 逾10廠投入打造Vera Rubin
(中央社記者高華謙台北30日電)輝達資深總監哈里斯今天指出,輝達正與鴻海密切合作,有超過10廠投入打造Vera Rubin平台,總面積達數百萬平方英尺。同時,鴻海也正導入模組化資料中心,可將AI工廠開發時間從數個月縮短至數週。
輝達AI與高效能運算(HPC)超大規模基礎架構解決方案資深總監哈里斯(Dion Harris)今天在鴻海科技日發表專題演講,說明輝達與鴻海合作在全球布局進展。
哈里斯表示,輝達的核心平台Vera Rubin不只是一顆GPU,還包括CPU、DPU、網路,以及相關系統共同支援龐大的工作負載;輝達正在打造Vera Rubin平台,並與鴻海密切合作,有超過10廠投入,總面積達數百萬平方英尺。
哈里斯也說,市場對AI與代理式系統的需求非常龐大,為了滿足這些需求,必須重新思考如何提升製造供應鏈的效率、產出能力及整體能力。
哈里斯指出,輝達將Vera Rubin的運算托盤(compute tray)設計為完全模組化,但令人振奮的是,鴻海在這個基礎上又向前推進一步,將整個運算托盤的組裝流程完全自動化。
哈里斯說,接下來還必須思考如何大規模部署這些系統,包括龐大的算力,並整合網路、儲存等所有要素。這些是有史以來設計與製造最複雜的運算系統之一,而電力使用量、用水量等因素對AI工廠也都非常重要。
哈里斯說,為了整合這些系統,輝達開發NVIDIA DSX,透過MaxLPS等技術提升能源使用效率,並與鴻海及其他合作夥伴開發封閉式循環冷卻系統,減少用水。
哈里斯表示,鴻海不只是製造系統,也透過旗下亞灣超算(Visionbay.ai)系統打造AI工廠,不只採用輝達正在打造的最新Vera Rubin平台,也導入最新的800 VDC 電力架構,透過採用這些更新的技術,可以更有效率地部署,並讓系統更快啟動運作。
哈里斯說,除此之外,鴻海也正突破既有界限,導入模組化資料中心,非常了不起,畢竟建置一座AI工廠所需的所有工作,包括設計、建造到正式啟用可能需要數月、甚至數年。
哈里斯指出,與鴻海合作開發的模組化設計,可將功能完整的系統整合至貨櫃式模組,涵蓋整個Pod,以及電力輸送、儲存等系統,並整合相關資訊,藉此將開發時間從數個月縮短至數週。
哈里斯說,這些模組化解決方案若縮短產生第一個Token的時間,像是如果能在8週內提供100MW,將可使數十億美元的資金能立即為客戶投入實際運作。因此,這將為整個生態系創造更多價值,最終加快AI及代理式系統的導入速度。
哈里斯表示,亞灣超算的願景已經成為現實,目前正在區域內部署超過100MW容量,這不只將有助於建置AI工廠,也能在區域內建立相關基礎設施,讓當地企業與組織得以採用AI,並從AI技術中受益。(編輯:林淑媛)1151030