麗臺科技Leadtek助力AI全民化,COMPUTEX推多場域液冷AI系統與AIDMS
麗臺科技 (Leadtek)自6月4日起至6月7日於COMPUTEX 2024展出一系列液冷AI工作站和AI伺服器,以及AIDMS(AI開發管理平台)助力產業AI落地案例,傾全力助AI全民化。
過去,AI似乎是大企業的專利,需要昂貴的設備和高超的技能,但隨著生成式AI和AIDMS no-code AI管理平台等工具的親民化,現在任何人都能輕鬆運用AI技術,創造出無限的可能性。
(圖:麗臺於COMPUTEX展採用液冷技術的AI伺服器和工作站)
不同規模AI訓練適用的液冷系統
在麗臺科技攤位最顯眼的就是採用D2C液冷技術的AI伺服器和工作站。麗臺推出的AI系統,支援最新的Intel/AMD平台、PCIe Gen5,其NVIDIA GPU配置從單一到十個GPU都有,可用於不同規模的加速運算和多GPU協同合作,包括生成式AI、大型語言訓練、數位孿生以及工業元宇宙等應用領域。
這次曝光的新品 WinFast Mini AI 工作站專為全民AI化打造。最高可支援 2 張高階 NVIDIA RTX Ada Lovelace GPU,同時提供更高瓦數電源供應器,為NVIDIA下一代GPU做好準備。再加上液冷散熱技術,能更有效降低 GPU 溫度並提供安靜的運作環境,適合沒有獨立大型機房的場域使用。集結高效、安靜、高彈性於一機,WinFast Mini AI 工作站將會是全民AI化的殺手級AI工作站。
(圖:麗臺 WinFast Mini AI 工作站專為全民AI化打造)
WS2050L 則採用5U機架式塔式設計,一體式液冷設計無需外接液冷管路,可容納多達4張液冷式NVIDIA RTX GPU,並搭載雙Intel Xeon第5代可擴充處理器,提供高達128個處理器核心。配置上可直立於機房或安裝於伺服器機櫃中,達到節省空間、易於維護和提高管理效率的目的。
(圖:麗臺WS2050L AI工作站採5U機架式塔式設計)
(圖:麗臺WS2050L AI工作站為一體式液冷設計)
有著穩健外型的8U HGX AI server是結合8U尺寸與NVIDIA H100 SXM5 8-GPU組態的伺服器,適用於LLM使用。CPU搭配英特爾第五代Xeon可擴充處理器,記憶體升級為DDR5-5600MHz,容量最大可達8TB,網路介面則支援2個10GbE埠,另可搭配高速網卡,提供高速連接和優異的網路性能。
(圖:8U HGX AI server適用於LLM)
同場展出的液冷AI伺服器GS4850T為4U外型,可安裝10張雙寬度GPU,並搭載Dual Root 系統,並擁有 Peer to Peer 超高效率GPU間資料傳輸,並支援PCIe 5.0,提供每秒 128 GB 的總頻寬。
(圖: 麗臺液冷AI伺服器GS4850T)
值得一提的是,麗臺為AI系統提供了相容性最高的Leadtek RTX AI Software Pack 與 GDMS(GPU Docker Management System) GPU資源分配與管理系統。讓客戶在取得硬體設備後,無需額外投入時間來選擇與調教相關NVIDIA Library與 Framework、驅動程式以及Docker 等環境,即可輕鬆地開始AI應用的開發工作與GPU 資源的分配及管理。
MLOps no-code 平台, AI落地的最後推手
麗臺科技自主研發的AIDMS(AI開發管理系統),是一個底層專為團隊協作而生的MLOps管理平台。
在養殖漁界享有盛名的光速點苗(LumiGood)開發團隊光速海盜,在麗臺攤位分享水產養殖業的AI轉型之路。在麗臺AIDMS的幫助下,從一開始的毫無頭緒到享受AI帶來的便利,只有短短6個月時間。
光速海盜總監朱禹諾分享:台灣養殖漁業世界排名20,年產值300億,但仍依賴人工點苗交易。面對缺工少子化挑戰,我們把這視為轉型契機,推出光速點苗 LumiGood APP,以AI技術解決視覺精確性、人力短缺以及交易誠信依據等問題,助力養殖業提升競爭力。
LumiGood 的操作十分方便,只要會用手機拍照,即可快速掌握魚苗數量。而且透過每次的再訓練,AI自主學習讓準確度再優化,即使是面對體型不同、顏色不同的魚苗或是蝦苗,都能保持準確度在97%以上。成功解決養殖漁業的痛點。
在便民的點苗服務背後,是一間熱血的新創公司。光速海盜團隊負責人孫偉強補充:對新創來說,開發時間攸關勝敗,AIDMS在提升開發速度上超乎我們預期,並有效降低開發成本與難度。在點苗系統的開發中,我們需要訓練大量的魚苗模型,AIDMS幫助我們將時間縮短至預期的四分之一。另得益於AIDMS 的no-code降低AI門檻,剛踏足AI開發的團隊可以直接跳過繁瑣和複雜的AI環境設定以及程式撰寫時間,成功地訓練出適用的模型,並且根據結果進行修正與優化,使開發過程更順暢。
(圖:光速點苗(LumiGood) 開發團隊光速海盜透過麗臺AIDMS進行水產養殖業AI轉型)
麗臺科技於6/4~7在台北國際電腦展(COMPUTEX 2024)展示了覆蓋各種AI訓練規模的AI硬體和AIDMS等AI管理軟體,為各種場域AI落地提供強大支援。此外,在麗臺的NVIDIA認證講師將於現場助參觀者踏出AI轉型的第一步。想要了解更多麗臺的產品和合作機會,歡迎至南港展覽館一館四樓M區,麗臺科技展位(展位號碼M1001a)與我們深入交流。
(圖:麗臺科技於COMPUTEX展示覆蓋各種AI訓練規模的AI硬體和軟體)
(圖:麗臺科技攤位號M1001a)
麗臺官網:www.leadtek.com.tw
|