找回密碼註冊
作者: White
查看: 3994
回復: 0

文章分享:

+ MORE精選文章:

+ MORE活動推薦:

Micron Crucial PRO D5 6400超頻版 玩家開

解銷更快的遊戲速度! 利用低延遲遊戲記憶體的強大功能 利用 Cruci ...

O11 VISION COMPACT 玩家開箱體驗分享活動

迷你身形 三面透視打造精緻PC視野新境界O11 VISION COMPACT 強強聯合 ...

2024 三星SD記憶卡 玩家開箱體驗分享活動

2024 PRO Plus SD 記憶卡 [*]為專業人士打造 [*]釋放極限速度 [*]多 ...

體驗極速WiFi 7!MSI Roamii BE Lite Mesh

MSI首款WiFi 7 Mesh系統登場-Roamii BE Lite Mesh System。Roamii ...

打印 上一主題 下一主題

[業界新聞] 全球首款 Transformer 專用AI晶片 Sohu發布:比晶NVIDIA H100快20倍

[複製鏈接]| 回復
跳轉到指定樓層
1#
White 發表於 2024-6-26 18:39:58 | 只看該作者 |只看大圖 回帖獎勵 |倒序瀏覽 |閱讀模式
據媒體報導,美國新興的晶片創業公司 Etched 發布其首款AI晶片——Sohu。

這款晶片在運行大型模型時展現出了驚人的性能,其速度超越了行業巨頭 NVIDIA 的H100高達20倍,即便是與今年3月才面世的頂尖晶片B200相比,Sohu 也展現出超過10倍的優越性能。

Sohu 晶片的最大突破在於它直接將 Transformer 架構嵌入晶片內部。據 Etched 公司負責人Uberti 透露,Sohu 採用了台積電的先進4奈米工藝製造,不僅在推理性能上遠超GPU和其他通用人工智慧晶片,更在能耗控制上達到了新的高度。

20240626-1.jpg


對於 Transformer 技術而言,Sohu 無疑是目前市場上最快的晶片,其性能與其他產品之間存在顯著的量級差異。值得一提的是,當前主流的 AI產品如 ChatGPT、Claude、Gemini 和 Sora 等,均基於T ransformer 架構驅動。

作為世界上首款 Transformer ASIC(應用型專用集成電路)晶片,Sohu 的集成應用更是令人矚目。據測試,一台配備8塊Sohu晶片的服務器,其性能足以媲美160塊H100 GPU的集群。

具體而言,集成8塊Sohu晶片的服務器每秒能夠處理高達50萬的Llama 7B tokens,這一數據在業界堪稱前所未有。

而打造這款傑出晶片的Etched公司,位於美國加州的庫比蒂諾,盡管成立僅兩年,團隊規模也僅有35人,但其創始人——哈佛輟學生Gavin Uberti(前OctoML和前Xnor.ai員工)和Chris Zhu,與資深技術專家Robert Wachen和前賽普拉斯半導體公司首席技術官Mark Ross共同領導,已經成功研發出這款專為大模型AI設計的晶片,展現了其強大的技術實力和無限潛力。

20240626-2.jpg


消息來源
您需要登錄後才可以回帖 登錄 | 註冊 |

本版積分規則

小黑屋|手機版|無圖浏覽|網站地圖|XFastest  

GMT+8, 2024-11-9 01:51 , Processed in 0.103606 second(s), 33 queries .

專業網站主機規劃 威利 100HUB.COM

© 2001-2018

快速回復 返回頂部 返回列表