GetChain News
中简 中繁 EN
GetChain News
Toggle sidebar

OpenAI 研究員稱讚 AMD 聯合 Cerebras AI 推理方案,預估每瓦性能提升 5 倍

來源: www.ithome.com
OpenAI 研究員 Jeffrey Wang 評價 AMD 與 Cerebras 聯合開發的 AI 推理解決方案表現「令人難以置信」。該方案整合 AMD Helios 機架與 Cerebras 晶圓級引擎,分別處理提示詞和 token 生成環節,預估可將每瓦每秒 token 數量提高 5 倍。這一技術路線通過異構計算優化推理性能,反映頭部 AI 實驗室對降低推理成本的持續關注。

相關專案