HuaKun AT3500 G3 (簡稱:AT3500 G3) 推理服務(wù)器采用8模組高 效推理方式,提供強勁AI 推理能力,在算力、內(nèi)存帶寬和互聯(lián)能力方面具有優(yōu)勢,可廣泛應(yīng)用于生成式大模型推理,例如智能客服、文案生成、知識沉淀等內(nèi)容生成類場景,提升大模型推理效率。
更高算力密度
· 支持4顆高性能國產(chǎn)自研鯤鵬920處理器 · 搭載8顆超強算力的昇騰910 AI處理器,高效加速應(yīng)用
極致能效比
· 高效能、低功耗的AI算力基礎(chǔ)設(shè)施, 節(jié)省運營費用
· 鯤鵬920芯片能效優(yōu)于業(yè)界標桿30%
· 高效節(jié)能系統(tǒng)散熱風扇,降低系統(tǒng)散熱能耗
高速網(wǎng)絡(luò)帶寬
· 8*200GE RoCE v2高速接口
· 8路昇騰910通過HCCS Full mesh互聯(lián), 雙向互聯(lián)帶寬達392GB/s
應(yīng)用場景產(chǎn)品規(guī)格