Deepseek的推出是利好推理算力的。原因在于其作為推理大模型，大幅降低了推理成本，有利于加速AI應(yīng)用發(fā)展，會(huì)帶來(lái)潛在的巨大推理算力需求。隨著AI應(yīng)用場(chǎng)景的不斷拓展，大量的實(shí)時(shí)決策和分析任務(wù)需要模型快速準(zhǔn)確地進(jìn)行推理，而Deepseek的出現(xiàn)使更多人會(huì)去訓(xùn)練和推理自己的模型，從而進(jìn)一步增加了對(duì)推理算力的需求。
中興通訊在訓(xùn)練算力和推理算力方面的布局如下：
- 訓(xùn)練算力：中興通訊提出“開(kāi)放基座、以網(wǎng)強(qiáng)算、訓(xùn)推并舉、多方合作”的理念，打造開(kāi)放的“智算基座”，與全球領(lǐng)先的GPU廠商緊密合作，提供高性能、多樣化的算力解決方案，實(shí)現(xiàn)算力的無(wú)縫切換與升級(jí)。還推出高效超萬(wàn)卡集群解決方案，引入Olink開(kāi)放交換互聯(lián)技術(shù)和星云網(wǎng)絡(luò)高速互聯(lián)技術(shù)，解決單卡算力受限、機(jī)內(nèi)互聯(lián)瓶頸以及超大規(guī)模集群的帶寬與擁塞問(wèn)題，提升集群算力的使用效率與整體性能，支持異構(gòu)GPU混池訓(xùn)練。
- 推理算力：中興通訊提供多場(chǎng)景、多規(guī)格推理卡的智能分發(fā)，以優(yōu)化推理成本。提供遷移工具，實(shí)現(xiàn)訓(xùn)練與推理任務(wù)在不同場(chǎng)景GPU之間的快速遷移與適配，提升AI應(yīng)用的靈活性與效率。推出高性價(jià)比推理服務(wù)器、訓(xùn)推一體機(jī)等產(chǎn)品，完善在推理算力方面的布局。
中興通訊并不偏重于某一塊，而是秉持“訓(xùn)推并舉”的理念，在訓(xùn)練算力和推理算力方面均衡發(fā)展，致力于構(gòu)建一個(gè)開(kāi)放、協(xié)同、高效的智算生態(tài)，為用戶提供全棧全域的智算解決方案，滿足不同客戶在AI訓(xùn)練和推理等方面的多樣化需求。??