網(wǎng)上營業(yè)廳
掌上營業(yè)廳
4月26日下午，全球首個商用智算昇騰超節(jié)點在中國電信粵港澳大灣區(qū)（韶關）算力集群正式發(fā)布，現(xiàn)已商用上線，標志著新一代智能算力注入粵港澳大灣區(qū)國家級算力樞紐節(jié)點，中國電信在AI算力基礎設施領域取得重大進展，為人工智能產業(yè)高質量發(fā)展注入新動能。廣東省委常委、副省長張國智，中國電信董事長柯瑞文，韶關市委書記陳少榮，華為公司董事陶景文出席并致辭。
目前，大模型的Scaling Law仍然生效，國內外主流基礎大模型參數(shù)量持續(xù)增加，算力需求不斷增加；大模型從稠密架構向混合專家模型（MoE）稀疏架構演進。基于以上特點，業(yè)界主流智算服務器在提升單卡算力的同時，正在從單節(jié)點向超節(jié)點架構演進。智算昇騰超節(jié)點采用新型高速總線架構，天然適配混合專家模型（MoE）架構，使得大模型訓練效率和推理性能大幅提升。
中國電信此前在京津冀、長三角建成的國內首批全液冷萬卡池，保障了智能算力的供給量，在粵港澳大灣區(qū)樞紐節(jié)點建設首個超節(jié)點形態(tài)集群，標志著中國電信智能算力供給實現(xiàn)質與量的雙重跨越。
智算昇騰超節(jié)點憑借四大核心優(yōu)勢，引領智算新潮流。
通過架構升級和軟件優(yōu)化，大幅提升訓練和推理性能。相比910B，NPU（神經網(wǎng)絡處理器）間高速互聯(lián)帶寬提升14倍，模型切分并行域提升48倍，訓練場景效率提升2.7倍，推理場景單卡吞吐提升20倍以上（疊加大規(guī)模專家并行和PD分離技術）。
云網(wǎng)融合所帶來的運力優(yōu)勢。中國電信提供超低時延、超高安全、超快傳輸?shù)倪\力保障，通過全光400G運力網(wǎng)絡打造華南地區(qū)10毫秒、廣東地區(qū)5毫秒、大灣區(qū)3毫秒的超低時延運力底座，實現(xiàn)智能算力的高速互聯(lián)。通過量子技術，保障數(shù)據(jù)安全傳輸。利用超算快線打造高達百G的敏捷彈性、任務式服務的算力傳輸能力。
依托“息壤”一體化智算服務平臺能力優(yōu)勢。中國電信將智算昇騰超節(jié)點納入全國算力體系，為全國提供服務，同時結合大灣區(qū)通算、智算、超算層次化布局，面向用戶提供訓推一體、云智一體、超智一體能力，服務千行百業(yè)。
彈性、綠色、智慧的AIDC。作為粵港澳大灣區(qū)首個大規(guī)模全液冷智能算力數(shù)據(jù)中心，中國電信全面應用綠色低碳技術，100%使用綠電，PUE小于1.15，采用數(shù)字孿生、AI等先進技術，打造全程數(shù)字化智慧運營管理能力，構建智慧的AIDC。
新浪微博
今日頭條
騰訊微信
