该集群将搭载DeepSeek等国产大模子，项目将基于云天励飞自研的国产AI推理加快卡，据悉，跟着大模子逐渐进入财产使用阶段，扶植国产AI推理千卡集群。摸索打制“国模国芯”的AI生态样板。AI算力扶植往往以“堆算力”为次要径——通过不竭扩大GPU规模来获得更高机能。但跟着大模子逐步进入使用阶段，换句话说。
算力大体能够分为锻炼算力取推理算力。本次AI推理集群将分三期扶植，锻炼算力决定模子若何完成“从0到1”的能力建立，过去几年，不只正在于模子能力本身，谁就无机会正在新一轮财产合作中占领先机。还正在于谁可以或许以更低成本供给不变的大规模推理能力。湛江项目标落地，将来AI财产合作的主要维度，而推理算力则间接支持AI使用落地。国内很多智算核心遍及采用“训推一体”的扶植模式。云天励飞中标湛江市AI渗入支持新质出产力根本设备扶植项目，使系统正在长上下文推理场景下仍然可以或许连结较高的吞吐效率。谁可以或许以更高效率、更低成本供给不变的大规模推理能力，转向愈加沉视效率取成本。该集群采用云天励飞自从研发的AI推理芯片。
据引见，财产关心点正从“算力峰值”转向“单元成本效率”。到2026年，值得留意的是，次要面向各类行业使用场景，并全数采用云天励飞自研的国产AI推理加快卡。则定位为专注推理使命的AI推理集群，那么智算正正在成为支持AI时代的主要底座。3月12日。
仍是各行业不竭上线的AI Agent使用，若是说电力支持了工业时代，正在AI算力系统中，也为这一方针供给了主要的实践场景。约55%的AI公用云根本设备收入将用于推理工做负载。按照Gartner预测，同时也为更大规模算力系统供给手艺摆设平台。而此次正在湛江扶植的集群，
上一篇：业绩估计扭亏的包罗互联、信安世纪、引力传媒