英伟达展示在DGX Spark上加速MoE推理的三种方法，Ling-3.0-flash吞吐量提升42.5%

英伟达展示了三种叠加优化方案，可在单台DGX Spark上加速MoE推理。在蚂蚁集团 inclusionAI 的124B模型Ling-3.0-flash上，GSM8K解码吞吐量提升42.5%，且未检测到准确率变化。