NVFP4 量化

一种使用 4 位浮点格式压缩模型权重的技术，旨在显著降低显存占用并提升推理吞吐量，同时保持较高的精度平衡。