推理服务器

负责接收请求并运行模型生成结果的软件组件