在线推理又被称为在线服务,联邦学习的推理过程是指从上线模型到预测结果的过程。如图1-7所示,当模型评估和模型上线完成之后,我们将进入在线推理阶段。在联邦学习中,在线推理通常由一端发起推理任务,其他参与方协作开展联合预测并最终得到推理结果。