重复计算

  重复计算(Replication Computation)也称为冗余计算。它是指采用多余的计算来减少通信和/或整个计算时间。

  假定在二叉树上求N个数的和,且要求最终在每个处理器上都有该结果。一种方法是先自叶向根求和,得到结果后再自根向叶播送,共需2步。如下图所示。
     

  以上述方式求和,处理器的利用率是逐级减半的。如果在每一级每个处理器均接收两个数据,求和后再发送给上一级的两个处理器,那么经过步后,每个处理器中就都得到了N个数的全和。计算过程如下图所示。