全局通信（Global Communication）

　　在全局通信中，有很多任务参与交换数据。这可能造成过多的通信，从而限制了并行执行的机会。

　　例如我们希望计算。为此，我们使用一个根进程S负责从各进程一次接收一个值（x_i）并进行累加。这时就会出现全局通信的局面。
　　

　　采用分治策略可以开拓求和的并行性：
　　　　　　　　

　　上式右边的两个求和可以同时执行，并且每一个仍可按同样的方式进一步分解。求和的过程如下图所示，同一级上的求和可以并行执行。这样就可以避免全局通信，并提高算法的并行度。图中表示处理器X至处理器Y上所有数据的和。