考虑下面的矩阵加法:A,B,C都是n×n的矩阵,计算
C=A+B
为了计算C的每个元素,需要进行如下的计算:Ci,j=ai,j+bi,j
注意计算C的每个元素的操作都是一次加法,只是操作数不同而已,而且,每个元素的计算都是独立的,它们可以并行执行。
这种类型的并行性表现为:并行的在不同的数据上进行相同的操作,称为数据并行性。表现出这种并行性的问题通常称为数据并行(的问题)。数据并行问题的一个突出特点是对大多数的这类问题,数据并行性的程度(可以并行进行数据并行的操作数目)随着问题规模的增加而增大,这意味着对于这类问题,可以用较多的处理器来有效的处理更大规模的问题。这是一种比较简单的并行方式,幸运的是,在实际的应用中,有很多有趣的问题的都是数据并行的。
|