对于一个并行系统，可以用两个基本的参数来表示系统的并行运行时间、加速比和效率：问题规模W和处理器数目p。下面来分析哪些因素会对并行系统的总的开销产生影响。

　　一个并行系统的额外开销函数为并行开销和解相同问题的已知的最快的串行算法的运行时间的差。这样定义的一个好处是，并行系统中所有的造成性能下降的因素都能用一个单一变量表示，这样可以研究它们的综合效果。开销函数掩盖了并行系统中造成效率降低的所有因素，不管是来自于算法，还是来自于体系结构，或者是算法-体系结构的交互。并行系统中的主要的额外开销的来源是处理器间的通信、负载不平衡和额外的计算。