〖课前思考〗
　　SPMD的并行程序怎么工作？分布存储多处理器系统上各处理器之间如何相互交换数据？为了使分布存储的多个处理器工作，还需要什么样的操作？

　　从分布存储多处理器系统（用网络互连）的体系结构出发，你认为消息传递是否适合？一个消息传递系统需要具有哪些基本的功能？如何实现一个消息传递的系统？用消息传递实现的应用程序应该具有什么样的结构？

　　〖学习目标〗
　　本章在介绍消息传递程序设计的基础上，介绍了用MPI进行并行程序设计的方法。掌握消息传递的概念，思想，程序设计技术以及具有实际设计MPI程序的能力是本章学习的主要目的。

　　〖学习指南〗
　　就象学习其他新的程序设计语言一样，本章的内容需要大量的实践工作，只有通过真正的MPI程序设计实践，才能真正理解和掌握MPI程序设计的方法，才能真正设计出高性能的并行程序。

　　〖难重点〗
　　阻塞通信与非阻塞通信；集合通信；数据类型扩展方法；通信域；消息通信程序的开销和设计中权衡方法。

　　〖知识点〗
　　● 消息传递
　　● SPMD模型
　　● 阻塞通信
　　● 非阻塞通信
　　● 点到点通信
　　● 集合通信
　　● 障碍同步
　　● 广播
　　● 归约操作
　　● 收集和分发
　　● 消息通信的开销
　　● MPI
　　● MPI实现
　　● 语言绑定
　　● 四种通信模式
　　● 通信域
　　● 进程组
　　● 类型图
　　● 计算与通信的重叠
　　● MPI并行程序设计方法