内容简介
本书系统地介绍了并行计算的基本概念、原理和方法，是并行计算领域的经典入门教材。全书内容涵盖了并行计算的基础知识，包括并行计算机体系结构、并行编程模型、并行算法设计以及并行性能分析等核心主题。
书中首先介绍了并行计算的发展背景和应用领域，使读者理解并行计算在现代计算科学中的重要性。然后详细讲解了各种并行计算机体系结构，如共享内存多处理器、分布式内存系统、GPU以及异构计算系统等，并分析了它们的特点和适用场景。
在编程模型部分，本书深入探讨了基于共享内存的OpenMP、基于消息传递的MPI以及SIMD编程等常用并行编程技术，通过丰富的代码示例，帮助读者掌握实际编写并行程序的技能。算法设计章节则涵盖了并行归约、并行排序、并行矩阵运算等经典并行算法，并讨论了并行算法的复杂性分析。
此外，本书还着重介绍了并行性能的评估与优化方法，包括负载均衡、通信开销、同步开销等因素对程序性能的影响，并提供了多种性能调优策略。最后，本书还介绍了一些并行计算的应用实例，如科学计算、大数据处理和机器学习等，展示了并行计算在实际问题中的广泛应用。
本书内容深入浅出，结构清晰，既适合作为计算机相关专业本科生和研究生的教材，也适合对并行计算感兴趣的工程技术人员自学参考。
目录
1.1推动并行化
1.1.1计算能力因素——从晶体管到浮点运算速度
第1章 并行计算介绍
1.1.2内存及磁盘速度的因素
1.1.3数据通信因素
1.2并行计算适用范围
1.2.1在工程及设计中的应用
1.2.2科学计算中的应用
1.2.3商业应用
1.2.4计算机系统中的应用
1.3本书的组织及内容
1.4书目评注
习题
2.1隐式并行：微处理器体系结构的发展趋势
2.1.1流水线与超标量执行
第2章 并行编程平台
2.1.2超长指令字处理器
2.2内存系统性能的局限
2.2.1使用高速缓存改善有效内存延迟
2.2.2内存带宽的影响
1.1.1计算能力因素——从晶体管到浮点运算速度
第1章 并行计算介绍
1.1.2内存及磁盘速度的因素
1.1.3数据通信因素
1.2并行计算适用范围
1.2.1在工程及设计中的应用
1.2.2科学计算中的应用
1.2.3商业应用
1.2.4计算机系统中的应用
1.3本书的组织及内容
1.4书目评注
习题
2.1隐式并行：微处理器体系结构的发展趋势
2.1.1流水线与超标量执行
第2章 并行编程平台
2.1.2超长指令字处理器
2.2内存系统性能的局限
2.2.1使用高速缓存改善有效内存延迟
2.2.2内存带宽的影响
2.2.3躲避内存延迟的其他方法
2.2.4多线程与预取间的权衡
2.3.1并行平台的控制结构
2.3并行计算平台剖析
2.3.2并行平台的通信模型
2.4并行平台的物理组织
2.4.1理想并行计算机的体系结构
2.4.2并行计算机互连网络
2.4.3网络拓扑结构
2.4.4静态互连网络评价
2.4.5动态互连网络评价
2.4.6多处理器系统中的高速缓存一致性
2.5.1并行计算机的消息传递成本
2.5并行计算机的通信成本
2.5.2共享地址空间计算机的通信成本
2.6互连网络的路由选择机制
2.7进程-处理器映射的影响和映射技术
2.7.1图的映射技术
2.7.2成本-性能平衡
2.8书目评注
习题
第3章 并行算法设计原则
3.1预备知识
3.1.1分解、任务与依赖图
3.1.2粒度、并发性与任务交互
3.1.3进程和映射
3.1.4进程与处理器
3.2分解技术
3.2.1递归分解
3.2.2数据分解
3.2.3探测性分解
3.2.4推测性分解
3.2.5混合分解
3.3任务和交互的特点
3.3.1任务特性
3.3.2任务间交互的特征
3.4负载平衡的映射技术
3.4.1静态映射方案
3.4.2动态映射方案
3.5包含交互开销的方法
3.5.1最大化数据本地性
3.5.2最小化争用与热点
3.5.3使计算与交互重叠
3.5.4复制数据或计算
3.5.5使用最优聚合交互操作
3.5.6一些交互与另一些交互的重叠
3.6.2任务图模型
3.6并行算法模型
3.6.1数据并行模型
3.6.3工作池模型
3.6.4主-从模型
3.6.5流水线模型或生产者-消费者模型
3.6.6混合模型
3.7书目评注
习题
第4章 基本通信操作
4.1一对多广播以及多对一归约
4.1.1环或线性阵列
4.1.2格网
4.1.3超立方体
4.1.4平衡二叉树
4.1.5算法细节
4.2多对多广播和归约
4.1.6成本分析
4.2.1线性阵列和环
4.2.2格网
4.2.3超立方体
4.2.4成本分析
4.3全归约与前缀和操作
4.4散发和收集
4.5多对多私自通信
4.5.1环
4.5.2格网
4.5.3超立方体
4.6循环移位
4.6.1格网
4.6.2超立方体
4.7提高某些通信操作的速度
4.7.1消息分裂和路由选择
4.7.2全端口通信
4.8小结
4.9书目评注
习题
第5章 并行程序的解析建模
5.1并行程序中的开销来源
5.2并行系统的性能度量
5.2.1执行时间
5.2.2总并行开销
5.2.3加速比
5.2.4效率
5.2.5成本
5.3粒度对性能的影响
5.4并行系统的可扩展性
5.4.1并行程序的扩展特性
5.4.2可扩展性的等效率度量
5.4.3成本最优性和等效率函数
5.5最小执行时间和最小成本最优执行时间
5.4.5并发度和等效率函数
5.4.4等效率函数的下界
5.6并行程序渐近分析
5.7其他可扩展性的度量
5.8书目评注
习题
第6章 使用消息传递模式编程
6.1消息传递编程的原理
6.2操作构件：发送和接收操作
6.2.1阻塞式消息传递操作
6.2.2无阻塞式消息传递操作
6.3MPI：消息传递接口
6.3.1启动和终止MPI库
6.3.2通信器
6.3.3获取信息
6.3.4发送和接收消息
6.3.5实例：奇偶排序
6.4.1创建和使用笛卡儿拓扑结构
6.4拓扑结构与嵌入
6.4.2实例：Cannon的矩阵与矩阵相乘
6.5计算与通信重叠
6.6聚合的通信和计算操作
6.6.1障碍
6.6.2广播
6.6.3归约
6.6.4前缀
6.6.5收集
6.6.6散发
6.6.7多对多
6.6.8实例：一维矩阵与向量相乘
6.6.9实例：单源最短路径
6.6.10实例：样本排序
6.7进程组和通信器
6.8书目评注
习题
7.1线程基础
第7章 共享地址空间平台的编程
7.2为什么要用线程
7.3POSIX线程API
7.4线程基础：创建和终止
7.5Pthreads中的同步原语
7.5.1共享变量的互斥
7.5.2用于同步的条件变量
7.6.1线程的属性对象
7.6控制线程及同步的属性
7.6.2互斥锁的属性对象
7.7线程注销
7.8复合同步结构
7.8.1读-写锁
7.8.2障碍
7.9设计异步程序的技巧
7.10.1OpenMP编程模型
7.10OpenMP：基于命令的并行编程标准
7.10.2在OpenMP中指定并发任务
7.10.3OpenMP中的同步结构
7.10.4OpenMP中的数据处理
7.10.5OpenMP库函数
7.10.6OpenMP中的环境变量
7.10.7显式线程与基于OpenMP编程的比较
7.11书目评注
习题
第8章 稠密矩阵算法
8.1矩阵向量乘法
8.1.1一维行划分
8.1.2二维划分
8.2矩阵与矩阵的乘法
8.2.1简单的并行算法
8.2.2Cannon算法
8.2.3DNS算法
8.3线性方程组求解
8.3.1简单高斯消元算法
8.3.2带部分主元选择的高斯消元算法
8.3.3求解三角系统：回代法
8.3.4求解线性方程组时的数值因素
8.4书目评注
习题
第9章 排序
9.1并行计算机中的排序问题
9.1.1输入输出序列的存放位置
9.1.2如何进行比较
9.2排序网络
9.2.1双调排序
9.2.2将双调排序映射到超立方体和格网
9.3冒泡排序及其变体
9.3.1奇偶转换
9.3.2希尔排序
9.4快速排序
9.4.1并行快速排序
9.4.2用于CRCWPRAM的并行形式
9.4.3用于实际体系结构的并行形式
9.4.4主元选择
9.5桶和样本排序
9.6其他排序算法
9.6.1枚举排序
9.6.2基数排序
9.7书目评注
习题
第10章 图算法
10.1定义和表示
10.2最小生成树：Prim算法
10.3单源最短路径：Dijkstra算法
10.4全部顶点对间的最短路径
10.4.1Dijkstra算法
10.4.2Floyd算法
10.4.3性能比较
10.5传递闭包
10.6连通分量
10.7稀疏图算法
10.7.1查找最大独立集
10.7.2单源最短路径
10.8书目评注
习题
第11章 离散优化问题的搜索算法
11.1定义与实例
11.2顺序搜索算法
11.2.1深度优先搜索算法
11.2.2最佳优先搜索算法
11.3搜索开销因子
11.4并行深度优先搜索
11.4.1并行DFS的重要参数
11.4.2并行DFS分析的一般框架
11.4.3负载平衡方案分析
11.4.4终止检测
11.4.5试验结果
11.4.6深度优先分支定界搜索的并行形式
11.4.7IDA＊的并行形式
11.5并行最佳优先搜索
11.6并行搜索算法的加速比异常
11.7书目评注
习题
第12章 动态规划
12.1动态规划概述
12.2串行一元DP形式
12.2.1最短路径问题
12.2.20/1背包问题
12.3非串行一元DP形式
12.5非串行多元DP形式
12.4串行多元DP形式
12.6综述与讨论
12.7书目评注
习题
第13章 快速傅里叶变换
13.1串行算法
13.2二进制交换算法
13.2.1全带宽网络
13.2.2有限带宽网络
13.2.3并行快速傅里叶变换中的额外计算
13.3转置算法
13.3.1二维转置算法
13.3.2转置算法的推广
13.4书目评注
习题
附录A 函数的复杂度与阶次分析
2.2.4多线程与预取间的权衡
2.3.1并行平台的控制结构
2.3并行计算平台剖析
2.3.2并行平台的通信模型
2.4并行平台的物理组织
2.4.1理想并行计算机的体系结构
2.4.2并行计算机互连网络
2.4.3网络拓扑结构
2.4.4静态互连网络评价
2.4.5动态互连网络评价
2.4.6多处理器系统中的高速缓存一致性
2.5.1并行计算机的消息传递成本
2.5并行计算机的通信成本
2.5.2共享地址空间计算机的通信成本
2.6互连网络的路由选择机制
2.7进程-处理器映射的影响和映射技术
2.7.1图的映射技术
2.7.2成本-性能平衡
2.8书目评注
习题
第3章 并行算法设计原则
3.1预备知识
3.1.1分解、任务与依赖图
3.1.2粒度、并发性与任务交互
3.1.3进程和映射
3.1.4进程与处理器
3.2分解技术
3.2.1递归分解
3.2.2数据分解
3.2.3探测性分解
3.2.4推测性分解
3.2.5混合分解
3.3任务和交互的特点
3.3.1任务特性
3.3.2任务间交互的特征
3.4负载平衡的映射技术
3.4.1静态映射方案
3.4.2动态映射方案
3.5包含交互开销的方法
3.5.1最大化数据本地性
3.5.2最小化争用与热点
3.5.3使计算与交互重叠
3.5.4复制数据或计算
3.5.5使用最优聚合交互操作
3.5.6一些交互与另一些交互的重叠
3.6.2任务图模型
3.6并行算法模型
3.6.1数据并行模型
3.6.3工作池模型
3.6.4主-从模型
3.6.5流水线模型或生产者-消费者模型
3.6.6混合模型
3.7书目评注
习题
第4章 基本通信操作
4.1一对多广播以及多对一归约
4.1.1环或线性阵列
4.1.2格网
4.1.3超立方体
4.1.4平衡二叉树
4.1.5算法细节
4.2多对多广播和归约
4.1.6成本分析
4.2.1线性阵列和环
4.2.2格网
4.2.3超立方体
4.2.4成本分析
4.3全归约与前缀和操作
4.4散发和收集
4.5多对多私自通信
4.5.1环
4.5.2格网
4.5.3超立方体
4.6循环移位
4.6.1格网
4.6.2超立方体
4.7提高某些通信操作的速度
4.7.1消息分裂和路由选择
4.7.2全端口通信
4.8小结
4.9书目评注
习题
第5章 并行程序的解析建模
5.1并行程序中的开销来源
5.2并行系统的性能度量
5.2.1执行时间
5.2.2总并行开销
5.2.3加速比
5.2.4效率
5.2.5成本
5.3粒度对性能的影响
5.4并行系统的可扩展性
5.4.1并行程序的扩展特性
5.4.2可扩展性的等效率度量
5.4.3成本最优性和等效率函数
5.5最小执行时间和最小成本最优执行时间
5.4.5并发度和等效率函数
5.4.4等效率函数的下界
5.6并行程序渐近分析
5.7其他可扩展性的度量
5.8书目评注
习题
第6章 使用消息传递模式编程
6.1消息传递编程的原理
6.2操作构件：发送和接收操作
6.2.1阻塞式消息传递操作
6.2.2无阻塞式消息传递操作
6.3MPI：消息传递接口
6.3.1启动和终止MPI库
6.3.2通信器
6.3.3获取信息
6.3.4发送和接收消息
6.3.5实例：奇偶排序
6.4.1创建和使用笛卡儿拓扑结构
6.4拓扑结构与嵌入
6.4.2实例：Cannon的矩阵与矩阵相乘
6.5计算与通信重叠
6.6聚合的通信和计算操作
6.6.1障碍
6.6.2广播
6.6.3归约
6.6.4前缀
6.6.5收集
6.6.6散发
6.6.7多对多
6.6.8实例：一维矩阵与向量相乘
6.6.9实例：单源最短路径
6.6.10实例：样本排序
6.7进程组和通信器
6.8书目评注
习题
7.1线程基础
第7章 共享地址空间平台的编程
7.2为什么要用线程
7.3POSIX线程API
7.4线程基础：创建和终止
7.5Pthreads中的同步原语
7.5.1共享变量的互斥
7.5.2用于同步的条件变量
7.6.1线程的属性对象
7.6控制线程及同步的属性
7.6.2互斥锁的属性对象
7.7线程注销
7.8复合同步结构
7.8.1读-写锁
7.8.2障碍
7.9设计异步程序的技巧
7.10.1OpenMP编程模型
7.10OpenMP：基于命令的并行编程标准
7.10.2在OpenMP中指定并发任务
7.10.3OpenMP中的同步结构
7.10.4OpenMP中的数据处理
7.10.5OpenMP库函数
7.10.6OpenMP中的环境变量
7.10.7显式线程与基于OpenMP编程的比较
7.11书目评注
习题
第8章 稠密矩阵算法
8.1矩阵向量乘法
8.1.1一维行划分
8.1.2二维划分
8.2矩阵与矩阵的乘法
8.2.1简单的并行算法
8.2.2Cannon算法
8.2.3DNS算法
8.3线性方程组求解
8.3.1简单高斯消元算法
8.3.2带部分主元选择的高斯消元算法
8.3.3求解三角系统：回代法
8.3.4求解线性方程组时的数值因素
8.4书目评注
习题
第9章 排序
9.1并行计算机中的排序问题
9.1.1输入输出序列的存放位置
9.1.2如何进行比较
9.2排序网络
9.2.1双调排序
9.2.2将双调排序映射到超立方体和格网
9.3冒泡排序及其变体
9.3.1奇偶转换
9.3.2希尔排序
9.4快速排序
9.4.1并行快速排序
9.4.2用于CRCWPRAM的并行形式
9.4.3用于实际体系结构的并行形式
9.4.4主元选择
9.5桶和样本排序
9.6其他排序算法
9.6.1枚举排序
9.6.2基数排序
9.7书目评注
习题
第10章 图算法
10.1定义和表示
10.2最小生成树：Prim算法
10.3单源最短路径：Dijkstra算法
10.4全部顶点对间的最短路径
10.4.1Dijkstra算法
10.4.2Floyd算法
10.4.3性能比较
10.5传递闭包
10.6连通分量
10.7稀疏图算法
10.7.1查找最大独立集
10.7.2单源最短路径
10.8书目评注
习题
第11章 离散优化问题的搜索算法
11.1定义与实例
11.2顺序搜索算法
11.2.1深度优先搜索算法
11.2.2最佳优先搜索算法
11.3搜索开销因子
11.4并行深度优先搜索
11.4.1并行DFS的重要参数
11.4.2并行DFS分析的一般框架
11.4.3负载平衡方案分析
11.4.4终止检测
11.4.5试验结果
11.4.6深度优先分支定界搜索的并行形式
11.4.7IDA＊的并行形式
11.5并行最佳优先搜索
11.6并行搜索算法的加速比异常
11.7书目评注
习题
第12章 动态规划
12.1动态规划概述
12.2串行一元DP形式
12.2.1最短路径问题
12.2.20/1背包问题
12.3非串行一元DP形式
12.5非串行多元DP形式
12.4串行多元DP形式
12.6综述与讨论
12.7书目评注
习题
第13章 快速傅里叶变换
13.1串行算法
13.2二进制交换算法
13.2.1全带宽网络
13.2.2有限带宽网络
13.2.3并行快速傅里叶变换中的额外计算
13.3转置算法
13.3.1二维转置算法
13.3.2转置算法的推广
13.4书目评注
习题
附录A 函数的复杂度与阶次分析
重要申明：
本书由书友@锦小书发布分享，仅供学习交流使用，版权归原作者所有。如有侵权，请联系我们删除。
本书由书友@锦小书发布分享，仅供学习交流使用，版权归原作者所有。如有侵权，请联系我们删除。
📖 支持知识自由流动
每一本书的稳定访问，都离不开服务器、存储与带宽的长期维护。
