安装OpenMPI来配合C语言程序进行并行计算

这篇文章主要介绍了安装OpenMPI来配合C语言程序进行并行计算的例子,MPI的全称是Message Passing Interface即标准消息传递界面,可以用于并行计算,需要的朋友可以参考下

安装OPENMPI

由于是实验，也不进行多机的配置了，只在虚拟机里安装吧。多个机器的配置可以参考此文

最简单的方法，apt安装

1. sudo apt-get install libcr-dev mpich2 mpich2-doc 

测试

hello.c

1. /* C Example */ 
2. #include <mpi.h> 
3. #include <stdio.h> 
4.  
5. int main (int argc, char* argv[]) 
6. { 
7. int rank, size; 
8.  
9. MPI_Init (&argc, &argv); /* starts MPI */ 
10. MPI_Comm_rank (MPI_COMM_WORLD, &rank); /* get current process id */ 
11. MPI_Comm_size (MPI_COMM_WORLD, &size); /* get number of processes */ 
12. printf( "Hello world from process %d of %d/n", rank, size ); 
13. MPI_Finalize(); 
14. return 0; 
15. } 

编译运行及显示结果

1. mpicc mpi_hello.c -o hello 
2. mpirun -np 2 ./hello 
3. Hello world from process 0 of 2 
4. Hello world from process 1 of 2 

正常出现结果表明没有问题，

看下openmpi的版本

1. mpirun --version 

1. mpirun (Open MPI) 1.6.5 
2. Report bugs to http://www.open-mpi.org/community/help/ 

MPI计算矩阵乘法

通过opemMPI加速矩阵乘法运算。采用主从模式，0号是master，其他是child(或者叫worker，as you wish)。

基本思路

两个矩阵A，B进行乘法运算，则A的行 i 乘以B的列 j 得出的数是新矩阵(i,j)坐标的数值。A(MN) B(NK)最后矩阵是M*K的，实验中M=N=K=1000，我也就没有明确区分MNK，全部用MATRIX_SIZE定义的。

最简单的思路就是每个worker分配(MATRIX_SIZE/(numprocess-1))个，然后如果有余下的，就分给余数对应的worker。比如MATRIX_SIZE=10，numprocess=4 则实际的worker有3个，每个人分3行，最后的一行给id是1的。可以很简单的利用循环类分配。最后Master收集所有的结果，并按照顺序组装起来就行。

每个worker的工作就是接收来自master的一行，和B矩阵运算，得出新一行的结果，然后发送回master

代码

多加了很多注释来解释，函数的说明下一节解释下。

1. #include <mpi.h> 
2. #include <stdio.h> 
3. #define MATRIX_SIZE 10 
4. #define FROM_MASTER 1 //这里的类型可以区分消息的种类，以便区分worker发送来的结果 
5. #define FROM_CHILD 2  
6. #define MASTER 0 
7. MPI_Status status; 
8. int myid,numprocess; 
9. //最终保存的结果 
10. int ans [MATRIX_SIZE*MATRIX_SIZE]; 
11. int A[MATRIX_SIZE*MATRIX_SIZE],B[MATRIX_SIZE*MATRIX_SIZE]; 
12. //读取文件，注意读取文件要放在master里，不然会读两遍，出现错误 
13. void readFile(){ 
14. FILE* fina,*finb; 
15. fina=fopen("a.txt","r"); 
16. int i; 
17. for (i = 0; i < MATRIX_SIZE*MATRIX_SIZE ; ++i) 
18. { 
19. fscanf(fina,"%d ",&A[i]); 
20. } 
21. fclose(fina); 
22. finb=fopen("b.txt","r"); 
23. for(i=0;i<MATRIX_SIZE*MATRIX_SIZE;i++) 
24. fscanf(finb,"%d ",&B[i]); 
25. fclose(finb); 
26. printf("read file ok/n"); 
27. } 
28. int master(){ 
29. int workid,dest,i,j; 
30. printf("numprocess %d/n",numprocess ); 
31. //给每个worker发送B矩阵过去 
32. for(i=0;i<numprocess-1;i++){ 
33. //send B matrix 
34. MPI_Send(&B,MATRIX_SIZE*MATRIX_SIZE,MPI_INT,i+1,FROM_MASTER,MPI_COMM_WORLD); 
35. } 
36. //开始给每个worker分配任务，取模即可 
37. for (i = 0; i < MATRIX_SIZE; i++) 
38. { 
39. //attention: num of workers is numprocess-1 
40. workid=i%(numprocess-1)+1; 
41. //send single line in A 
42. MPI_Send(&A[i*MATRIX_SIZE],MATRIX_SIZE,MPI_INT,workid,FROM_MASTER,MPI_COMM_WORLD); 
43. } 
44.  
45. //等待从worker发送来的数据 
46. int tempLine[MATRIX_SIZE]; 
47. for (i = 0; i < MATRIX_SIZE*MATRIX_SIZE; i++) 
48. { 
49. ans[i]=0; 
50. } 
51. for (i = 0; i < MATRIX_SIZE; ++i) 
52. { 
53. int myprocess=i%(numprocess-1)+1; 
54. printf("Master is waiting %d/n",myprocess); 
55. //receive every line from every process 
56. MPI_Recv(&tempLine,MATRIX_SIZE,MPI_INT,myprocess,FROM_CHILD,MPI_COMM_WORLD,&status); 
57. //发送过来的都是计算好了的一行的数据，直接组装到ans里就行 
58. for(j=0;j<MATRIX_SIZE;j++){ 
59. ans[MATRIX_SIZE*i+j]=tempLine[j]; 
60. } 
61. printf("Master gets %d/n",i); 
62. } 
63.  
64. for(i=0;i<MATRIX_SIZE*MATRIX_SIZE;i++){ 
65. printf("%d ",ans[i] ); 
66. if(i%MATRIX_SIZE==(MATRIX_SIZE-1))printf("/n"); 
67. } 
68. printf("The Master is out/n"); 
69.  
70. } 
71. int worker(){ 
72. int mA[MATRIX_SIZE],mB[MATRIX_SIZE*MATRIX_SIZE],mC[MATRIX_SIZE]; 
73. int i,j,bi; 
74. MPI_Recv(&mB,MATRIX_SIZE*MATRIX_SIZE,MPI_INT,MASTER,FROM_MASTER,MPI_COMM_WORLD,&status); 
75. //接收来自master的A的行 
76. for(i=0;i<MATRIX_SIZE/(numprocess-1);i++){ 
77. MPI_Recv(&mA,MATRIX_SIZE,MPI_INT,MASTER,FROM_MASTER,MPI_COMM_WORLD,&status); 
78. //矩阵乘法，A 的一行和B矩阵相乘 
79. for(bi=0;bi<MATRIX_SIZE;bi++){ 
80. mC[bi]=0; 
81. for(j=0;j<MATRIX_SIZE;j++){ 
82. mC[bi]+=mA[j]*mB[bi*MATRIX_SIZE+j]; 
83. } 
84. } 
85. MPI_Send(&mC,MATRIX_SIZE,MPI_INT,MASTER,FROM_CHILD,MPI_COMM_WORLD); 
86. } 
87. //如果处于余数范围内，则需要多计算一行 
88. if(MATRIX_SIZE%(numprocess-1)!=0){ 
89. if (myid<=(MATRIX_SIZE%(numprocess-1))) 
90. { 
91. MPI_Recv(&mA,MATRIX_SIZE,MPI_INT,MASTER,FROM_MASTER,MPI_COMM_WORLD,&status); 
92. for(bi=0;bi<MATRIX_SIZE;bi++){ 
93. mC[bi]=0; 
94. for(j=0;j<MATRIX_SIZE;j++){ 
95. mC[bi]+=mA[j]*mB[bi*MATRIX_SIZE+j]; 
96. } 
97. } 
98. MPI_Send(&mC,MATRIX_SIZE,MPI_INT,MASTER,FROM_CHILD,MPI_COMM_WORLD); 
99. } 
100. } 
101. printf("The worker %d is out/n",myid); 
102. } 
103. int main(int argc, char **argv) 
104. { 
105. MPI_Init (&argc, &argv);  
106. MPI_Comm_rank(MPI_COMM_WORLD,&myid); 
107. MPI_Comm_size(MPI_COMM_WORLD,&numprocess); 
108.  
109. if(myid==MASTER){ 
110. readFile(); 
111. master(); 
112. } 
113. if(myid>MASTER){ 
114. worker(); 
115. } 
116.  
117. MPI_Finalize(); 
118. return 0; 
119. } 

OPENMPI简单函数介绍

针对实验用到的几个函数进行说明。

MPI为程序员提供一个并行环境库，程序员通过调用MPI的库程序来达到程序员所要达到的并行目的，可以只使用其中的6个最基本的函数就能编写一个完整的MPI程序去求解很多问题。这6个基本函数，包括启动和结束MPI环境，识别进程以及发送和接收消息：

理论上说，MPI所有的通信功能可以用它的六个基本的调用来实现：

MPI_INIT 启动MPI环境

MPI_COMM_SIZE 确定进程数

MPI_COMM_RANK 确定自己的进程标识符

MPI_SEND 发送一条消息

MPI_RECV 接收一条消息

MPI_FINALIZE 结束MPI环境

初始化和结束

MPI初始化：通过MPI_Init函数进入MPI环境并完成所有的初始化工作。

1. int MPI_Init( int *argc, char * * * argv ) 

MPI结束：通过MPI_Finalize函数从MPI环境中退出。

1. int MPI_Finalize(void) 

获取进程的编号

调用MPI_Comm_rank函数获得当前进程在指定通信域中的编号，将自身与其他程序区分。

1. int MPI_Comm_rank(MPI_Comm comm, int *rank) 

获取指定通信域的进程数

调用MPI_Comm_size函数获取指定通信域的进程个数，确定自身完成任务比例。

1. int MPI_Comm_size(MPI_Comm comm, int *size) 

MPI消息

一个消息好比一封信

消息的内容的内容即信的内容，在MPI中成为消息缓冲(Message Buffer)

消息的接收发送者即信的地址，在MPI中成为消息封装(Message Envelop)

MPI中，消息缓冲由三元组<起始地址，数据个数，数据类型>标识

消息信封由三元组<源/目标进程，消息标签，通信域>标识

消息发送

MPI_Send函数用于发送一个消息到目标进程。

1. int MPI_Send(void *buf, int count, MPI_Datatype dataytpe, int dest, int tag, MPI_Comm comm) 

buf是要发送数据的指针，比如一个A数组，可以直接&A，count则是数据长度，datatype都要改成MPI的type。dest就是worker的id了。tag则可以通过不同的type来区分消息类型，比如是master发送的还是worker发送的。

消息接收

MPI_Recv函数用于从指定进程接收一个消息

1. int MPI_Recv(void *buf, int count, MPI_Datatype datatyepe,int source, int tag, MPI_Comm comm, MPI_Status *status) 

编译和执行

生成执行文件data

1. mpicc -o programname programname.c 

一个MPI并行程序由若干个并发进程组成，这些进程可以相同也可以不同。MPI只支持静态进程创建，即：每个进程在执行前必须在MPI环境中登记，且它们必须一起启动。通常启动可执行的MPI程序是通过命令行来实现的。启动方法由具体实现确定。例如在MPICH实现中通过下列命令行可同时在独立的机器上启动相同的可执行程序：

1. mpirun –np N programname 

其中N是同时运行的进程的个数，programname是可执行的MPI程序的程序名。