矩陣乘法MPI并行程序報告

1、1.實驗目的1.1掌握集群的使用方法。1.2掌握以并行的方式分析問題、設計并行程序的方法。1.3掌握如何對并行程序進行簡單的性能分析2. 實驗要求2.1使用MPI、OpenMp等并行程序設計方法設計矩陣乘法的并行程序。2.2隨機產生所需的矩陣元素，數據項不得少于1000*1000。2.3盡量設計較高的加速比3. 實驗環(huán)境3.1硬件環(huán)境：兩個集群節(jié)點blade13、blade15。3.2 軟件環(huán)境：Linux、gcc、Win7、VC+6.0。3.3 連接方式：Xmanager Enterprise 4.0 遠程桌面連接 211.69.198.203。4. 實驗程序4.1隨機算法產生矩陣：sran

2、 d( un sig ned in t)time(NULL);for (i=0; iN; i+)for (j=0; jN; j+)Aij = ran d() % 10;Bij = ran d() % 10;Cik = 0;4.2串行程序設計time( &start);for (i=0; iM; i+)for (k=0; kM; k+)Cik = 0;for (j=0; jM; j+)Cik += Aij*Bjk; time( &en d);4.3并行程序設計MPI_I nit (&argc,&argv) 和MPI_Fi nalize()MPI I nit用來初始化MPI執(zhí)行環(huán)境，建立多個 MP

3、I 進程之間的聯系，為后續(xù)通信做準備。而 MPI_Finalize 則是結束MPI執(zhí)行環(huán)境。這兩個函數 就是定義MPI程序的并行區(qū)的，除了檢測是否初始 化的函數之外，不應該在這兩個函數定義的區(qū)域外 調用其它MPI函數。這兩個函數都返回整型值，標 識函數是否調用成功。intMPI_Comm_ra nk(MPI_Comm com m, int *rank)MPI Comm rank函數用來標識各個 MPI進程，獲取 調用亥函數進程的進程號，將自身與其他進程區(qū)分。MPI Comm rank返回整型的錯誤值，需要提供兩個 參數：MPI_Comn類型的通信域，標識參與計算的 MPI進程 組。）面例子中使

4、用的是 MPI COMM WORL這個進 程組是MPI實現預先定義好的進程組，指的是所有MPI進程所在的進程組。如果想要申請自己的特殊 的進程組，則需要通過MPI Comm定義并通過其它MPI函數生成。&rank返回調用進程中的標識號。intMPI_Comm_size( MPI_Comm com m, int *size)MPI_Comm_size函數用來獲取指定通信域的進程個 數，確疋自身需要元成的任務數。MPI_Comn類型的通信域，標識參與計算的MPI進程組。上面的例子中用的是MPI COMM WORLD&size返回相應進程組中的進程數。int MPI_Send(void *buf,

5、int count, MPI_Datatype datatype, int dest, i nt tag, MPI_Comm comm)MPI_Se nd函數用于發(fā)送一個消息到目標進程。 通信域中的dest進程發(fā)送數據，數據存放在buf中， 類型是datatype，個數是count，這個消息的標志 是tag，用以和本進程向同一目的進程發(fā)送的其它 消息區(qū)別開來。int MPI_Recv(void *buf, int count, MPI_Datatype datatype,int source,int tag, MPI_Comm comm, MPI Status *status)MPI_Recv

6、函數用于從指定進程接收一個消息。 它的含義是進程從 comm域中source進程接收標簽 號為tag的數據，并保存到buf中。接收緩沖區(qū)buf 的大小不能小于發(fā)送過來的消息的長度。否則會由 于數組越界導致程序出錯。主進程if(process_id =0)row_aver =N / slave_ num;rema in der=N % slave_ num;offset = 0;for(dest=1; dest=slave_ num; dest+)rows = (dest = rema in der) ? row_aver+1 : row_aver;prin tf(se nding %d row

7、s to process %dn, rows, dest);MPI_Se nd(&o ffset,1,MPI_INT,dest,FROM_MASTER, MPI_COMM_WORLD);MPI_Se nd(&rows,1,MPI_INT,dest,FROM_MASTER, MPI_COMM_WORLD);MPI_Se nd(&Aoffset0,rows*N,MPI_INT,dest,FROM_MASTER, MPI_COMM_WORLD); MPI_Se nd(&B,N*N,MPI_INT,dest,FROM_MASTER,MPI_COMM_WORLD);offset += rows;star

8、t_time = MPI_Wtime();for(source=1; source 0)MPI_Recv(&o ffset,1,MPI_INT,O,FROM_MASTER,MPI_COMM_WORLD，& status);MPI_Recv(&rows,1,MPI_INT,0,FROM_MASTER,MPI_COMM_WORLD，& status);MPI_Recv(&A,rows*N,MPI_INT,0,FROM_MASTER,MPI_COMM_WORLD，& status);MPI_Recv(&B,N*N,MPI_INT,O,FROM_MASTER,MPI_COMM_WORLD, &stat

9、us);/矩陣乘法for(i=0; irows; i+)for (k=0; kN; k+)int tmp = Aik;for (j=0; jN; j+)Cij += tmp*Bkj;/ 禾U用MPI_Se nd(&ofset,1,MPI_INT,0,FROM_SLAVE,MPI_COMM_WORLD);MPI_Se nd(&rows,1,MPI_INT,0, FROM_SLAVE, MPI_COMM_WORLD);MPI_Se nd(&C,rows*N,MPI_UNSIGNED_LONG_LONG,0,FROM_SLAVE,MPI_COMM_WORLD); MPI_Fi nalize();re

10、turn 0;5. 性能分析分析公式：加速比=串行執(zhí)行時間/并行執(zhí)行時間效率=加速比/節(jié)點數5.1串行程序的執(zhí)行時間（秒）、矩陣規(guī) 模X1000200030004000實驗結果 第1次11.00099.000372.000799.000第2次11.000r 98.000376.000 1799.000第3次11.00099.000373.000802.000平均值11.00098.667373.667800.000不同矩陣規(guī)模F串彳f程庁的執(zhí)行時間oozooooeqoooqodoo9876-54321800,0001000200030004000執(zhí)行時間執(zhí)行時間趨勢線圖1.不同矩陣規(guī)模下串行程

11、序的執(zhí)行時間5.2八個節(jié)點時，不同矩陣規(guī)模并行程序的執(zhí)行時間（秒）矩陣規(guī)1000200030004000實驗結果第i次0.8296.83323.37255.422第2次0.8326.83823.31555.786第3次:0.8376.82023.56055.732平均值0.8336.83023.416 155.647加速比13.20514.44615.95814.376效率1.6511.8061.9951.797不同矩陳規(guī)模下幷行程序的執(zhí)行時間1000?00030004000o o nu u O4 3 z 1抱行時間執(zhí)行時冋趨勢線矩陣規(guī)樣圖2.八個節(jié)點時，不同矩陣規(guī)模下并行程序的執(zhí)行時間8節(jié)點

12、下，不同矩陣規(guī)模的加速比15.95814.44614.3761000200030004000加速比加速比趨勢線8 6 4 2 000 6 4 2 0 TT T T T比速加矩陣規(guī)模圖3.八個節(jié)點時，不同矩陣規(guī)模下并行程序的加速比8節(jié)點下，不同矩陣規(guī)模的效率圖4.八個節(jié)點時，不同矩陣規(guī)模下并行程序的效率分析隨著矩陣規(guī)模的增加執(zhí)行時間程序的執(zhí)行時間急劇增加。加速比程序的加速比基本保持不變。效率程序的效率基本保持不變。5.3矩陣規(guī)模為1000*1000時，不同節(jié)點數下并行程序的執(zhí)行時間（秒）節(jié)點個數、2345678實驗結果、x第1次5.7922.9171.9451.4551.1700.9730.82

13、91第2次5.7932.8991.9441.4741.1670.9710.832第3次5.8382.9151.9351.4531.1690.9750.837平均值5.8082.9101.9411.4611.1690.9730.833加速比1.9843.7805.6677.2599.41011.30513.205效率0.9921.2601.4171.4521.5681.6151.651SBffitl000*1000時，不同節(jié)原下期5程J*的執(zhí)行聘間節(jié)點個歆井仃執(zhí)行時間執(zhí)行時可務勢線7 6 5 4 5 2 10 (診)醪 Byfi圖5.矩陣規(guī)模1000*1000時，不同節(jié)點下的并行程序的執(zhí)行時間1

14、000*1000時，不同節(jié)點下的加速比13.205加速比力：!許比為礙民節(jié)點個敢圖6.矩陣規(guī)模1000*1000時，不同節(jié)點下的并行程序的加速比分析隨著計算節(jié)點數的增加，執(zhí)行時間程序的執(zhí)行時間迅速減少，然后趨于平穩(wěn)。加速比程序的加速比基本呈線性增長，公式趨y-1.8374x+0.022 。效率程序的效率逐步增長，然后趨于平緩。6. 用戶手冊6.1 連接：ssh pppusr211.69.168.203 密碼：*6.2 登陸：sudo ssh blade13 或者 blade156.3 切換至工作目錄：cd /home/pppusr/*6.4編譯：mpicc -o matrix matrix m

15、ulti.c6.5運行：mpirun -np 8 ./matrix#in clude #in clude #in clude #defi ne N 1000#defi ne FROM_MASTER 1#defi ne FROM_SLAVE 2int ANN, BNN;un sig ned long long CNN;MPI_Status status;/消息接收狀態(tài)變量，存儲也是分布的int main (i nt argc, char *argv)int process_num; /進程數，該變量為各處理器中的同名變量，存儲是分布的int process id;int slave_ num;i

16、nt dest; /目的進程標識號int source; /發(fā)送數據進程的標識號int rows;int row_aver;int rema in der;in t offset;/行偏移量int i, j, k;double start_time, en d_time;sran d( un sig ned in t)time(NULL);for (i=0; iN; i+)for (j=0; jN; j+)Aij = ran d() % 10;Bij = ran d() % 10;Cik = 0;MPI_Init(&argc, &argv);初始化 MPI/*該函數被各進程各調用一次，得到各自

17、的進程id值*/MPI_Comm_ra nk(MPI_COMM_WORLD, &process_id);/*該函數被各進程各調用一次，得到進程數*/MPI_Comm_size(MPI_COMM_WORLD, & process_ num);slave_ num = process_ num - 1;if(process_id = 0)row_aver = N / slave_ num;rema in der = N % slave_ num; offset = 0;/有的程序是將時間函數放在這個for循環(huán)的兩邊for(dest=1; dest=slave_ num; dest+)rows =

18、(dest = rema in der) ? row_aver+1 : row_aver;prin tf(se nding %d rows to process %dn, rows, dest);MPI_Se nd(&offset,1, MPINT, dest, FROM_MASTER, MPI_COMM_WORLD);MPI Send(&rows,1, MPI INT, dest, FROM MASTER, MPI COMM WORLD);MPI_Se nd(&Aoffset0, rows*N, MPINT, dest, FROM_MASTER, MPI_COMM_WORLD);MPI_Se nd(&B,N*N, MPINT, dest, FROM_MASTER, MPI_COMM_WORLD);offset += rows;start_time = MPI_Wtime();for(source=1; source 0)MPI_Recv(&