偏最小二乘法matlab編程

1、一、起源與發(fā)展 偏最小二乘法（partial least squares method，PLS）是一種新型的多元統(tǒng)計數(shù)據(jù)分析方法，它于1983年由伍德(S.Wold)和阿巴諾(C.Albano)等人首次提出。其實(shí)在早在70年代伍德(S.Wold)的父親H Wold便在經(jīng)濟(jì)學(xué)研究中引入了偏最小二乘法進(jìn)行路徑分析，創(chuàng)建了非線性迭代偏最小二乘算法(Nonlinear Iterative Partial Least Squares algorithm，NIPALS)，至今仍然是PLS中最常用和核心的算法。PLS在20世紀(jì)90年代引入中國，在經(jīng)濟(jì)學(xué)、機(jī)械控制技術(shù)、藥物設(shè)計及計量化學(xué)等方面有所應(yīng)用，但是在

2、生物醫(yī)學(xué)上偏最小二乘法涉及相對較少。對該方法的各種算法和在實(shí)際應(yīng)用中的介紹也不系統(tǒng)，國內(nèi)已有學(xué)者在這方面做了一些努力，但作為一種新興的多元統(tǒng)計方法，還不為人所熟知。 PLS是一種數(shù)學(xué)優(yōu)化技術(shù)，它通過最小化誤差的平方和找到一組數(shù)據(jù)的最佳函數(shù)匹配。用最簡的方法求得一些絕對不可知的真值，而令誤差平方之和為最小。通常用于曲線擬合。有人用下式來形容PLS：偏最小二乘回歸多元線性回歸分析典型相關(guān)分析主成分分析 二、特點(diǎn)：與傳統(tǒng)多元線性回歸模型相比，偏最小二乘回歸的特點(diǎn)是：(1) 能夠在自變量存在嚴(yán)重多重相關(guān)性的條件下進(jìn)行回歸建模；(2) 允許在樣本點(diǎn)個數(shù)少于變量個數(shù)的條件下進(jìn)行回歸建模；(3) 偏最小二乘

3、回歸在最終模型中將包含原有的所有自變量；(4) 偏最小二乘回歸模型更易于辨識系統(tǒng)信息與噪聲（甚至一些非隨機(jī)性的噪聲）；(5) 在偏最小二乘回歸模型中，每一個自變量的回歸系數(shù)將更容易解釋。 偏最小二乘法的Matlab源碼(2008-09-21 09:31:21)所謂偏最小二乘法，就是指在做基于最小二乘法的線性回歸分析之前，對數(shù)據(jù)集進(jìn)行主成分分析降維，下面的源碼是沒有刪減的/greensim）。 function y5,e1,e2=PLS(X,Y,x,y,p,q) % 偏最小二乘回歸的通用程序 % 注釋以“基于近紅外光譜分析的汽油組分建?！睘槔?，但本程序

4、的適用范圍絕不僅限于此 % % 輸入?yún)?shù)列表 % X 校正集光譜矩陣，nk的矩陣，n個樣本，k個波長 % Y 校正集濃度矩陣，nm的矩陣，n個樣本，m個組分 % x 驗(yàn)證集光譜矩陣 % y 驗(yàn)證集濃度矩陣% p X的主成分的個數(shù)，最佳取值需由其它方法確定% q Y的主成分的個數(shù)，最佳取值需由其它方法確定 % 輸出參數(shù)列表 % y5 x對應(yīng)的預(yù)測值（y為真實(shí)值） % e1 預(yù)測絕對誤差，定義為e1=y5-y % e2 預(yù)測相對誤差，定義為e2=|(y5-y)/y| % 第一步：對X,x,Y,y進(jìn)行歸一化處理n,k=size(X); m=size(Y,2); Xx=X;x; Yy=Y;y; xmi

5、n=zeros(1,k); xmax=zeros(1,k); for j=1:k xmin(j)=min(Xx(:,j); xmax(j)=max(Xx(:,j); Xx(:,j)=(Xx(:,j)-xmin(j)/(xmax(j)-xmin(j); end ymin=zeros(1,m); ymax=zeros(1,m); for j=1:m ymin(j)=min(Yy(:,j); ymax(j)=max(Yy(:,j); Yy(:,j)=(Yy(:,j)-ymin(j)/(ymax(j)-ymin(j);end X1=Xx(1:n,:); x1=Xx(n+1):end,:);Y1=Yy(

6、1:n,:); y1=Yy(n+1):end,:); % 第二步：分別提取X1和Y1的p和q個主成分，并將X1,x1,Y1,y1映射到主成分空間 CX,SX,LX=princomp(X1); CY,SY,LY=princomp(Y1); CX=CX(:,1:p); CY=CY(:,1:q); X2=X1*CX; Y2=Y1*CY; x2=x1*CX; y2=y1*CY; % 第三步：對X2和Y2進(jìn)行線性回歸 B=regress(Y2,X2,0.05);%第三個輸入?yún)?shù)是顯著水平，可以調(diào)整 % 第四步：將x2帶入模型得到預(yù)測值y3y3=x2*B; % 第五步：將y3進(jìn)行“反主成分變換”得到y(tǒng)4

7、y4=y3*pinv(CY); % 第六步：將y4反歸一化得到y(tǒng)5 for j=1:m y5(:,j)=(ymax(j)-ymin(j)*y4(:,j)+ymin(j); end % 第七步：計算誤差 e1=y5-y; e2=abs(y5-y)./y); function MD,ERROR,PRESS,SECV,SEC=ExtraSim1(X,Y)% 基于PLS方法的進(jìn)一步仿真分析 % 功能一：計算MD值，以便于發(fā)現(xiàn)奇異樣本 % 功能二：計算各種p取值情況下的ERROR,PRESS,SECV,SEC值，以確定最佳輸入變量個數(shù) n,k=size(X); m=size(Y,2); pmax=n-1

8、; q=m; ERROR=zeros(1,pmax); PRESS=zeros(1,pmax); SECV=zeros(1,pmax); SEC=zeros(1,pmax); XX=X; YY=Y; N=size(XX,1); for p=1:pmax disp(p); Err1=zeros(1,N);%絕對誤差 Err2=zeros(1,N);%相對誤差 for i=1:N disp(i); if i=1 x=XX(1,:); y=YY(1,:); X=XX(2:N,:); Y=YY(2:N,:); elseif i=N x=XX(N,:); y=YY(N,:); X=XX(1:(N-1),:); Y=YY(1:(N-1),:); else x=XX(i,:); y=YY(i,:); X=XX(1:(i-1),:);XX(i+1):N,:); Y=YY(1:(i-1),:);YY(i+1):N,:); end y5,e1,e2=PLS(X,Y,x,y,p,q); Err1(i)=e1; Err2(i)=e2; end ERROR(p)=sum(Err2)/N; PRESS(p)=sum(Err1.2); SECV(p)=sqrt(PRESS(p