量子信息學(xué)導(dǎo)論 課件 第3章 量子信息論基礎(chǔ)

第3章量子信息論基礎(chǔ)3.1熵與量子信息的測(cè)度3.2最大信息的獲取3.3量子無(wú)噪聲編碼定理3.4帶噪聲量子信道上的信息

信息論是通信的數(shù)學(xué)基礎(chǔ)，它通過數(shù)學(xué)描述與定量分析來(lái)研究通信系統(tǒng)的有效性、安全性和可靠性，包括信息的測(cè)度、信道的容量、信源和信道編碼理論等問題。經(jīng)典通信的基礎(chǔ)是香農(nóng)信息論，香農(nóng)信息論已發(fā)展得比較成熟；量子通信的數(shù)學(xué)基礎(chǔ)是量子信息論，而量子信息論還處在發(fā)展過程中。

3.1熵與量子信息的測(cè)度

熵的概念來(lái)自熱力學(xué)與統(tǒng)計(jì)物理學(xué)。熱力學(xué)中最重要的定理是熱力學(xué)第二定理，它指出任何一個(gè)孤立系統(tǒng)的熱力學(xué)過程總是向熵增加方向進(jìn)行。熵作為系統(tǒng)混亂度的量度，在統(tǒng)計(jì)物理中，近獨(dú)粒子系統(tǒng)的熵與粒子速度分布函數(shù)f(υ)的關(guān)系可表示為

3.1.1經(jīng)典香農(nóng)熵

香農(nóng)熵是經(jīng)典信息論中的基本概念。對(duì)于隨機(jī)變量X，它具有不確定性，可以取不同值：x1，x2，…xn。X的香農(nóng)熵即測(cè)到X的值之前關(guān)于X的不確定性的測(cè)度，也可以視為測(cè)到X值之后我們得到信息多少的一種平均測(cè)度。

定義3.1設(shè)對(duì)隨機(jī)變量X，測(cè)到其值為x1,x2,…xi，…，xn，概率分別為P1，P2，…，Pi，…，Pn，則與該概率分布相聯(lián)系的香農(nóng)熵定義為

其中Pi是測(cè)到xi的概率。

必須強(qiáng)調(diào)的是，這里對(duì)數(shù)是以2為底的，因此熵的單位是比特，且約定為01b0=0；另外，概率滿足

例如，投擲兩面均勻的硬幣，每面出現(xiàn)的概率為1/2，其相應(yīng)熵為

若投擲均勻的四面體，則熵為

一般地，如果隨機(jī)變量取兩個(gè)值，概率分別為p與1-p，則給出熵為

人們稱它為二元熵。

二元熵函數(shù)與概率P的關(guān)系如圖3.1所示?？梢钥闯?，當(dāng)P=1/2時(shí)，H2(P)取最大值，為1。圖3.1二元熵函數(shù)與概率P的關(guān)系

二元熵為理解熵的一些性質(zhì)提供了一個(gè)容易掌握的實(shí)例。例如，可以用它來(lái)討論兩個(gè)概率分布混合時(shí)系統(tǒng)的行為。

設(shè)想Alice有兩個(gè)硬幣，一個(gè)是美元，另一個(gè)是人民幣，兩硬幣都不均勻，兩面出現(xiàn)的概率不是1/2，設(shè)美元正面出現(xiàn)的概率為PU，人民幣正面出現(xiàn)的概率為PC，假定Alice投美元的概率為Q，投人民幣的概率為1-Q，Alice告訴Bob正面或反面，平均而言Bob獲得多少信息？其獲得的信息會(huì)大于或等于單獨(dú)投美元和人民幣獲得的信息，數(shù)學(xué)表示為

定義3.2如果一個(gè)實(shí)函數(shù)f滿足以下關(guān)系：

其中，0≤P，x、y≤1，則稱函數(shù)具有凹性。

一般信息熵都具有凹性。若不等式(3.4)反過來(lái)，則稱函數(shù)f具有凸性。下面介紹有關(guān)熵的幾個(gè)重要概念，它涉及幾個(gè)概率分布關(guān)系。

1)相對(duì)熵

定義3.3對(duì)同一個(gè)隨機(jī)變量X有兩概率P(x)和Q(x)，P(x)到Q(x)的相對(duì)熵定義為

相對(duì)熵可以作為兩個(gè)分布間距離的一個(gè)度量?？梢宰C明相對(duì)熵滿足H[P(x)

Q(x)]≥0，即是非負(fù)的。

定理3.1設(shè)X是具有d個(gè)結(jié)果的隨機(jī)變量，則H(X)≤1bd，且當(dāng)X在d個(gè)結(jié)果上分布相同時(shí)取等號(hào)。

證明：設(shè)P(x)是X的一個(gè)具有d個(gè)結(jié)果的概率分布，令Q(x)＝1/d，則有

因?yàn)?/p>

即

2)聯(lián)合熵與條件熵

定義3.4設(shè)X和Y是兩個(gè)隨機(jī)變量，X和Y的聯(lián)合熵定義為

其中P(xy)是X取值x及y取值y同時(shí)發(fā)生的概率。

聯(lián)合熵是測(cè)量XY

整體不確定性的測(cè)度，若從該熵中減去Y

的熵就得到已知Y

條件下X的條件熵表示，即

它是在已知Y值條件下，平均而言對(duì)X值的不確定性的測(cè)度。

3)互信息

定義3.5將包含X信息的H(X)加上包含Y信息的H(Y)，再減去聯(lián)合信息H(XY)，就得到X和Y的共同信息H(X：Y)，稱為互信息，即有

將條件熵和互信息聯(lián)系起來(lái)有

各種熵之間的關(guān)系可以用一個(gè)圖形來(lái)表示，如圖3.2所示。此圖也稱為維恩圖，利用它可以幫助我們理解各種熵之間的關(guān)系，但此圖對(duì)量子熵不適用。

下面集中給出香農(nóng)熵的幾點(diǎn)性質(zhì)。

圖3.2互信息和各類熵之間的關(guān)系

3.1.2量子馮·諾依曼熵

將香農(nóng)經(jīng)典熵推廣到量子狀態(tài)，就是用密度算符代替熵中概率分布。

定義3.6若量子系統(tǒng)用密度算符ρ描述，相應(yīng)量子熵定義為

量子熵最早由馮·諾依曼引入，故又稱馮·諾依曼熵。若λn

是ρ的特征值，則馮·諾依曼熵又可以寫為

在具體計(jì)算中，式(3.16)用得多。例如：

定義3.7若ρ和σ是密度算符，ρ到σ的量子相對(duì)熵定義為

定義3.8若A、B組成復(fù)合系統(tǒng)，其密度矩陣為ρAB，定義A和B的聯(lián)合熵為

定義3.9在已知B條件下A的條件熵定義為

3.1.3馮·諾依曼熵的強(qiáng)次可加性

二量子系統(tǒng)的次可加性和三角不等式可以推廣到三量子系統(tǒng)，結(jié)果為強(qiáng)次可加性，它是量子信息論中重要的結(jié)論之一。

對(duì)任意的三量子系統(tǒng)A、B、C，以下不等式成立：

式(3.31)表示A、B兩系統(tǒng)的不確定性之和不大于AC和BC

兩聯(lián)合系統(tǒng)不確定性之和；式(3.32)表示

A、B、C三系統(tǒng)聯(lián)合不確定性加上B系統(tǒng)的不確定性小于等于AB和BC

聯(lián)合系統(tǒng)不確定性之和。這兩個(gè)結(jié)果要進(jìn)行嚴(yán)格證明是很困難的，下面給出一個(gè)簡(jiǎn)單的論證。

3.2最大信息的獲取

設(shè)Alice有一個(gè)信源，按概率P1，P2，…，Pn產(chǎn)生隨機(jī)變量X的值，Alice選擇量子態(tài)ρｘ發(fā)給Bob，Bob對(duì)狀態(tài)進(jìn)行量子測(cè)量，結(jié)果為Y，然后根據(jù)測(cè)量結(jié)果Y給出X值的最好猜測(cè)——獲取的最大信息。

3.2.1

Holevo限

定理3.4設(shè)Alice以概率P1，P2，…，Pn制備量子態(tài)Px，其中x=1，2…，n，Bob進(jìn)行正定算符值測(cè)量，其POVM元為{Ey}={E1，…，EM}，測(cè)量結(jié)果為Y，Bob進(jìn)行任何此類測(cè)量所得信息上限為

式(3.41)右邊稱為Holevo限，有時(shí)記為χ。因此，Holevo限給出了可獲取信息的一個(gè)上限。

為聯(lián)合分布，則有

3.2.2Holevo限的應(yīng)用

利用混合量子狀態(tài)熵的上限定理

并聯(lián)合Holevo上限定理得

當(dāng)ρx對(duì)應(yīng)正交支集時(shí)取等號(hào)。

`圖3.3

Holevo限與θ/π的關(guān)系

3.3量子無(wú)噪聲編碼定理

3.3.1香農(nóng)無(wú)噪聲信道編碼定理

香農(nóng)無(wú)噪聲信道編碼定理量化了由經(jīng)典信源產(chǎn)生的信息在無(wú)損耗信道中其編碼壓縮的程度。經(jīng)典信源有多種模型，一個(gè)簡(jiǎn)單有用的模型是隨機(jī)變量序列x1，x2，xn，構(gòu)成的源。隨機(jī)變量的值表示該源的輸出，設(shè)源持續(xù)發(fā)出隨機(jī)變量x1,x2,…xn，若各隨機(jī)變量彼此是獨(dú)立的，并且有相同的概率分布，則稱這樣的信源為IID信息源。

考慮二值IID源產(chǎn)生比特x1，x2，…xn，每比特以概率P出現(xiàn)0，而以概率(1-P)產(chǎn)生1。香農(nóng)定理的關(guān)鍵是把隨機(jī)變量

x1，x2，…xn的值x1的可能序列分為兩類，經(jīng)常出現(xiàn)的序列稱為典型序列，而很少出現(xiàn)的序列稱為非典型序列。利用IID源的獨(dú)立性假設(shè)，典型序列概率為

式(3.53)第一個(gè)等式來(lái)自獨(dú)立性假設(shè)，總概率為獨(dú)立概率之積；第二個(gè)等式來(lái)自同概率分布，每個(gè)取0的概率為P，而取0的個(gè)數(shù)為nP，取1的概率為1-P，其數(shù)目為(1-P)n。

兩邊取對(duì)數(shù)得

其中n是隨機(jī)變量數(shù)，也是比特?cái)?shù)。

H(X)=-P1b(1-P)1b(1-P)是二元熵，是每個(gè)隨機(jī)變量的熵，稱為信源的熵率，因此典型序列概率為P(x1,x2,…xn)≈2-nH(X)。由于典型序列總概率不會(huì)超過1，則典型序列個(gè)數(shù)最多為2nH(X)。

定義2.11對(duì)給定ε>0，若IID元產(chǎn)生的x1,x2,…xn序列概率滿足

則稱序列x1,x2,…xn為典型序列，有時(shí)也稱ε典型，序列數(shù)目為T(nε)。

為了引出香農(nóng)無(wú)噪聲信道編碼定理，先要證明典型序列定理，該定理的含義是：在隨機(jī)變量數(shù)n充分大時(shí)，信源輸出的大多數(shù)序列是典型序列。

定理3.5(典型序列定理)

(1)固定ε>0，對(duì)任意的δ>0和充分大的n，一個(gè)序列為ε典型的概率至少是1-δ，即

(2)對(duì)任意固定的

ε>0和δ>0及充分大的n，ε典型序列的數(shù)目T(nε)滿足：

定理3.6(香農(nóng)無(wú)噪聲信道編碼定理)設(shè){Xi}是一個(gè)具有熵率為H(X)的IID信源，R為編碼壓縮率。若R>

H(X)，則存在一種可靠的編碼壓縮方案，使編碼壓縮為新序列只

需nR比特表示；反之，若R<

H(X)，則不存在可靠的編碼壓縮方案。

所謂可靠編碼壓縮方案，是指通過解碼后可將壓縮后新序列以接近1的概率還原為原來(lái)的序列。

3.3.2量子舒馬赫無(wú)噪聲信道編碼定理

在量子信息論中將量子狀態(tài)視為信息，這是量子信息論概念上的突破。本節(jié)將定義量子信源，并研究該信源產(chǎn)生的信息——量子狀態(tài)在多大程度上可以被編碼壓縮。

圖3.4量子數(shù)據(jù)編碼壓縮

定理3.7(量子典型子空間定理)

(1)固定ε>0，對(duì)任意δ>0和充分大的n，有

(2)對(duì)任意固定的ε>0、δ>0和充分大的n，子空間的維數(shù)T(nε)滿足

證明由經(jīng)典典型序列定理類比得到

測(cè)試(3.63)可以直接從典型序列定理中的式(3.56)得到；典型序列的數(shù)目即為子空間的維數(shù)以及式(3.62)結(jié)論(3.64)可直接由典型序列定理中的式(3.57)得到。

有了典型子空間定理就不難得到量子無(wú)噪聲信道編碼定理，該定理也稱舒馬赫無(wú)噪聲信道編碼定理。

定理3.8(舒馬赫無(wú)噪聲信道編碼定理)

令{H，ρ}是IID量子信源，若R>S(ρ)，則對(duì)該源存在壓縮率為R的可靠編碼壓縮方案；若R>S(ρ)，則壓縮率為R的任何壓縮方案都是不可靠的。

3.4帶噪聲量子信道上的信息3.4.1帶噪聲經(jīng)典信道上的信息

噪聲是通信信道無(wú)法回避的問題，糾錯(cuò)碼可以用來(lái)對(duì)抗噪聲的影響。對(duì)一個(gè)特定的帶噪聲的信道，信息論的一個(gè)基本問題是要確定信道Ｎ可靠通信的最大傳送率，即信道的容量。香農(nóng)帶噪聲信道編碼定理是對(duì)這一問題最明確的回答。無(wú)論是量子的還是經(jīng)典的帶噪聲信道編碼的許多重要思想都可以通過研究二元對(duì)稱信道來(lái)了解。

所謂二元對(duì)稱信道是針對(duì)一個(gè)單比特信息的帶噪聲信道而言的，設(shè)想人們通過帶噪聲經(jīng)典信道從Alice發(fā)送一個(gè)比特給Bob，信道中由于噪聲作用使傳輸比特信息以概率P>0發(fā)生翻轉(zhuǎn)(如從0到1)，使比特?zé)o差錯(cuò)傳輸?shù)母怕蕿?-P，這樣的信道就稱為二元對(duì)稱信道，如圖3.5所示。

每次使用二元對(duì)稱信道可以可靠傳送多少信息，在使用糾錯(cuò)碼的情況下，通過論證其信息可以可靠傳輸?shù)淖畲蟊嚷蕿?-H(P)，其中H(P)是香農(nóng)熵，有關(guān)論證略。

圖3.5二元對(duì)稱信道

香農(nóng)帶噪聲信道編碼定理是將二元對(duì)稱信道的容量結(jié)果推廣到離散無(wú)記憶信道。信道無(wú)記憶是指每次使用信道時(shí)它的作用都相同,并且不同的使用之間是獨(dú)立的。離散無(wú)記憶信道具有有限的輸入字母表A和有限的輸出字母表Ｂ，對(duì)二元對(duì)稱信道，輸入字母和輸出字母表為A=B={0，1}。信道的作用將由條件概率P(y|x)來(lái)描述，它表示在給定輸入是x的條件下，從信道輸出不同y的概率，其中x

∈A，ｙ∈

B。條件概率滿足下列兩個(gè)條件：

經(jīng)典信息在帶噪聲信道中的傳送如圖3.6所示。N表示帶噪聲經(jīng)典信道，Alice從2nR個(gè)可能的消息中產(chǎn)生一個(gè)消息M并用映射(Map)Cn進(jìn)行編碼，即{1，2，…，2nR}→An；映射為Alice的每條消息分配一個(gè)輸入串，輸入串通過噪聲信道N以n次使用而傳給Bob，Bob對(duì)信道的輸出用映射Dn進(jìn)行編碼，即{Bn→1，2，…，2nR}；然后輸出映射的信號(hào)，每個(gè)可能輸出分配一個(gè)消息D(Y)。

圖3.6經(jīng)典信息在帶噪聲信道中的傳送

定義3.12對(duì)于給定的編碼／解碼對(duì)CnDn，差錯(cuò)概率定義為輸出消息Dn(Y)不等于消息Ｍ的最大概率，即

定義3.13如果編碼／解碼對(duì)

CnDn存在，且滿足n→∞時(shí)P(CnDn)→0，則稱相應(yīng)比率R是可達(dá)到的。一個(gè)給定的帶噪聲信道Ｎ的容量C(N)，定義為信道可達(dá)到的比率的上確界。

要通過計(jì)算P(CnDn)而給出信道容量C(N)顯然是很困難的，而香農(nóng)通過引入互信息回答了這個(gè)問題，這就是香農(nóng)帶噪聲信道編碼定理。

定理3.9(香農(nóng)帶噪聲信道編碼定理)

3.4.2帶噪聲量子信道上的經(jīng)典信息

假設(shè)Alice和Bob使用帶噪聲量子信道進(jìn)行通信，即Alice有某個(gè)消息M期望傳給Bob，她不用經(jīng)典算隨機(jī)數(shù)方法編碼，而是用量子狀態(tài)進(jìn)行編碼，并經(jīng)過帶噪聲量子信道傳送，人們期望得到計(jì)算帶噪聲量子信道上傳送經(jīng)典信息容量的方法。

考慮量子信道ε，Alice將消息利用量子態(tài)直積方式編碼ρ1

ρ2…，其中每個(gè)密度矩陣ρ1，ρ2,…都是信道ε的輸入，人們將帶有這個(gè)限制的容量稱為直積狀態(tài)容量，記為C(1)(ε)，表示輸入態(tài)中不使用糾纏態(tài)。有人認(rèn)為糾纏態(tài)不增加容量，但無(wú)證明，直積狀態(tài)容量的上限由HSW定理給出。

定理3.10(HSW定理)設(shè)ε是一個(gè)保跡的量子運(yùn)算，定義Holevo量

其中最大值是在所有輸入態(tài)ρj的全部系統(tǒng){

Pj

ρj}中取值，則χ(ε)是信道ε的直積狀態(tài)容量，即

C(1)(ε)是量子信道所能傳送的最大經(jīng)典信息容量。所取系綜包括d2個(gè)元，其中d是信道輸入的維數(shù)。定理2.10表示若Alice想從集合{1，2，…，3nR}中選取一個(gè)消息M發(fā)給Bob，她將消息利用ρM1

ρM2

…

ρMn編碼，其中比率R存在一個(gè)上限，由χ(ε)確定。

定理證明應(yīng)包括兩方面：

(1)證明對(duì)任何小于Holevo量χ(ε)

的比率R，總可以使用直積狀態(tài)進(jìn)行編碼，從而使信息能通過信道ε傳輸，證明略；

(2)證明另一方面，當(dāng)比率R大于Holevo限χ(ε)

時(shí)，Alice不可能通過信道ε以此比率向Bob發(fā)送信息。

下面證明第(2)點(diǎn)。

證明的策略是：設(shè)Alice均勻隨機(jī)從集合{1，2，…，2nR}中選取消息M，若其比率R大于定義的χ(ε)，則其平均出錯(cuò)概率必大于0，故最大出錯(cuò)概率也大于0，這是不行的。

設(shè)Alice把消息Ｍ編碼為ρM

=ρM1

ρM2

…

ρMn，而相應(yīng)輸出用σ代替ρ，Bob用正定算符值測(cè)定進(jìn)行解碼，并假定每個(gè)M包含一個(gè)EM，使得則平均差錯(cuò)概率為

對(duì)經(jīng)典信息，比率

R<1bd，其中d是信道輸入的維數(shù)，由于利用Holevo界可以論證n量子比特不能用于傳送多于n比特的經(jīng)典信息，因此{(lán)EM}中包含dn+1個(gè)元。

3.4.3帶噪聲量子信道上的量子信息

1.熵交換與量子費(fèi)諾不等式

我們將量子信源視為處于混合態(tài)ρ的系統(tǒng)與別的量子系統(tǒng)糾纏的量子系統(tǒng)，量子信息通過量子運(yùn)算ε傳輸?shù)目煽啃詼y(cè)量是糾纏保真度F(ρε)用Q表示ρ所在系統(tǒng)，R表示初始純化

Q的參考系統(tǒng)，這樣，糾纏保真度就是在系統(tǒng)Q上的ε作用下保持Q和R之間糾纏程度的一種測(cè)度。

量子運(yùn)算作用到量子系統(tǒng)Q的狀態(tài)ρ會(huì)引起多少噪聲，一個(gè)測(cè)度方法是擴(kuò)展到系統(tǒng)Q，它開始處在純態(tài)，在量子運(yùn)算i作用下變成混合態(tài)。定義運(yùn)算i在輸入ρ態(tài)上的熵交換為S(ρε)=S(R′Q′)，R′Q′是運(yùn)算的系統(tǒng)。對(duì)熵交換S(ρε)大小有一個(gè)上限，它由量子費(fèi)諾不等式給出。

定理3.11(量子費(fèi)諾不等式)令ρ為一量子狀態(tài)，ε為一個(gè)跡的量子運(yùn)算，相應(yīng)熵交換為

這個(gè)表達(dá)式稱為量子費(fèi)諾不等式，其中F(ρε)是糾纏保真度，H2(o)是二元香農(nóng)熵，d是Q的維數(shù)。

從量子費(fèi)諾不等式看出，如果一個(gè)