大家好,我是小棗君。
今天這篇文章,我們來聊一個非常酷的話題——語義通信。
大家都知道,自從信息革命爆發(fā)以來,我們的信息量(數(shù)據(jù)量)就在不斷膨脹。
文字、圖片、音頻、視頻……越來越多的數(shù)據(jù)在不斷產(chǎn)生,不僅占據(jù)著我們的硬盤空間,也充斥著整個通信網(wǎng)絡(luò)。
這些數(shù)據(jù)讓我們的工作和生活更加便利,也推動著社會的進(jìn)步和發(fā)展。
進(jìn)入21世紀(jì)后,在云計算、大數(shù)據(jù)、物聯(lián)網(wǎng)和人工智能的共同刺激下,數(shù)據(jù)的增長趨勢更加猛烈。
根據(jù)IDC的報告,到2025年,全球數(shù)據(jù)總量將達(dá)到175ZB,約等于1750億TB。
而ITU則預(yù)測,全球移動數(shù)據(jù)流量的年增長速率將會在2030年達(dá)到55%。2030年的數(shù)據(jù)流量,將是2020年的100倍。
面對如此巨大的流量增長,人類現(xiàn)有的通信技術(shù)手段,已經(jīng)疲于招架。
1948年,祖師爺克勞德·香農(nóng)(Claude Elwood Shannon)發(fā)表了那篇經(jīng)典論文——《A Mathematics Theory of Communication(通信的數(shù)學(xué)理論)》,標(biāo)志著信息論的誕生。
后來,1949年,他又發(fā)表了《Communication in the Presence of Noise(噪聲下的通信)》,闡明了通信的基本問題,給出了通信系統(tǒng)的模型,以及著名的香農(nóng)公式。
從那之后,我們就一直在信息論和香農(nóng)公式的基礎(chǔ)上,進(jìn)行通信技術(shù)的研究。
經(jīng)過70多年的積累,我們的通信技術(shù)已經(jīng)無限接近于香農(nóng)極限。以huffman編碼、算法編碼為代表的信源編碼技術(shù),把信源數(shù)據(jù)壓縮到了極致。而以LDPC碼、極化碼為代表的信道編碼技術(shù),把信道也利用到了極致。
接下來,該怎么辦呢?面對萬物智聯(lián)時代的數(shù)據(jù)洪流,我們的優(yōu)質(zhì)頻譜資源越來越少,硬件和能耗成本越來越高,該如何應(yīng)對?
█ 通信的三個層級
大家不妨冷靜思考一下。
一直以來,我們在通信技術(shù)上所做的努力,似乎都在做一件事情——把攜帶信息的符號,完整、準(zhǔn)確、快速地從信源發(fā)送到信宿。
這就好像一個勤勞的快遞員,他的唯一使命,就是把寄件人交給他的貨物,完好無損且快速地,送到收件人的手上。
那么,當(dāng)貨物實(shí)在太多,快遞員真的已經(jīng)拿不動的時候,他會不會蹦出這么一個念頭——這些貨物,真的有必要全送嗎?
大家或者也會有這樣的經(jīng)歷:
你想在網(wǎng)上搜索一部好看的電影。你挑了一部,花了好久的時間,終于下載完成,結(jié)果,你打開一看,根本不是自己喜歡的。于是,你就只能刪掉它。
網(wǎng)絡(luò)辛苦完成的數(shù)據(jù)傳輸工作,沒有發(fā)揮價值。你的時間,也浪費(fèi)了。
是的,在這里,我們就會想到——通信的終極奧義,究竟是什么?
事實(shí)上,早在現(xiàn)代通信理論奠基之際,先賢們就考慮到了這個問題。
1938年,美國哲學(xué)家查爾斯·莫里斯(Charles William Morris)提出了符號論。他指出,符號應(yīng)該包括了語法-語義-語用三元概念。
克勞德·香農(nóng)提出信息論后,和沃倫·韋弗(Warren Weaver)一起對自己的理論和模型進(jìn)行延展完善。他們合著了一本書,名字仍然叫《通信的數(shù)學(xué)理論》。
他們倆當(dāng)時就意識到,語義在通信中的重要性。于是,他們提出了通信的3個級別,即Level A/B/C。
Level A:語法通信,解決技術(shù)問題,即通信符號如何保證正確傳輸;
Level B:語義通信,解決語義問題,即發(fā)送的符號如何傳遞確切的含義;
Level C:語用通信,解決有效性問題,即接收的含義如何以期望的方式影響系統(tǒng)行為。
長期以來,經(jīng)典信息論局限在語法信息傳輸層次,即Level A。也就是說,我們一直在研究怎么把數(shù)據(jù)傳過去。
如今,在傳統(tǒng)通信已經(jīng)進(jìn)入瓶頸的情況下,我們就可以考慮一下——是不是可以在語義通信上,尋找突破點(diǎn)。
█ 語義通信的特點(diǎn)
語義通信(Semantic Communication),是以任務(wù)為主體,“先理解,后傳輸”的通信方式。
它會對原始信號進(jìn)行有選擇的特征提取、壓縮和傳輸,然后再利用語義層面信息進(jìn)行通信。
如果我們把傳統(tǒng)通信看成是形式通信的話,那么,語義通信就是“達(dá)意通信”、“內(nèi)容通信”。
換句話說:“不能傻干活,要多動腦子?!?/p>
通信的真正目的是什么,是讓對方了解自己的意思。說話,只是一種表達(dá)方式。話的本身,也是為了表達(dá)意思。那么,就沒有必要進(jìn)抓著這句話不放,而是看如何更高效地傳達(dá)意思。
從學(xué)術(shù)上來說,降低接收者對信息的不確定性,或者說,使接收到的信息熵減少至0,讓接收者正確理解發(fā)送者的信息內(nèi)容,就是“達(dá)意”通信。
大家平時溝通交流,也會注意到:對于陌生人,你需要千叮嚀萬囑咐,確保自己的意思被理解。而對于你很親近的人,有時候,一個眼神就足夠了。不是嗎?
語義通信和傳統(tǒng)信源編碼的區(qū)別在哪里呢?
傳統(tǒng)信源編碼是對信息本身的壓縮,它尋找數(shù)據(jù)的規(guī)律,通過算法進(jìn)行數(shù)據(jù)精簡。而語義通信,重在“理解和消化”,講究的是“智能”。
█ 語義通信系統(tǒng)的架構(gòu)
語義通信可以顯著降低數(shù)據(jù)流量,提高通信效率。那么,它究竟是如何工作的呢?
語義通信目前還處于早期研究階段,不同的研究團(tuán)隊(duì),有不同的語義通信架構(gòu)設(shè)計。
而且,針對不同類型的通信(文本通信、圖像通信、音視頻通信等),不同目的的通信(是否有特定任務(wù)),也會有不同的語義通信模型和架構(gòu)。
早期的一種模型,是在傳統(tǒng)經(jīng)典通信系統(tǒng)上疊加語義通信。
在發(fā)送端,信源產(chǎn)生的信息首先送入語義提取模塊,產(chǎn)生語義表征序列。接著,送入語義信源編碼器,對語義特征壓縮編碼。然后,送入信道編碼器。最后,進(jìn)入傳輸信道。
在接收端,先信道譯碼,再語義譯碼。得到的語義表征序列,送入語義恢復(fù)與重建模塊,最終得到信源數(shù)據(jù)。
中間那段信道部分,就是傳統(tǒng)經(jīng)典通信來實(shí)現(xiàn)。
另一種現(xiàn)在比較有代表的模型,是信源信道聯(lián)合編碼。這種方式,更有整體性,全盤思考。
大家能看出來,相比傳統(tǒng)通信,語義通信多了一個知識庫。其實(shí),有的模型并沒有知識庫,直接在語義編碼器上硬剛。
更多的系統(tǒng)模型,是基于知識庫的。系統(tǒng)模型的性能和準(zhǔn)確率,高度依賴于知識庫。
知識庫就有點(diǎn)像密碼本。如果兩端的知識庫不一致,那么,語義通信是無法正常工作的。
知識庫又不像密碼本那樣,內(nèi)容固定且形式單一。知識庫由很多的語義知識圖譜組成,分為多個層級,可以對現(xiàn)實(shí)世界中的實(shí)體、概念、屬性以及它們之間的關(guān)系進(jìn)行建模。
基于知識庫,進(jìn)行語義理解,就需要前面我們所說的“智能”。
誰最適合干這個活?當(dāng)然是AI人工智能。
簡單來說,就是讓AI來完成語義理解的工作。語義編碼與譯碼模塊基于海量數(shù)據(jù)訓(xùn)練的知識庫,通過深度學(xué)習(xí)網(wǎng)絡(luò)來擬合語義的特征,可以高效提取與重建語義信息。
這也是為什么,最近十幾年來,語義通信開始重新被提及的原因。
早在1956年,法國物理學(xué)家L.布里淵(L.Brillouin)就指出,經(jīng)典信息論忽略語義通信,是因?yàn)楣こ绦枰ㄒ冉鉀Q基本需求),并不意味著人們要永遠(yuǎn)忽視語義信息。
如今,一方面?zhèn)鹘y(tǒng)信息論遇到瓶頸,另一方面AI人工智能技術(shù)日益成熟,所以,我們重提語義通信的時機(jī)就成熟了。
特別值得一提的是,AI人工智能可以幫助語義通信,反過來,語義通信,也非常適合人工智能的發(fā)展。
大家應(yīng)該能夠理解:同類型主體之間的通信,往往容易簡化。就像人和人之間,通信肯定比人和牛之間簡單。
未來,我們正在朝著智能化的方向發(fā)展,AI人工智能批量應(yīng)用之后,就會有很多的智能體。這些智能體之間,就會有大量的通信需求。而語義通信,本身就是AI在進(jìn)行“翻譯”,對于智能體通信,肯定會有更大的優(yōu)勢。
█ 語義通信面臨的挑戰(zhàn)
語義通信的發(fā)展前景,行業(yè)是一致看好的。但是,想要讓這項(xiàng)技術(shù)投入實(shí)用,真正發(fā)揮價值,并不容易。
首先,語義通信的基礎(chǔ)理論體系,并不完善。
香農(nóng)的信息論,給傳統(tǒng)語法信息奠定了理論基礎(chǔ)。他用一個簡單的對數(shù)公式,就把信息(熵)明確定義出來;用香農(nóng)公式,又把語法通信的信道容量邊界也劃定了。
對于語義通信,還沒有人完成這兩項(xiàng)重要工作。相對于語法通信,語義通信缺失嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)表征,沒有扎實(shí)的理論依據(jù)。
語義通信的信息度量方式,目前也沒有特別明確。
傳統(tǒng)語法通信有誤碼率、丟包率之類的指標(biāo),用于衡量服務(wù)質(zhì)量。語義通信關(guān)注“達(dá)意”,不關(guān)注“精準(zhǔn)傳輸”,所以,這些指標(biāo)都用不了。
在語義通信中,只能會采用宏觀的任務(wù)完成質(zhì)量或語義準(zhǔn)確率,來進(jìn)行系統(tǒng)性能評估。
說到準(zhǔn)確率,這是語義通信的第二個大問題。
以目前現(xiàn)有的技術(shù),即便是用上了AI人工智能,仍然無法做到完美的準(zhǔn)確率。語義的識別與恢復(fù),比想象中難得多。
第三個問題,是適用場景問題。
通信是一件復(fù)雜工作。數(shù)據(jù)是多樣化的,有結(jié)構(gòu)化數(shù)據(jù),也有非結(jié)構(gòu)化數(shù)據(jù)。文字、圖片、音視頻,還有一些特定的通信任務(wù),混在一起,很難借助一個有范圍限制性的知識庫,進(jìn)行語義提取。
例如,我們采用工業(yè)制造場景的知識庫,去進(jìn)行農(nóng)林牧漁場景的語義通信,肯定不行。但是,通信場景的邊界,又該如何精確劃分?
知識庫還涉及到第四個問題,那就是安全問題。
在現(xiàn)實(shí)情況下,如何維持兩份高度一致的知識庫?如果對知識庫進(jìn)行傳遞,會不會泄密?如何保障知識庫不被入侵和擾亂?
總而言之,語義通信面臨的挑戰(zhàn)還有很多。這些還都是理論研究上的問題,將來如果產(chǎn)業(yè)化,問題還會更多。
█ 語義通信的研究進(jìn)展
前面說了,語義通信目前還處于早期研究階段。2010年至今,這個概念的研究熱度是越來越高的。
在國內(nèi),很多高校都進(jìn)行了一些語義通信模型的搭建,并取得了初步進(jìn)展。
最有代表性的,是北郵張平院士及他的團(tuán)隊(duì)。
2022年左右,他們針對6G的智簡演進(jìn)需求,提出了一種新的語義信息表征模型——語義基(Seb)。
語義基是語義信息的基本組織單元,類似于香農(nóng)在傳統(tǒng)信息論體系中的比特(Bit)。它以更為結(jié)構(gòu)化、簡約化、彈性化的方式對信息進(jìn)行組織,為描述涉及網(wǎng)絡(luò)意圖的語義信息提供了新的視角。
他們還提出了面向6G的“一面三層(語義智能平面、語義物理承載層、語義網(wǎng)絡(luò)協(xié)議層、語義應(yīng)用意圖層)”智簡網(wǎng)絡(luò)協(xié)議架構(gòu),為語義通信的研究提供了重要參考。
除了高校之外,部分企業(yè)也參與到語義通信的研究和實(shí)踐中。
以中國移動為例,他們和清華大學(xué)合作,搞了一個面向人臉場景的會話視頻語義傳輸方案,在中移平安鄉(xiāng)村網(wǎng)絡(luò)中進(jìn)行應(yīng)用,效果不錯。
相比于傳統(tǒng)H.264編碼,針對人臉場景,語義通信在相同用戶體驗(yàn)下將碼率降低為10-20%,即降低到3KB也能獲清晰流暢體驗(yàn)。
█ 結(jié)語
總而言之,語義通信技術(shù),擁有巨大的研究潛力。
它是通信系統(tǒng)設(shè)計思想、理念的一次重大變革,很可能徹底顛覆我們現(xiàn)有的信息通信技術(shù)體系。
面向未來,語義通信到底是騾子是馬,就讓時間來告訴我們答案吧。
參考資料:
面向未來的語義通信:基本原理與實(shí)現(xiàn)方法,張平等,《通信學(xué)報》;邁向6G智簡網(wǎng)絡(luò)——基于語義通信的網(wǎng)絡(luò)新范式,張平等,《Engineering》;語義通信:原理與挑戰(zhàn),秦志金等;語義通訊——智能時代的產(chǎn)物,石光明等;面向萬物智聯(lián)的語義通信網(wǎng)絡(luò),石光明等,《物聯(lián)網(wǎng)學(xué)報》;面向6G的語義通信,牛凱等,《移動通信》;基于信息論的語義通信:理論與挑戰(zhàn),施雨軒等,《中興通訊》;面向6G的語義通信系統(tǒng),王碧舳等,《移動通信》;