單芯片的一致多處理

隨著SoC設(shè)計元件的出現(xiàn)，如MIPS32 1004K一致處理系統(tǒng)（CPS），單操作系統(tǒng)條件下的片上對稱多處理（SMP）已經(jīng)成為了一種真正的設(shè)計選擇，而系統(tǒng)架構(gòu)師也需要了解其優(yōu)點和局限性。

任務(wù)越多，越需要并行

復(fù)雜的模塊化多任務(wù)處理嵌入式軟件系統(tǒng)經(jīng)常表現(xiàn)出“偶然發(fā)現(xiàn)的”并發(fā)，如圖1所示。該系統(tǒng)的總?cè)蝿?wù)可能包括多任務(wù)操作，每個操作都有不同的職責(zé)，可滿足一系列不同的輸入需求。如果沒有分時操作系統(tǒng)，這些任務(wù)中的每個都必須在獨立的處理器上運行。在一個分時單處理器（uniprocessor）上，任務(wù)可以在交替的時間片段上運行。在一個采用SMP操作系統(tǒng)的多處理器上，任務(wù)可以并行地在許多可供使用的處理器上運行。

圖1 并行的多任務(wù)處理

分布式處理

另一種形式的并行處理已經(jīng)成為司空見慣的事情，以至于有時甚至不被認(rèn)為是“并行”的，這就是分布式計算，它的網(wǎng)絡(luò)客戶機(jī)/服務(wù)器模型是迄今為止最常見的范例?？蛻魴C(jī)/服務(wù)器編程基本上是一種控制流分解的形式。一個程序任務(wù)將工作請求連接和發(fā)送給系統(tǒng)中的一個或多個專門任務(wù)，該系統(tǒng)被指定執(zhí)行具體的工作，而不是由這個程序任務(wù)本身執(zhí)行所有計算?？蛻魴C(jī)/服務(wù)器編程通常是在LAN和WAN上實現(xiàn)的，SMP SoC內(nèi)的任務(wù)之間的通信也是遵循同一個范例。人們可以利用片上或無效“環(huán)回”網(wǎng)絡(luò)接口通過TCP/IP進(jìn)行未經(jīng)修改的客戶機(jī)/服務(wù)器的二進(jìn)制通信，或者更加有效地利用在存儲器中傳遞數(shù)據(jù)緩存的本地通信協(xié)議。

實際上，此類技術(shù)都可以單獨使用，或者結(jié)合使用，以利用給定應(yīng)用的基于SMP平臺的能力。人們甚至可以構(gòu)建一種分布式SMP服務(wù)器的數(shù)據(jù)并行陣列，其中每個陣列都可以執(zhí)行一條控制流的流水線。但是，為了有效地實現(xiàn)這個方案，可能需要非常大的工作量和數(shù)據(jù)集。

系統(tǒng)軟件的支持非常關(guān)鍵

在有些SoC系統(tǒng)中，有可能實現(xiàn)處理器靜態(tài)物理分解任務(wù)的并行性（例如每個輸入端口有一個處理器內(nèi)核），在這樣的SoC系統(tǒng)中，把并行的多個任務(wù)分配到不同的處理器去處理可以在硬件中完成。這將降低軟件開銷和占位面積，但是不能提供靈活性。

同樣，如果嵌入式應(yīng)用可以被靜態(tài)地分解成客戶端和服務(wù)器端程序，這些程序通過片上互連進(jìn)行通信，那末系統(tǒng)連接所需的唯一的系統(tǒng)軟件就是執(zhí)行處理器間共用協(xié)議的信息傳遞代碼。信息傳遞協(xié)議可提供某些抽象層，可以用來配置更多或更少的處理器來運行共用基礎(chǔ)的應(yīng)用代碼，但是對于任何給定的配置，處理器間的負(fù)載平衡就像硬件分區(qū)一樣無聲無息。為了實現(xiàn)更加靈活的并行系統(tǒng)編程，需要在一個共享資源的多處理器系統(tǒng)上完成軟件分布的任務(wù)。

SMP系統(tǒng)的靈活性和適應(yīng)性

顧名思義，SMP操作系統(tǒng)有一個對系統(tǒng)“對稱”的含義。所有處理器都可以發(fā)現(xiàn)相同的存儲器、相同的I/O器件以及相同的全局操作系統(tǒng)的狀態(tài)。這將使從一個處理器到另一個處理器的程序移植變得極其簡單而有效，如圖2所示的簡單例子，也將使負(fù)載均衡更加容易。無須額外的編程或系統(tǒng)管理，一套采用時間分割的單個CPU上的多任務(wù)程序，將同時運行于一個SMP系統(tǒng)的可用CPU之上。如Linux調(diào)度程序的SMP調(diào)度程序?qū)⒋蜷_和關(guān)閉處理器的程序，一切都以一種公平的方式進(jìn)行。

作為多處理運行的Linux應(yīng)用不必為了發(fā)揮SMP的并行性而進(jìn)行修改。在大多數(shù)情況下，無須重新進(jìn)行編譯；一個例外則是與非線程安全庫靜態(tài)連接的二進(jìn)制碼。

SMP Linux環(huán)境可以提供許多工具，有助于系統(tǒng)設(shè)計人員調(diào)節(jié)可用處理器的任務(wù)共享方式。這些任務(wù)可以讓它們的優(yōu)先級上升和下降，可以由運行在處理器上的任意子集加以限制。利用適當(dāng)核的支持，它們可以請求使用不同的實時調(diào)度狀態(tài)。

類UNIX操作系統(tǒng)總是允許應(yīng)用程序?qū)θ蝿?wù)的相對調(diào)度優(yōu)先級進(jìn)行控制，即使是單處理器分時系統(tǒng)也是這樣。隨著能夠?qū)θ蝿?wù)、任務(wù)組或系統(tǒng)具體用戶的優(yōu)先級進(jìn)行操作的更復(fù)雜機(jī)制的出現(xiàn)，傳統(tǒng)上優(yōu)良的外殼命令（shell command）和系統(tǒng)調(diào)用已經(jīng)增加到Linux當(dāng)中，這對評判該操作系統(tǒng)的優(yōu)劣應(yīng)該是十分必要的。

此外，在多處理器配置方面，所有的Linux任務(wù)都有一個參數(shù)，定義了哪些處理器組（set of processor）可以對任務(wù)進(jìn)行調(diào)度。根據(jù)默認(rèn)，這個參數(shù)存在于系統(tǒng)中的整組處理器當(dāng)中，但是，像優(yōu)先級一樣，這種CPU親合力可以由taskset外殼命令，或者由顯式（explicit system）調(diào)用來操作任務(wù)的“CPU親合力”。

圖2 多處理器資源上的SMP任務(wù)分布

實現(xiàn)SMP

一個SMP系統(tǒng)范例要求所有處理器在同一個地址看到所有的存儲器。對于簡單而低性能的處理器，這不是太難完成的事情。人們只要在一個共用存儲器和I/O總線上放置所有處理器的指令提取和裝載/存儲流量就可以了。隨著總線很快成為了一個性能瓶頸，這個非常簡單的模型利用增加的處理器迅速而漂亮地解決了這個問題。甚至在單處理器系統(tǒng)中，高性能的嵌入式內(nèi)核指令和數(shù)據(jù)的帶寬需求要求在主存儲器及處理器之間使用高速緩存。

采用獨立每個處理器高速緩存的系統(tǒng)不再只是一個自然而然的SMP。當(dāng)一個處理器的高速緩存包含了存儲器中某一位置的最近保持值（most recent value）的唯一備份時，就會出現(xiàn)一種基本而危險的不對稱。系統(tǒng)必須增加高速緩存一致協(xié)議以恢復(fù)這種對稱性。在一個非常簡單的系統(tǒng)中，所有處理器都連接到一條共用總線，它足以使所有高速緩存控制器監(jiān)控總線，以發(fā)現(xiàn)哪個高速緩存擁有給定存儲器位置的最新版本。在更先進(jìn)的系統(tǒng)中，如MIPS32 1004K CPS，處理器與存儲器的連接是采用點對點方式連接一個交換結(jié)構(gòu)，而不是連接到一條總線。因此，高速緩存一致性需要更加復(fù)雜的支持。1004K一致管理器在存儲器處理上加入了一個全局順序（global order），并生成必要的干預(yù)信號，以保持多個1004K處理器內(nèi)核的高速緩存的一致性。

因此，1004K處理器可以看到一個對稱的存儲器。像Linux的SMP操作系統(tǒng)可以自由地遷移任務(wù)并動態(tài)地平衡處理器負(fù)載。

在一個嵌入式SoC中，整個計算的大部分時間可能花在中斷服務(wù)方面。這意味著需要控制良好的負(fù)載均衡和性能調(diào)節(jié)，這不僅有助于控制程序任務(wù)的運行地點，而且還可以控制執(zhí)行中斷服務(wù)的地點。Linux操作系統(tǒng)有一個“IRQ親合力”控制界面，這個界面允許用戶和程序指定哪個處理器用來服務(wù)一個給定的中斷。為了便于使用，這個界面需要底層的系統(tǒng)硬件提供一種方法將中斷有選擇地發(fā)送給處理器。1004K全局中斷控制器為1004K CPS提供了這種能力。

高速緩存一致基礎(chǔ)架構(gòu)非常有用，不僅是在對稱多處理的處理器之間，而且在處理器和I/O DMA通道之間也是如此。雖然如MIPS32的RISC架構(gòu)有支持基于軟件的I/O一致的特性，但還是需要CPU在每個I/O DMA操作之前或之后對DMA緩沖器進(jìn)行處理。該處理功能對I/O密集應(yīng)用的性能有著顯著的影響。在1004K CPS中，通過一個I/O一致單元將I/O DMA連接到存儲器，有助于DMA流量的條理化和與一致裝載/存儲流的整合，從而消除了軟件開銷。

采用管道，得到回報

由于1004K處理器VPE對于軟件來說看起來像成熟的處理器，大到有獨立的中斷輸入，所以，管理多個內(nèi)核的同一個SMP操作系統(tǒng)邏輯可以用來管理其構(gòu)成VPE。在最高水平的系統(tǒng)管理方面，全部VPE功能都在運行的雙核1004K系統(tǒng)是一個4路SMP系統(tǒng)的樣子。為了利用SMP而編寫或配置的軟件能夠自然而然地利用多線程，反之亦然。

雖然系統(tǒng)資源的想法仍然是對稱的，但事實上，雙線程爭用一條處理器流水線將比雙線程運行于獨立的內(nèi)核實現(xiàn)的性能更低。這種情況在服務(wù)器系統(tǒng)中已經(jīng)存在了許多年，其多線程CPU的一致集群十分常見，而1004K的SMP Linux核的配備可以實現(xiàn)必要的負(fù)載平衡的優(yōu)化。如果要優(yōu)化功耗，調(diào)度程序可以每次在一個內(nèi)核的虛擬處理器上加載運行（load work），從而使其他內(nèi)核能夠停留在一種低功耗狀態(tài)。

如果是為了優(yōu)化性能，可以首先在不同的內(nèi)核上展開運行（spread work），一旦所有內(nèi)核都有一個要運行的動態(tài)任務(wù)，只需在每個內(nèi)核上加載多個VPE就可以了。

結(jié)語

片上多處理可以多種方式進(jìn)行開發(fā)，從而實現(xiàn)高性能的SoC。通過輸入數(shù)據(jù)或處理功能，可以實現(xiàn)非常高效的工作靜態(tài)分解，但這也是非常不靈活的。SMP平臺和軟件可以提供一個非常靈活的高性能計算平臺，以實現(xiàn)比單處理器更加顯著的加速，通常這需要很少的甚至不需任何應(yīng)用代碼的修改。多線程是對SMP并行性的最好補(bǔ)充，可以最大限度地利用每個處理器中的流水線資源。MIPS32 1004K一致處理系統(tǒng)在一個單IP塊中整合了MIPS多線程和一致SMP，以提供可擴(kuò)展、高密度的嵌入式計算能力。