背景技術(shù)：

1、本發(fā)明涉及一種計算機化裝置，更具體地，但不排他性地，涉及具有一個以上內(nèi)存組件的計算機化裝置。

2、為簡潔起見，此后術(shù)語“系統(tǒng)”用于指計算機化系統(tǒng)，這些術(shù)語可互換使用。

3、有無數(shù)的度量用于測量計算機化系統(tǒng)的性能，例如吞吐量，即在確定的時間間隔內(nèi)執(zhí)行的任務的量，以及延遲，即任務在執(zhí)行之前被延遲的時間量。提高系統(tǒng)的性能，例如通過提高系統(tǒng)的吞吐量和/或減少系統(tǒng)的延遲，除其它因素外，取決于系統(tǒng)中可用的計算機資源量以及系統(tǒng)的各個組件協(xié)同工作的良好程度。例如，減少訪問內(nèi)存時的延遲和/或增加內(nèi)存訪問的吞吐量，可以提高系統(tǒng)的性能。

4、性能訪問特性相對較高的內(nèi)存組件，例如低延遲內(nèi)存組件或吞吐量高的內(nèi)存組件，例如靜態(tài)ram(static?ram，sram)，通常比性能訪問特性較低的內(nèi)存組件，例如動態(tài)ram(dynamic?ram，dram)更昂貴。通常做法是使用一種以上類型的內(nèi)存組件設(shè)計系統(tǒng)的內(nèi)存，以平衡系統(tǒng)的成本和性能。一些常見的系統(tǒng)設(shè)計將多個內(nèi)存組件組織在多個內(nèi)存層中，其中，小而快的層在更大和較慢的層上方，作為較大層的緩存。在一些設(shè)計中，存在層的層次結(jié)構(gòu)，其中，只有最大層可供軟件程序使用，即可使用軟件程序的應用內(nèi)存地址尋址，并且層次結(jié)構(gòu)中的其它層用作分層緩存。

5、一些其它系統(tǒng)設(shè)計使所有內(nèi)存層都可使用軟件程序的應用內(nèi)存地址尋址。在這種系統(tǒng)中，系統(tǒng)的性能受到軟件程序的應用內(nèi)存在多個內(nèi)存層之間(即在系統(tǒng)的一個或多個內(nèi)存組件之間)的分布影響。當軟件程序的應用內(nèi)存包括多個應用內(nèi)存區(qū)域時，當頻繁訪問的應用內(nèi)存區(qū)域存儲在一個或多個高性能內(nèi)存組件中時，可以提高性能，而較低性能內(nèi)存組件用于存儲訪問不頻繁的應用內(nèi)存區(qū)域。

6、術(shù)語非均勻內(nèi)存訪問(non-uniform?memory?access，numa)是指具有一個以上內(nèi)存組件的計算機化系統(tǒng)，其中，從處理單元到內(nèi)存組件的內(nèi)存訪問的一些特性(例如延遲和/或吞吐量)取決于系統(tǒng)的拓撲，例如內(nèi)存組件相對于處理單元的位置。以類似于上述系統(tǒng)的方式，在具有numa的系統(tǒng)中，系統(tǒng)的性能可能會受到軟件程序的應用內(nèi)存在一個或多個內(nèi)存組件之間的分布影響。

技術(shù)實現(xiàn)思路

1、本發(fā)明包括描述一種用于跟蹤內(nèi)存訪問和管理內(nèi)存的裝置和方法。在本文描述的一些實施例中，一個或多個內(nèi)存跟蹤電路用于響應于從處理單元接收內(nèi)存訪問命令更新多個統(tǒng)計計數(shù)器中的至少一個統(tǒng)計計數(shù)器。此外，在這些實施例中，一個或多個內(nèi)存跟蹤電路用于將多個統(tǒng)計計數(shù)器中的一個或多個提供給內(nèi)存管理組件，以便將軟件程序的應用內(nèi)存映射到連接到處理單元的多個內(nèi)存組件。使用一個或多個內(nèi)存跟蹤電路更新至少一個統(tǒng)計計數(shù)器減少了處理單元跟蹤內(nèi)存訪問和管理軟件程序的應用內(nèi)存分配到多個內(nèi)存組件所需的處理開銷量，從而提高了裝置的性能。

2、上述和其它目的通過獨立權(quán)利要求的特征實現(xiàn)。其它實現(xiàn)方式在從屬權(quán)利要求、說明書和附圖中是顯而易見的。

3、根據(jù)第一方面，提供了一種用于執(zhí)行軟件程序的裝置，所述裝置包括：處理單元；至少一個內(nèi)存組件，每個內(nèi)存組件連接到所述處理單元，并映射到所述處理單元的多個內(nèi)存地址范圍中的至少一個內(nèi)存地址范圍；至少一個內(nèi)存跟蹤電路，連接到所述處理單元和所述至少一個內(nèi)存組件，用于：在多個迭代的每個迭代中，響應于從所述處理單元接收內(nèi)存訪問命令，更新多個統(tǒng)計計數(shù)器中的至少一個統(tǒng)計計數(shù)器；將所述多個統(tǒng)計計數(shù)器中的一個或多個提供給內(nèi)存管理組件，以便將所述軟件程序的應用內(nèi)存映射到所述至少一個內(nèi)存組件。

4、根據(jù)第二方面，提供了一種用于管理用于執(zhí)行一個或多個軟件程序的裝置中的內(nèi)存的方法，所述方法包括：在多個迭代的每個迭代中，響應于從處理單元接收內(nèi)存訪問命令，連接到所述處理單元和至少一個內(nèi)存組件的至少一個內(nèi)存跟蹤電路更新多個統(tǒng)計計數(shù)器中的至少一個統(tǒng)計計數(shù)器，所述至少一個內(nèi)存組件連接到所述處理單元，其中，所述至少一個內(nèi)存組件中的每一個映射到所述處理單元的多個內(nèi)存地址范圍中的至少一個內(nèi)存地址范圍；將所述多個統(tǒng)計計數(shù)器中的一個或多個提供給內(nèi)存管理組件，以便將軟件程序的應用內(nèi)存映射到所述至少一個內(nèi)存組件。

5、根據(jù)第三方面，提供了一種用于內(nèi)存管理的軟件程序產(chǎn)品，所述軟件程序產(chǎn)品包括：非瞬時性計算機可讀存儲介質(zhì)；程序指令，用于：在一個或多個管理迭代的每個管理迭代中，從連接到處理單元和至少一個內(nèi)存組件的至少一個內(nèi)存跟蹤電路接收多個統(tǒng)計計數(shù)器中的一個或多個，以便將軟件程序的應用內(nèi)存映射到所述至少一個內(nèi)存組件，所述至少一個內(nèi)存組件連接到所述處理單元，其中，所述至少一個內(nèi)存組件中的每一個映射到所述處理單元的多個內(nèi)存地址范圍中的至少一個內(nèi)存地址范圍。根據(jù)第三方面，所述程序指令由至少一個計算機化處理器從所述非瞬時性計算機可讀存儲介質(zhì)執(zhí)行。

6、根據(jù)第四方面，提供了一種用于內(nèi)存管理組件的方法，所述方法包括：在一個或多個管理迭代的每個管理迭代中，從連接到處理單元和至少一個內(nèi)存組件的至少一個內(nèi)存跟蹤電路接收多個統(tǒng)計計數(shù)器中的一個或多個，以便將軟件程序的應用內(nèi)存映射到內(nèi)存組件中的至少一個，所述至少一個內(nèi)存組件連接到所述處理單元，其中，所述至少一個內(nèi)存組件中的每一個映射到所述處理單元的多個內(nèi)存地址范圍中的至少一個內(nèi)存地址范圍。

7、根據(jù)第五方面，提供了一種內(nèi)存跟蹤電路，包括多個統(tǒng)計計數(shù)器，所述多個統(tǒng)計計數(shù)器包括：高訪問計數(shù)器；低訪問計數(shù)器；多個范圍訪問計數(shù)器。根據(jù)第五方面，所述內(nèi)存跟蹤電路用于，當連接到處理單元和至少一個內(nèi)存組件時，每個內(nèi)存組件連接到所述處理單元并映射到所述處理單元的多個內(nèi)存地址范圍中的至少一個內(nèi)存地址范圍，并且當所述多個范圍訪問計數(shù)器中的每一個與所述多個內(nèi)存地址范圍中的一個相關(guān)聯(lián)時：在多個迭代的每個迭代中，響應于從所述處理單元接收內(nèi)存訪問命令：標識所述內(nèi)存訪問命令中的內(nèi)存地址；標識所述多個內(nèi)存地址范圍中的內(nèi)存地址范圍，其中，所述內(nèi)存地址范圍包括所述內(nèi)存地址；增加與所述內(nèi)存地址范圍相關(guān)聯(lián)的相應的范圍訪問計數(shù)器；當所述相應的范圍訪問計數(shù)器超過高訪問閾值時，增加所述高訪問計數(shù)器；將所述多個統(tǒng)計計數(shù)器中的一個或多個提供給內(nèi)存管理組件，以便將所述軟件程序的應用內(nèi)存映射到所述至少一個內(nèi)存組件。

8、在第一方面和第二方面的一種實現(xiàn)方式中，所述多個統(tǒng)計計數(shù)器包括以下中的至少一個：至少一個水印計數(shù)器，選自由高訪問計數(shù)器和低訪問計數(shù)器組成的組；多個范圍訪問計數(shù)器，每個范圍訪問計數(shù)器與所述多個內(nèi)存地址范圍中的一個相關(guān)聯(lián)。除了多個范圍訪問計數(shù)器之外，使用至少一個水印計數(shù)器有助于減少對多個范圍訪問計數(shù)器的訪問量，與訪問所有多個范圍訪問計數(shù)器的方法相比，減少內(nèi)存管理所需的計算資源量?？蛇x地，所述多個統(tǒng)計計數(shù)器中的至少一個其它統(tǒng)計計數(shù)器在所述至少一個內(nèi)存跟蹤電路中實現(xiàn)。與在由執(zhí)行軟件程序的處理單元執(zhí)行的操作系統(tǒng)的頁表中實現(xiàn)統(tǒng)計計數(shù)器的方法相比，在內(nèi)存跟蹤電路中實現(xiàn)統(tǒng)計計數(shù)器減少了跟蹤一個或多個內(nèi)存訪問所需的計算資源量?？蛇x地，所述多個統(tǒng)計計數(shù)器中的至少一個又其它統(tǒng)計計數(shù)器在連接到所述至少一個內(nèi)存組件中的一個或多個的緩存內(nèi)存組件中實現(xiàn)。可選地，所述多個統(tǒng)計計數(shù)器中的至少一個附加的其它統(tǒng)計計數(shù)器在所述至少一個內(nèi)存組件中的一個中實現(xiàn)。

9、在第一方面和第二方面的另一種實現(xiàn)方式中，更新所述至少一個統(tǒng)計計數(shù)器包括：標識所述內(nèi)存訪問命令中的內(nèi)存地址；標識所述多個內(nèi)存地址范圍中的內(nèi)存地址范圍，其中，所述內(nèi)存地址范圍包括所述內(nèi)存地址；增加相應的范圍訪問計數(shù)器；當所述相應的范圍訪問計數(shù)器超過高訪問閾值時，增加所述高訪問計數(shù)器。當與內(nèi)存地址范圍相關(guān)聯(lián)的相應的范圍訪問計數(shù)器超過高訪問閾值時，增加高訪問計數(shù)器有助于減少對多個范圍訪問計數(shù)器的訪問量，與訪問所有多個范圍訪問計數(shù)器的方法相比，減少內(nèi)存管理所需的計算資源量?？蛇x地，將所述一個或多個統(tǒng)計計數(shù)器提供給所述內(nèi)存管理組件包括：提供所述至少一個水印計數(shù)器；響應于來自所述內(nèi)存管理組件的請求，提供所述多個范圍訪問計數(shù)器中的至少一個范圍訪問計數(shù)器?？蛇x地，所述內(nèi)存管理組件用于：執(zhí)行包括所述至少一個水印計數(shù)器的另一分析；根據(jù)所述另一分析的另一結(jié)果，向所述至少一個內(nèi)存跟蹤電路發(fā)送請求，以提供所述至少一個范圍訪問計數(shù)器。在一個以上步驟中在執(zhí)行另一分析的情況下，從至少一個內(nèi)存跟蹤電路向內(nèi)存管理組件提供一個或多個統(tǒng)計計數(shù)器，減少了對多個范圍訪問計數(shù)器的訪問量，與訪問所有多個范圍訪問計數(shù)器的方法相比，減少了內(nèi)存管理所需的計算資源量，包括減少處理時間，處理復雜性和對至少一個內(nèi)存跟蹤電路的訪問量?？蛇x地，所述內(nèi)存管理組件還用于在所述至少一個內(nèi)存跟蹤電路中配置所述低訪問閾值和所述高訪問閾值中的至少一個?？蛇x地，根據(jù)包括所述一個或多個統(tǒng)計計數(shù)器的又一分析的又一結(jié)果，所述內(nèi)存管理組件在所述至少一個內(nèi)存跟蹤電路中配置所述低訪問閾值和所述高訪問閾值中的至少一個。配置低訪問閾值和/或高訪問閾值提高了高訪問計數(shù)器和低訪問計數(shù)器的準確性，提高了根據(jù)一個或多個統(tǒng)計計數(shù)器計算的內(nèi)存映射的準確性。

10、在第一方面和第二方面的另一種實現(xiàn)方式中，所述至少一個內(nèi)存跟蹤電路用于更新所述至少一個統(tǒng)計計數(shù)器，并用于在所述處理單元執(zhí)行所述軟件程序時提供所述多個統(tǒng)計計數(shù)器中的一個或多個。在處理單元執(zhí)行軟件程序時，更新至少一個統(tǒng)計計數(shù)器并提供一個或多個統(tǒng)計計數(shù)器有助于軟件程序的應用內(nèi)存的內(nèi)存映射的運行時修改，從而在執(zhí)行軟件程序時提高系統(tǒng)性能。

11、在第一方面和第二方面的另一種實現(xiàn)方式中，所述至少一個內(nèi)存跟蹤電路包括多個本地跟蹤電路?？蛇x地，所述多個本地跟蹤電路中的每一個連接到所述處理單元和所述至少一個內(nèi)存組件中的一個或多個內(nèi)存組件；當與連接到所述本地跟蹤電路的所述一個或多個內(nèi)存組件相關(guān)聯(lián)的所述多個內(nèi)存地址范圍中的至少一個內(nèi)存地址范圍包括作為內(nèi)存地址命令中的內(nèi)存地址的本地內(nèi)存地址時，所述多個本地跟蹤電路中的每個本地跟蹤電路響應于接收所述內(nèi)存訪問命令更新所述至少一個統(tǒng)計計數(shù)器。使用多個本地跟蹤電路提高了本文描述的方法在其中至少一個內(nèi)存組件在拓撲上彼此遠離的系統(tǒng)中的可用性。

12、在第一方面和第二方面的另一種實現(xiàn)方式中，所述軟件程序的應用內(nèi)存包括多個應用內(nèi)存區(qū)域，每個應用內(nèi)存區(qū)域存儲在所述至少一個內(nèi)存組件中的一個中；所述內(nèi)存管理組件對所述應用內(nèi)存的映射包括：執(zhí)行包括所述一個或多個統(tǒng)計計數(shù)器的分析；響應于所述分析的結(jié)果，將所述多個應用內(nèi)存區(qū)域中的至少一個應用內(nèi)存區(qū)域從所述至少一個內(nèi)存組件中的一個移動到所述至少一個內(nèi)存組件中的另一個?？蛇x地，在所述處理單元執(zhí)行所述軟件程序時，內(nèi)存映射組件映射所述應用內(nèi)存。在處理單元執(zhí)行軟件程序時，將應用內(nèi)存區(qū)域從一個內(nèi)存組件移動到另一個內(nèi)存組件，有助于減少在執(zhí)行軟件程序時執(zhí)行的多個內(nèi)存訪問的總延遲量和/或增加多個內(nèi)存訪問的總帶寬，提高執(zhí)行軟件程序的裝置的性能。執(zhí)行包括一個或多個統(tǒng)計計數(shù)器的分析增加了分析結(jié)果的準確性，使得與選擇不包括在處理單元執(zhí)行軟件程序時收集的一個或多個統(tǒng)計計數(shù)器的內(nèi)存區(qū)域的其它方法相比，例如，使用軟件程序的靜態(tài)分析的方法，根據(jù)分析結(jié)果移動至少一個應用內(nèi)存區(qū)域提高了執(zhí)行軟件程序的裝置的性能。

13、在第一方面和第二方面的另一種實現(xiàn)方式中，所述至少一個內(nèi)存跟蹤電路還用于：在一個或多個管理迭代的每個管理迭代中：執(zhí)行所述多個迭代，包括更新所述至少一個統(tǒng)計計數(shù)器；將所述一個或多個統(tǒng)計計數(shù)器提供給所述內(nèi)存管理組件；重置所述多個統(tǒng)計計數(shù)器中的一個或多個其它統(tǒng)計計數(shù)器。

14、在第一方面和第二方面的另一種實現(xiàn)方式中，所述內(nèi)存管理組件包括由所述處理單元執(zhí)行的軟件對象?？蛇x地，所述內(nèi)存管理組件包括連接到所述至少一個內(nèi)存跟蹤電路和所述至少一個內(nèi)存組件的內(nèi)存管理電路。使用內(nèi)存管理電路減少了內(nèi)存管理所需的處理單元的計算資源量，降低了內(nèi)存管理對執(zhí)行軟件程序的裝置性能的影響。

15、在第一方面和第二方面的另一種實現(xiàn)方式中，所述處理單元用于執(zhí)行操作系統(tǒng)?？蛇x地，所述操作系統(tǒng)使用多個操作系統(tǒng)內(nèi)存頁尋址所述至少一個內(nèi)存組件，每個操作系統(tǒng)內(nèi)存頁具有標識的頁大小集合中的一個頁大??；所述多個內(nèi)存地址范圍中的至少一個標識的內(nèi)存地址范圍具有不等于所述頁大小集合中的任何一個頁大小的范圍大小。跟蹤范圍大小不等于操作系統(tǒng)的頁大小集合中的任何一個頁大小的內(nèi)存地址范圍提高了對一個或多個統(tǒng)計計數(shù)器的分析的準確性，從而提高了執(zhí)行軟件程序的裝置的性能。

16、在第四方面的一種實現(xiàn)方式中，所述多個統(tǒng)計計數(shù)器包括高訪問計數(shù)器、低訪問計數(shù)器和多個范圍訪問計數(shù)器中的至少一個，每個范圍訪問計數(shù)器與所述多個內(nèi)存地址范圍中的一個相關(guān)聯(lián)?？蛇x地，接收所述一個或多個統(tǒng)計計數(shù)器包括接收所述高訪問計數(shù)器和所述低訪問計數(shù)器中的至少一個?？蛇x地，所述方法還包括：執(zhí)行包括所述低訪問計數(shù)器和所述高訪問計數(shù)器中的至少一個的分析；根據(jù)所述另一分析的結(jié)果，向所述至少一個內(nèi)存跟蹤電路發(fā)送請求，以提供所述至少一個范圍訪問計數(shù)器。

17、在研究下文附圖和詳細描述之后，本發(fā)明的其它系統(tǒng)、方法、特征和優(yōu)點對于本領(lǐng)域技術(shù)人員來說是或變得顯而易見的。希望所有這些其它系統(tǒng)、方法、特征和優(yōu)點包括在本說明書中，在本發(fā)明的范圍內(nèi)，并且受所附權(quán)利要求的保護。

18、除非另有定義，否則本文中使用的所有技術(shù)和/或科學術(shù)語具有與實現(xiàn)方式所屬領(lǐng)域普通技術(shù)人員公知的含義相同的含義。雖然與本文描述的方法和材料類似或等效的方法和材料可以用于實現(xiàn)方式的實踐或測試，但下文描述了示例性方法和/或材料。如有沖突，以本專利說明書(包括定義)為準。此外，這些材料、方法和示例僅是說明性的，并不一定具有限制性。