專利名稱：高速緩存發(fā)往應(yīng)用服務(wù)器的客戶機請求的系統(tǒng)和方法
技術(shù)領(lǐng)域：
本發(fā)明通常涉及電子計算機以及數(shù)字處理系統(tǒng)，并且更具體地 說，涉及基于應(yīng)用服務(wù)器的可靠性而在客戶機和服務(wù)器間進行的多計 算機數(shù)據(jù)傳送。
背景技術(shù)：
如圖1的例子中所示，利用分層體系結(jié)構(gòu)來部署Web應(yīng)用。分 層體系結(jié)構(gòu)100包括在此被示為服務(wù)器120、 125和130的應(yīng)用服務(wù)器 以及Web服務(wù)器115。 Web服務(wù)器115(通常也被稱為"代理服務(wù)器，，) 充當(dāng)應(yīng)用服務(wù)器120、 125和130與互聯(lián)網(wǎng)110之間的媒介。Web服 務(wù)器115經(jīng)由高速通信鏈路140連接到應(yīng)用服務(wù)器120、 125和130。 客戶機105經(jīng)由互聯(lián)網(wǎng)110和Web服務(wù)器115訪問在應(yīng)用服務(wù)器120 、 125和130上運行的Web應(yīng)用。分層體系結(jié)構(gòu)對在應(yīng)用服務(wù)器上運行Web應(yīng)用的客戶機而言是 透明的。從客戶機的觀點看，Web應(yīng)用看來像是在Web服務(wù)器上而 不是應(yīng)用服務(wù)器上運行。分層體系結(jié)構(gòu)提供了比允許直接從互聯(lián)網(wǎng)訪 問應(yīng)用的體系結(jié)構(gòu)更多的優(yōu)點。例如，Web服務(wù)器可以充當(dāng)安全網(wǎng)關(guān) 以限制對應(yīng)用服務(wù)器的訪問，并且能跨越應(yīng)用服務(wù)器分配客戶機請求 以便在每一應(yīng)用服務(wù)器之間平衡負栽。但是，在Web服務(wù)器和應(yīng)用服務(wù)器間的通信鏈路會發(fā)生故障， 諸如應(yīng)用服務(wù)器的電源故障、網(wǎng)絡(luò)故障或停機。兩種故障模式會影響 到客戶機通過Web服務(wù)器訪問應(yīng)用。當(dāng)在從客戶機中部分地讀取數(shù)據(jù) 之后Web服務(wù)器和應(yīng)用服務(wù)器間的連接出現(xiàn)故障時，會發(fā)生第 一故障 模式。當(dāng)在將數(shù)據(jù)部分地寫入客戶機之后Web服務(wù)器和應(yīng)用服務(wù)器間
的連接出現(xiàn)故障時，會發(fā)生第二故障模式。在任一情況下，都會中斷 客戶機請求和應(yīng)用服務(wù)器的響應(yīng)。當(dāng)在處理客戶機請求的同時第一應(yīng)用服務(wù)器出現(xiàn)故障時，不應(yīng)當(dāng) 影響懸而未決的客戶機請求，這是因為，懸而未決的客戶機請求應(yīng)當(dāng) 故障轉(zhuǎn)移到應(yīng)當(dāng)以與第一服務(wù)器相同的方式響應(yīng)該請求的笫二服務(wù)器。故障轉(zhuǎn)移過程對客戶機而言應(yīng)當(dāng)是透明的。在Web服務(wù)器上使用 自動管理器以便執(zhí)行故障轉(zhuǎn)移功能在本領(lǐng)域中是^^知的。自動管理器 高速緩存用于故障轉(zhuǎn)移功能的會話信息。高速緩存能包含所有客戶機 請求和應(yīng)用響應(yīng)的拷貝。當(dāng)在客戶機會話期間第一應(yīng)用服務(wù)器發(fā)生故 障時，自動管理器使用該高速緩存來在第二服務(wù)器上恢復(fù)會話。在像 未發(fā)生故障的情況下第一應(yīng)用服務(wù)器如何做出響應(yīng)那樣以相同的方式 做出響應(yīng)的第二服務(wù)器上，重復(fù)被中斷的請求或響應(yīng)的傳輸。自動管理器在Web服務(wù)器上執(zhí)行許多其他功能，其中包括將 所有客戶機會話指定到特定應(yīng)用服務(wù)器，監(jiān)視會話和服務(wù)器狀態(tài)，收 集服務(wù)器性能的統(tǒng)計信息，以及對所有應(yīng)用服務(wù)器上的會話進行負載 平衡。執(zhí)行這些功能的自動管理器的一個例子是來自IBM的企業(yè)工作 負載管理(Enterprise Workload Management)代理("eWLM，，)。通過高速緩存經(jīng)過Web服務(wù)器的所有請求和響應(yīng)，提高了Web 應(yīng)用的高可用性。然而，對每一客戶機請求和服務(wù)器響應(yīng)進行高速緩 存會耗費永久和易失性存儲器、處理器時間和帶寬。本領(lǐng)域中已知的 一種改進是僅僅高速緩存客戶機請求以及應(yīng)用服務(wù)器響應(yīng)的狀態(tài)。在 這種情況下，如果應(yīng)用服務(wù)器發(fā)生故障，則故障轉(zhuǎn)移服務(wù)器能獲知發(fā) 生故障的服務(wù)器在何處停止。但是，高速緩存客戶機請求和應(yīng)用服務(wù) 器響應(yīng)狀態(tài)會耗費資源。高的可用性和資源利用還能夠通過將客戶機請求高速緩存到歷 史上不可靠的應(yīng)用服務(wù)器而不是將客戶機請求高速緩存到歷史上可靠 的應(yīng)用服務(wù)器來加以改進。需要確定應(yīng)用服務(wù)器的可靠性，以及基于 應(yīng)用服務(wù)器的可靠性指定用于高速緩存客戶機請求的資源。根據(jù)對本發(fā)明的優(yōu)選實施例的下述詳細描述，本發(fā)明的這些和其
他目的對于本領(lǐng)域的技術(shù)人員來說將會是顯然的。 發(fā)明內(nèi)容智能速緩存工具(Intelligent Caching Tool)使用預(yù)測模型來確 定哪些應(yīng)用服務(wù)器是不可靠的，要求經(jīng)高速緩存的客戶機請求。智能 高速緩存工具收集應(yīng)用服務(wù)器的可靠性統(tǒng)計信息，并且使用該可靠性 統(tǒng)計信息構(gòu)建隱馬爾可夫模型(Hidden Markov Model)。使用該隱 馬爾可夫模型，智能高速緩存工具計算用于該應(yīng)用服務(wù)器的可靠性指 數(shù)。在設(shè)置了用戶定義的可靠性閾值后，當(dāng)可靠性指數(shù)低于可靠性閾 值時，智能高速緩存工具高速緩存所有客戶機請求和應(yīng)用服務(wù)器的響應(yīng)狀態(tài)o智能高速緩存工具的一個實施例基于應(yīng)用服務(wù)器的可靠性，按比 例增減分配高速緩存空間。在該實施例中，無高速緩存用于高可靠性 的應(yīng)用服務(wù)器。對低可靠性的應(yīng)用服務(wù)器而言，高速緩存所有客戶機 請求和應(yīng)用服務(wù)器的響應(yīng)狀態(tài)?；诳煽啃灾笖?shù)，為部分可靠的應(yīng)用服務(wù)器分配可變數(shù)量的高速緩存空間。使用FIFO ("先入先出")方 法來從已經(jīng)達到所分配的大小限制的高速緩存中移除最老請求。在所 有情況下， 一旦終止了客戶機/服務(wù)器會話，就從高速緩存中刪除與所 終止的會話有關(guān)的所有請求。對于涉及流式媒體的客戶機/服務(wù)器會話，存在一種特殊情形， 其也被稱為"可重放的高速緩存"。 一旦媒體流開始了，就不再需要經(jīng) 高速緩存的客戶機請求了 ，即使客戶機/服務(wù)器會話仍然有效也是如 此。智能高速緩存工具識別在其之后可刪除會話中的先前高速緩存的 客戶機請求的"提交點"或其他操作邊界。操作邊界可以包括特定命令 或事件，諸如開始媒體流下載或傳送l兆字節(jié)的數(shù)據(jù)。


在所附權(quán)利要求中闡述了被認為是本發(fā)明特性的新穎特征。然 而，本發(fā)明本身、以及優(yōu)選使用模式、其進一步的目的和優(yōu)點在結(jié)合
其中圖l是用于Web應(yīng)用的示例性分層體系結(jié)構(gòu)；圖2是示例性計算機網(wǎng)絡(luò)；圖3描述了計算機上的存儲器中的程序和文件;圖4是配置部件的流程圖；圖5是HMM分析器的流程圖；圖6是請求高速緩存部件的流程圖；以及圖7是高速緩存監(jiān)視部件的流程圖。
具體實施方式
本發(fā)明的原理可應(yīng)用于各種計算機硬件和軟件配置。術(shù)語"計算 機硬件"或"硬件"，如在此所使用的，是指能接受數(shù)據(jù)、對數(shù)據(jù)執(zhí)行邏 輯操作、存儲或顯示數(shù)據(jù)并且包括但不局限于處理器和存儲器的任何 機器或裝置；術(shù)語"計算機軟件"或"軟件"是指可操作用來使計算機硬 件執(zhí)行操作的任何指令集。"計算機"如在此所使用的，包括但不局限 于硬件和軟件的任何有用組合，而且"計算機程序，，或"程序"包括但不 局限于可操作用來使計算機硬件接受數(shù)據(jù)、對數(shù)據(jù)執(zhí)行邏輯操作、存 儲或顯示數(shù)據(jù)的任何軟件。計算機程序可以是并且通常是由多個更小 編程單元組成的，其中包括但不局限于子例程、模塊、函數(shù)、方法和 過程。因此，本發(fā)明的功能可以分布在多個計算機和計算機程序中。 然而，最好是將本發(fā)明描述為配置和允許一個或多個通用計算機實現(xiàn) 本發(fā)明的新穎方面的單個計算機程序。為了示例說明的目的，將本發(fā) 明的計算機程序稱為"智能高速緩存工具"。另外，以下參考如圖2所示的示例性硬件設(shè)備網(wǎng)絡(luò)來描述智能高 速緩存工具。"網(wǎng)絡(luò)"包括通過通信介質(zhì)、諸如互聯(lián)網(wǎng)彼此耦合和通信 的任意多個硬件設(shè)備。"通信介質(zhì)"包括但不局限于任何物理、光學(xué)、 電磁或其他介質(zhì)，通過它們，硬件或軟件能傳送數(shù)據(jù)。為了描述目的， 示例性網(wǎng)絡(luò)200僅具有有限數(shù)目的節(jié)點，其中包括工作站計算機205、
工作站計算機210、服務(wù)器計算機215以及永久存儲設(shè)備220。網(wǎng)絡(luò)連 接225包括為允許網(wǎng)絡(luò)節(jié)點205-220間的通信所需的所有硬件、軟件 和通信介質(zhì)。除非在下文中指出，否則所有網(wǎng)絡(luò)節(jié)點使用公眾可獲得 的協(xié)議或消息傳送服務(wù)通過網(wǎng)絡(luò)連接225彼此進行通信。智能高速緩存工具300通常存儲在存儲器中，該存儲器被示意性 地表示為圖3中的存儲器320。術(shù)語"存儲器"，如在此所使用的，包 括但不局限于任何易失性或永久介質(zhì)，諸如電路、磁盤或光盤，在存 儲器中計算機能存儲數(shù)據(jù)或軟件達任意持續(xù)時間。單個存儲器可以包 含多個媒介并且可以在其上分布。另外，智能高速緩存工具300可以 駐留在分布在不同計算機、服務(wù)器、邏輯區(qū)或其他硬件設(shè)備上的不只 一個的存儲器中。在存儲器320中所述的元件可以按照任意組合位于 分離的存儲器中或分布在其上，并且智能高速緩存工具300可以用來 通過分布式元件識別、定位和存取任何元件和協(xié)調(diào)動作(如果有的話)。 因此，圖3僅被包括為描述性手段，并且不一定反映存儲器320的任 何特定物理實施例。然而，如圖3中所述，存儲器320可以包括另外 的數(shù)據(jù)和程序。對智能高速緩存工具300來說特別重要的是，存儲器 320可以包括自動管理器330、服務(wù)器性能統(tǒng)計文件340、配置文件350、 高速緩存360和與智能高速緩存工具300交互的Web應(yīng)用370。高速 緩存360能夠是保存到盤(盤高速緩存)上的文件，或者能夠是易失 性存儲器中的高速緩存。智能高速緩存工具300具有四個部件配置 文件400、 HMM分析器500、請求高速緩存部件600和高速緩存監(jiān)視 器700。在優(yōu)選實施例中，智能高速緩存工具300運行在如圖1所示 與應(yīng)用服務(wù)器120、 125和130通信的、分層體系結(jié)構(gòu)lOO中的Web 服務(wù)器115上。HMM分析器500使用隱馬爾可夫模型來預(yù)測分層體 系結(jié)構(gòu)100中的應(yīng)用服務(wù)器120、 125和130的可靠性。如圖4所示，當(dāng)被Web服務(wù)器的系統(tǒng)管理員或其他用戶啟動時， 配置部件400開始操作(410 )。配置部件400打開配置文件350( 412 )， 并且顯示當(dāng)前設(shè)定值以及改變提示(414)。提示可以包括諸如單選按 鈕、滾動列表或下拉菜單之類的顯示方法。如果用戶選擇改變HMM
間隔(416 )，則配置部件400讀取新的設(shè)定值并且將該設(shè)定值保存到 配置文件350中(418 ) 。 HMM間隔設(shè)置HMM分析器500計算每一 應(yīng)用服務(wù)器的可靠性指數(shù)的頻率。作為選擇，能基于特定事件或命令, 可編程地設(shè)置HMM間隔，而不是設(shè)置規(guī)則的間隔。如果用戶選擇改 變高速緩存類型(420)，則配置部件400讀取該選擇，并且提示用戶 設(shè)置可靠性閾值(422)。用戶能選擇簡單或可變高速緩存類型。簡單高速緩存類型對用于 具有低于上限可靠性閾值的可靠性指數(shù)的應(yīng)用服務(wù)器上的有效會話的 所有客戶機請求和應(yīng)用服務(wù)器響應(yīng)狀態(tài)指示符進行高速緩存。對簡單高速緩存類型，僅設(shè)置上限可靠性閾值?？勺兏咚倬彺骖愋突诳煽?性指數(shù)，為部分可靠的應(yīng)用服務(wù)器分配可變數(shù)量的高速緩存。對可變 高速緩存類型，設(shè)置上限可靠性閾值和下限可靠性閾值。當(dāng)使用可變 高速緩存類型時，具有比下限可靠性閾值低的可靠性指數(shù)的應(yīng)用服務(wù) 器將高速緩存用于有效會話的所有客戶機請求和應(yīng)用服務(wù)器應(yīng)答狀態(tài) 指示符。為具有在下限可靠性閾值和上限可靠性閾值之間的可靠性指 數(shù)的應(yīng)用服務(wù)器，預(yù)留可變數(shù)量的高速緩存。對任何一種高速緩存類 型而言，沒有高速緩存用于具有高于上限可靠性閾值的可靠性指數(shù)的 應(yīng)用服務(wù)器。配置部件400讀取高速緩存類型和可靠性閾值，并且將它們保存 到配置文件350中(424)。如果用戶選擇了可變高速緩存類型(426)， 那么用戶必須也設(shè)置用于部分可靠的應(yīng)用服務(wù)器的高速緩存大小限制 (428 )。配置部件400讀取高速緩存大小限制并且將它們保存到配置 文件350中(430)。如果用戶想改變用于流式媒體會話的提交點設(shè)定 值(432),那么配置文件400讀取設(shè)定值變化并且將它們保存到配置 文件350中(434)。如果用戶沒有進行更多改變(436)，則配置部 件400停止操作(438 )。HMM分析器500，如圖5所示，按照配置文件350中所指定的 規(guī)則間隔開始操作(510 ) 。 HMM分析器500訪問服務(wù)器性能統(tǒng)計文 件340 (512)，并且構(gòu)建有關(guān)用于每一應(yīng)用服務(wù)器的可靠性的隱馬爾
可夫模型(HMM) (514)。通過自動管理器330，生成服務(wù)器性能 統(tǒng)計文件340，作為自動管理器330的監(jiān)視、分析和事件記錄功能的 常規(guī)部分。隱馬爾可夫模型是本領(lǐng)域已知的統(tǒng)計建模方法，其觀察已 知參數(shù)來預(yù)測未知參數(shù)。HMM是唯一的，因為所計算的從第一狀態(tài) 變到第二狀態(tài)的概率與導(dǎo)致第二狀態(tài)的轉(zhuǎn)變歷史無關(guān)。在智能高速緩 存工具300中，HMM分析基于諸如請求數(shù)目、請求大小和異常消息 之類的因素，預(yù)測服務(wù)器將發(fā)生故障的概率。另外，HMM分析器500 適于用來基于已知的風(fēng)險因素，諸如識別到正在熱運行的服務(wù)器或使 用接近它的預(yù)期壽命的硬盤驅(qū)動器的服務(wù)器，而適應(yīng)于預(yù)測的故障。 HMM分析器500基于HMM分析，計算用于每一應(yīng)用服務(wù)器的可靠 性指數(shù)(516) 。 HMM分析器500訪問配置文件350，并且讀取用于 每一應(yīng)用服務(wù)器的可靠性閾值以及高速緩存大小限制(518) 。 HMM 分析器500使用可靠性指數(shù)、可靠性閾值(一個和多個)和高速緩存 大小限制，設(shè)置用于每一服務(wù)器的高速緩存簡檔(profile) (520)。 對于給定應(yīng)用服務(wù)器的高速緩存簡檔而言，存在三種可能性。如果服 務(wù)器可靠性指數(shù)高于上限可靠性閾值，則不使用高速緩存。如果服務(wù) 器可靠性指數(shù)低于上限可靠性閾值(或者在可變高速緩存類型的情況 下低于下限可靠性閾值)，則服務(wù)器能使用為高速緩存用于所有有效 會話的所有客戶機請求和應(yīng)用服務(wù)器響應(yīng)狀態(tài)指示符所需那樣多的高 速緩存。如果在可變高速緩存類型的情況下服務(wù)器可靠性指數(shù)在上限 可靠性閾值和下限可靠性閾值之間，那么基于高速緩存大小限制和可 靠性指數(shù)，分配可變數(shù)量的高速緩存。高速緩存分配可以是例如應(yīng)用 服務(wù)器可靠性指數(shù)的反線性函數(shù)，以便不超出高速緩存大小限制。 HMM分析器500將用于每一應(yīng)用服務(wù)器的高速緩存簡檔保存到配置 文件350中(522 )，并停止操作(524 )。圖6示出了每當(dāng)在Web服務(wù)器115上接收到客戶機請求并將其 轉(zhuǎn)發(fā)到在應(yīng)用服務(wù)器120、125或130中的一個上運行的Web應(yīng)用370 時，請求高速緩存部件600開始操作(610)。請求高速緩存部件600 從客戶機請求中讀取目標(biāo)應(yīng)用服務(wù)器，并且從配置文件350中讀取高
速緩存簡檔(612 )。請求高速緩存部件600使用高速緩存簡檔來確定 是否需要高速緩存該請求(614)。如果高速緩存簡檔表明沒有高速緩 存用于目標(biāo)應(yīng)用服務(wù)器，那么請求高速緩存部件600停止操作(632 )。 如果有高速緩存用于目標(biāo)服務(wù)器，那么將客戶機請求保存到高速緩存 360 (616)。請求高速緩存部件600確定目標(biāo)應(yīng)用服務(wù)器是否響應(yīng)該 客戶機請求(618)。如果目標(biāo)應(yīng)用服務(wù)器不響應(yīng)，則請求高速緩存部 件600將"無響應(yīng)"狀態(tài)指示符保存到高速緩存360 (620)，并停止操 作(632)。如果目標(biāo)服務(wù)器應(yīng)用做出響應(yīng)，則請求高速緩存部件600 確定該響應(yīng)是否結(jié)束客戶機/服務(wù)器會話(622 )。如果該響應(yīng)結(jié)束該 客戶機/服務(wù)器會話，則請求高速緩存部件600從高速緩存360中刪除 用于該客戶機/服務(wù)器會話的所有請求和響應(yīng)狀態(tài)指示符(630)，并 停止操作(632)。如果響應(yīng)不結(jié)束客戶機/服務(wù)器會話，則請求高速 緩存部件600將用于該響應(yīng)的響應(yīng)狀態(tài)指示符保存在高速緩存360中(624)。在保存了該響應(yīng)狀態(tài)指示符后，請求高速緩存部件600確定 響應(yīng)是否包括流式媒體(626)。如果響應(yīng)不包括流式媒體，則請求高 速緩存部件600停止操作(632)。如果響應(yīng)包括流式媒體，則請求高 速緩存部件600確定是否已經(jīng)到達了配置文件350中所定義的提交點(628)。如果還未到達提交點，則請求高速緩存部件600停止操作(632)。如果已經(jīng)到達了提交點，則請求高速緩存部件600從高速緩 存360中刪除用于該客戶機/服務(wù)器會話的所有請求和響應(yīng)狀態(tài)指示符(630 )，并停止操作(632 )。如圖7所示，每當(dāng)配置部件400指定可變高速緩存的使用時，高 速緩存監(jiān)視部件700就開始操作。高速緩存監(jiān)視部件700確定高速緩 存360的當(dāng)前大小(712)，并且從配置文件350中的高速緩存簡檔讀 取高速緩存大小限制(714 )。高速緩存監(jiān)視部件700將高速緩存大小 與高速緩存限制進行比較(716 )。如果高速緩存大小超出了高速緩存 限制，則高速緩存監(jiān)視部件700從高速緩存360中刪除最老的請求和 響應(yīng)狀態(tài)指示符(718)。只要配置文件350在高速緩存簡檔中表明使 用可變高速緩存(720)，高速緩存監(jiān)視部件700就重復(fù)步驟712-720。 每當(dāng)配置文件350停止表明使用可變高速緩存時，高速緩存監(jiān)視部件 700就停止操作(722 )。在附圖中已經(jīng)示出了并且以上也已經(jīng)描述了本發(fā)明的優(yōu)選形式， 但是對于本領(lǐng)域的技術(shù)人員來說，優(yōu)選形式的變體將會是顯而易見的。 前述說明僅僅用于示例目的，并且本發(fā)明不應(yīng)當(dāng)被解釋為局限于所示 和所述的具體形式。本發(fā)明的范圍應(yīng)當(dāng)僅受下述權(quán)利要求的語言限制。
權(quán)利要求
1.一種計算機實現(xiàn)的方法，用于基于應(yīng)用服務(wù)器的預(yù)測可靠性高速緩存客戶機請求，該計算機實現(xiàn)的方法包括收集該應(yīng)用服務(wù)器的可靠性統(tǒng)計信息；使用該可靠性統(tǒng)計信息，構(gòu)建隱馬爾可夫模型；計算用于該應(yīng)用服務(wù)器的可靠性指數(shù)；設(shè)置上限可靠性閾值；以及如果可靠性指數(shù)低于上限可靠性閾值，則將所有客戶機請求和應(yīng)用服務(wù)器的響應(yīng)狀態(tài)保存到高速緩存中。
2. 如權(quán)利要求1所述的計算機實現(xiàn)的方法，進一步包括如果 應(yīng)用服務(wù)器發(fā)生故障，則使用該高速緩存來故障轉(zhuǎn)移客戶機/服務(wù)器會 話。
3. 如權(quán)利要求1所述的計算機實現(xiàn)的方法，進一步包括 一旦 客戶機/服務(wù)器會話結(jié)束，就從高速緩存中刪除用于該客戶機/服務(wù)器 會話的客戶機請求和應(yīng)用服務(wù)器的響應(yīng)狀態(tài)。
4. 如權(quán)利要求1所述的計算機實現(xiàn)的方法，進一步包括當(dāng)應(yīng) 用服務(wù)器響應(yīng)包括流式媒體時，識別至少一個提交點，并且一旦到達 了該至少一個提交點，就從高速緩存中刪除用于客戶機/服務(wù)器會話的 客戶機請求和應(yīng)用服務(wù)器的響應(yīng)狀態(tài)。
5. 如權(quán)利要求l所述的計算機實現(xiàn)的方法，進一步包括 設(shè)置下限可靠性閾值；以及設(shè)置具有在上限可靠性閾值和下限可靠性閾值間的可靠性指數(shù) 的應(yīng)用服務(wù)器的高速緩存的高速緩存大小限制。
6. 如權(quán)利要求5所述的計算機實現(xiàn)的方法，進一步包括當(dāng)高 速緩存大小超出了高速緩存大小限制時，從高速緩存中刪除最老的客 戶機請求和應(yīng)用服務(wù)器的響應(yīng)狀態(tài)。
7. 如權(quán)利要求1所述的計算機實現(xiàn)的方法，其中，可靠性指數(shù) 計算包括基于已知風(fēng)險因素的預(yù)測故障。
8. —種用于根據(jù)應(yīng)用服務(wù)器的預(yù)測可靠性高速緩存客戶機請求 的裝置，該裝置包括處理器；連接到該處理器的存儲器； 在可由遠程客戶機訪問的存儲器中運行的應(yīng)用； 存儲器中的智能高速緩存工具程序，可操作用于收集該應(yīng)用服 務(wù)器的可靠性統(tǒng)計信息；使用該可靠性統(tǒng)計信息，構(gòu)建隱馬爾可夫模 型；計算用于該應(yīng)用服務(wù)器的可靠性指數(shù)；設(shè)置上限可靠性閾值；以 及，如果可靠性指數(shù)低于上限可靠性閾值，則將所有客戶機請求和應(yīng) 用服務(wù)器的響應(yīng)狀態(tài)保存到高速緩存中。
9. 如權(quán)利要求8所述的裝置，其中，存儲器中的智能高速緩存 工具程序可進一步操作用來如果應(yīng)用服務(wù)器發(fā)生故障，則使用該高 速緩存來故障轉(zhuǎn)移客戶機/服務(wù)器會話。
10. 如權(quán)利要求8所述的裝置，其中，存儲器中的智能高速緩存 工具程序可進一步操作用來 一旦客戶機/服務(wù)器會話結(jié)束，就從高速 緩存中刪除用于客戶機/服務(wù)器會話的客戶機請求和應(yīng)用服務(wù)器的響 應(yīng)狀態(tài)。
11. 如權(quán)利要求8所述的裝置，其中，存儲器中的智能高速緩存 工具程序可進一步操作用來當(dāng)應(yīng)用服務(wù)器響應(yīng)包括流式媒體時，識 別至少一個提交點，并且一旦到達了該至少一個提交點，就從高速緩 存中刪除用于客戶機/服務(wù)器會話的客戶機請求和應(yīng)用服務(wù)器的響應(yīng) 狀態(tài)。
12. 如權(quán)利要求8所述的裝置，其中，存儲器中的智能高速緩存 工具程序可進一步操作用來設(shè)置下限可靠性閾值；以及設(shè)置具有在 上限可靠性閾值和下限可靠性閾值間的可靠性指數(shù)的應(yīng)用服務(wù)器的高 速緩存的高速緩存大小限制。
13. 如權(quán)利要求12所述的裝置，其中，存儲器中的智能高速緩 存工具程序可進一步操作用來當(dāng)高速緩存的大小超出了高速緩存大 小限制時，從高速緩存中刪除最老的客戶機請求和應(yīng)用服務(wù)器的響應(yīng) 狀態(tài)。
全文摘要
一種智能高速緩存工具收集應(yīng)用服務(wù)器的可靠性統(tǒng)計信息，以便構(gòu)建隱馬爾可夫模型。通過使用該隱馬爾可夫模型，智能高速緩存工具計算用于該應(yīng)用服務(wù)器的可靠性指數(shù)。在設(shè)置了用戶定義的可靠性閾值后，當(dāng)可靠性指數(shù)低于可靠性閾值時，智能高速緩存工具高速緩存所有客戶機請求和應(yīng)用服務(wù)器的響應(yīng)狀態(tài)。
文檔編號H04L12/24GK101114978SQ20071010117
公開日2008年1月30日 申請日期2007年5月9日 優(yōu)先權(quán)日2006年7月27日
發(fā)明者仁加納?！ど＿_拉拉曼, 奧德拉·F.·唐尼, 巴蘭·蘇伯拉瑪尼安, 桑達拉拉曼·溫卡塔拉曼, 馬克·E·彼得斯 申請人:國際商業(yè)機器公司