本發(fā)明涉及計(jì)算機(jī)圖形處理與能效管理，具體地說是一種并行處理器功耗動(dòng)態(tài)優(yōu)化方法和系統(tǒng)。

背景技術(shù)：

1、隨著計(jì)算機(jī)圖形處理技術(shù)的飛速發(fā)展，并行處理器已成為高性能計(jì)算、游戲娛樂、人工智能等領(lǐng)域的核心驅(qū)動(dòng)力。然而，并行處理器在高性能運(yùn)行時(shí)產(chǎn)生的高功耗問題日益突出，不僅大幅增加了能源消耗和運(yùn)營成本，還可能因過熱等問題縮短硬件壽命。當(dāng)前市場(chǎng)上的并行處理器功耗管理技術(shù)多局限于靜態(tài)參數(shù)調(diào)整或簡(jiǎn)單的反饋控制，缺乏對(duì)未來功耗需求的精準(zhǔn)預(yù)測(cè)和動(dòng)態(tài)響應(yīng)能力，難以適應(yīng)復(fù)雜多變的實(shí)際應(yīng)用場(chǎng)景。

技術(shù)實(shí)現(xiàn)思路

1、本發(fā)明的技術(shù)任務(wù)是針對(duì)以上不足之處，提供一種并行處理器功耗動(dòng)態(tài)優(yōu)化方法和系統(tǒng)，能夠?qū)崿F(xiàn)功耗的有效降低與性能的穩(wěn)定保持，尤其適用于對(duì)能耗和性能要求極高的復(fù)雜計(jì)算場(chǎng)景。

2、本發(fā)明解決其技術(shù)問題所采用的技術(shù)方案是：

3、一種并行處理器功耗動(dòng)態(tài)優(yōu)化方法，基于多模態(tài)特征融合和注意力機(jī)制增強(qiáng)實(shí)現(xiàn)高精度功耗預(yù)測(cè)模型，

4、所述多模態(tài)特征，包括應(yīng)用程序的代碼特征和用戶操作行為特征，所述應(yīng)用程序的代碼特征能夠反映應(yīng)用程序的復(fù)雜度和資源需求，所述用戶操作行為特征能夠體現(xiàn)用戶的使用習(xí)慣和對(duì)性能的要求；

5、所述注意力機(jī)制增強(qiáng)，在cnn與lstm結(jié)合的基礎(chǔ)上，引入注意力機(jī)制，所述注意力機(jī)制能夠自動(dòng)地為不同的輸入特征分配不同的權(quán)重，使得模型更加關(guān)注對(duì)功耗預(yù)測(cè)影響大的特征；

6、該方法的實(shí)現(xiàn)包括以下步驟：

7、（1）數(shù)據(jù)采集與預(yù)處理；

8、（2）模型訓(xùn)練與優(yōu)化；

9、（3）智能自適應(yīng)調(diào)度實(shí)現(xiàn)。

10、本方法借助先進(jìn)的算法精準(zhǔn)預(yù)測(cè)并行處理器功耗需求，同時(shí)通過智能調(diào)度實(shí)時(shí)調(diào)整其工作狀態(tài)，實(shí)現(xiàn)功耗的有效降低與性能的穩(wěn)定保持，尤其適用于對(duì)能耗和性能要求極高的復(fù)雜計(jì)算場(chǎng)景。

11、進(jìn)一步的，所述數(shù)據(jù)采集與預(yù)處理，具體包括：

12、數(shù)據(jù)采集：定期采集并行處理器的運(yùn)行數(shù)據(jù)，采集方式包括：并行處理器的監(jiān)控接口、操作系統(tǒng)提供的api以及應(yīng)用程序的日志記錄；采集信息包括：常規(guī)數(shù)據(jù)，以及應(yīng)用程序的代碼特征和用戶操作行為特征；

13、數(shù)據(jù)清洗：采集到的原始數(shù)據(jù)可能包含噪聲、異常值或缺失值，采用數(shù)據(jù)清洗技術(shù)，如去重、填充缺失值、平滑處理等方法，確保數(shù)據(jù)的準(zhǔn)確性和完整性，同時(shí)，針對(duì)新采集的代碼特征和用戶操作行為特征，通過對(duì)應(yīng)的清洗算法，以去除無效信息；

14、數(shù)據(jù)歸一化：為了消除不同量綱對(duì)模型訓(xùn)練的影響，對(duì)清洗后的數(shù)據(jù)進(jìn)行歸一化處理，將所有特征值縮放到同一尺度上，通常是將數(shù)據(jù)映射到[0,?1]或[-1,?1]區(qū)間內(nèi)；對(duì)于代碼特征和用戶操作行為特征，采用了適應(yīng)其數(shù)據(jù)特點(diǎn)的歸一化方法。

15、進(jìn)一步的，所述常規(guī)數(shù)據(jù)包括：cpu使用率、并行處理器使用率、顯存占用、溫度、電壓、功耗以及當(dāng)前運(yùn)行的應(yīng)用程序和任務(wù)類型；

16、所述應(yīng)用程序的代碼特征數(shù)據(jù)包括代碼復(fù)雜度、函數(shù)調(diào)用頻率等；

17、所述用戶操作行為特?cái)?shù)據(jù)包括：操作頻率、操作時(shí)間間隔等。

18、進(jìn)一步的，所述模型訓(xùn)練與優(yōu)化，具體實(shí)現(xiàn)過程如下：

19、（2.1）數(shù)據(jù)劃分：

20、將預(yù)處理后的數(shù)據(jù)按照一定比例（如70%訓(xùn)練集、15%驗(yàn)證集、15%測(cè)試集）劃分為三個(gè)部分，用于模型的訓(xùn)練、驗(yàn)證和測(cè)試；

21、（2.2）模型結(jié)構(gòu)設(shè)計(jì)：

22、模型采用cnn與lstm結(jié)合的結(jié)構(gòu)，并引入注意力機(jī)制，cnn部分包含多干卷積層和池化層，用于提取空間特征；lstm部分包含多個(gè)lstm單元，用于捕捉時(shí)間序列中的長(zhǎng)期依賴關(guān)系；注意力層則在lstm層之后，為不同的輸入特征分配權(quán)重；

23、（2.3）損失函數(shù)定義：

24、采用均方誤差（mean?squared?error,?mse）作為損失函數(shù)，以評(píng)估模型預(yù)測(cè)值與真實(shí)值之間的差異；

25、（2.4）訓(xùn)練過程：

26、初始化：隨機(jī)初始化模型權(quán)重和偏置；

27、前向傳播：將訓(xùn)練集數(shù)據(jù)輸入到模型中，通過cnn和lstm層進(jìn)行前向傳播，計(jì)算預(yù)測(cè)值；

28、計(jì)算損失：使用mse損失函數(shù)計(jì)算預(yù)測(cè)值與真實(shí)值之間的誤差；

29、反向傳播：利用梯度下降法（如adam優(yōu)化器）進(jìn)行反向傳播，計(jì)算損失函數(shù)關(guān)于模型參數(shù)的梯度，并更新模型參數(shù)以最小化損失；

30、批量歸一化：在每個(gè)卷積層或lstm層之后添加批量歸一化層，以加速訓(xùn)練過程并提高模型穩(wěn)定性；

31、驗(yàn)證與調(diào)整：在每個(gè)訓(xùn)練周期（epoch）結(jié)束后，使用驗(yàn)證集數(shù)據(jù)評(píng)估模型的性能，如果驗(yàn)證集上的損失開始增加（即出現(xiàn)過擬合現(xiàn)象），則采用早停法停止訓(xùn)練，并返回具有最佳驗(yàn)證性能的模型；

32、（2.5）超參數(shù)調(diào)優(yōu)：

33、使用網(wǎng)格搜索或隨機(jī)搜索等方法，在預(yù)定義的參數(shù)空間內(nèi)搜索最優(yōu)的超參數(shù)組合，包括學(xué)習(xí)率、批處理大小、cnn和lstm層的數(shù)量及參數(shù)、注意力層的參數(shù)等；

34、評(píng)估不同超參數(shù)組合下模型的性能，并選擇具有最低驗(yàn)證集損失的組合作為最終模型參數(shù)。

35、進(jìn)一步的，所述智能自適應(yīng)調(diào)度實(shí)現(xiàn)，包括多目標(biāo)優(yōu)化調(diào)度和實(shí)時(shí)風(fēng)險(xiǎn)評(píng)估，

36、所述多目標(biāo)優(yōu)化調(diào)度，同時(shí)考慮功耗、性能和硬件壽命三個(gè)目標(biāo)，在動(dòng)態(tài)調(diào)整并行處理器的包括電壓、頻率的關(guān)鍵參數(shù)以及優(yōu)化任務(wù)分配時(shí)，通過多目標(biāo)優(yōu)化算法找到所述三個(gè)目標(biāo)之間的最優(yōu)平衡點(diǎn)；例如，在保證一定性能的前提下，盡可能降低功耗，同時(shí)避免硬件過度使用，延長(zhǎng)硬件壽命；

37、所述實(shí)時(shí)風(fēng)險(xiǎn)評(píng)估，實(shí)時(shí)評(píng)估并行處理器的運(yùn)行風(fēng)險(xiǎn)，包括如過熱、過載；當(dāng)檢測(cè)到潛在風(fēng)險(xiǎn)時(shí)，調(diào)度策略立即采取相應(yīng)的措施，包括快速降低電壓和頻率、緊急遷移高風(fēng)險(xiǎn)任務(wù)等；同時(shí)，根據(jù)風(fēng)險(xiǎn)的嚴(yán)重程度和類型，動(dòng)態(tài)調(diào)整調(diào)度策略的參數(shù)，以確保并行處理器在安全穩(wěn)定的狀態(tài)下運(yùn)行。

38、進(jìn)一步的，所述智能自適應(yīng)調(diào)度實(shí)現(xiàn)具體包括：

39、功耗預(yù)測(cè)模塊：在并行處理器運(yùn)行過程中，實(shí)時(shí)采集當(dāng)前運(yùn)行狀態(tài)信息，并輸入到訓(xùn)練好的功耗預(yù)測(cè)模型中；模型輸出未來指定時(shí)間段內(nèi)的預(yù)測(cè)功耗值及其置信區(qū)間；同時(shí)，根據(jù)新采集的代碼特征和用戶操作行為特征，進(jìn)一步細(xì)化預(yù)測(cè)結(jié)果，提高預(yù)測(cè)的準(zhǔn)確性；

40、參數(shù)調(diào)整模塊：根據(jù)預(yù)測(cè)功耗值，智能調(diào)整并行處理器的電壓和頻率；如果預(yù)測(cè)到高功耗狀態(tài)，則提前降低電壓和頻率以減少功耗；反之，則增加以提高性能；基于并行處理器的溫度限制、硬件壽命和性能要求，確保調(diào)整后的參數(shù)在安全范圍內(nèi)；并根據(jù)實(shí)時(shí)風(fēng)險(xiǎn)評(píng)估結(jié)果，動(dòng)態(tài)調(diào)整參數(shù)調(diào)整的幅度和速度；

41、任務(wù)分配模塊：當(dāng)并行處理器即達(dá)到設(shè)定功耗上限或性能瓶頸閾值時(shí)，根據(jù)當(dāng)前任務(wù)的重要性、緊急性、代碼特征和用戶操作行為特征，將部分高功耗任務(wù)遷移至其他空閑或低功耗的并行處理器上執(zhí)行；這要求系統(tǒng)具備跨并行處理器的任務(wù)調(diào)度和通信能力，同時(shí)能夠快速準(zhǔn)確地評(píng)估任務(wù)的遷移成本和收益；

42、自學(xué)習(xí)機(jī)制：根據(jù)實(shí)際運(yùn)行效果不斷優(yōu)化調(diào)整調(diào)度策略的參數(shù)。例如，通過記錄每次調(diào)整后的功耗變化、性能表現(xiàn)、硬件狀態(tài)和用戶反饋，系統(tǒng)可以逐步優(yōu)化調(diào)度策略，提高其對(duì)不同應(yīng)用場(chǎng)景的適應(yīng)性和魯棒性。

43、進(jìn)一步的，該方法進(jìn)行軟硬件一體化設(shè)計(jì)，在并行處理器硬件中集成功耗優(yōu)化加速模塊，該模塊用于實(shí)現(xiàn)并行處理功耗預(yù)測(cè)和調(diào)度算法，大大提高系統(tǒng)的響應(yīng)速度；同時(shí)，加速模塊采用低功耗設(shè)計(jì)，在提高性能的同時(shí)不會(huì)增加過多的功耗；提供智能配置引擎，用戶通過該引擎輸入自己的需求和偏好，如優(yōu)先降低功耗、優(yōu)先提高性能等，智能配置引擎根據(jù)用戶的輸入自動(dòng)調(diào)整預(yù)測(cè)模型和調(diào)度算法的參數(shù)，實(shí)現(xiàn)個(gè)性化的功耗優(yōu)化；具體實(shí)現(xiàn)如下：

44、固件與驅(qū)動(dòng)修改：將預(yù)測(cè)模型和調(diào)度算法集成到并行處理器的固件和驅(qū)動(dòng)程序中，通過對(duì)并行處理器的底層控制邏輯進(jìn)行修改，以確保預(yù)測(cè)模型和調(diào)度算法能夠?qū)崟r(shí)獲取并行處理器的運(yùn)行狀態(tài)并執(zhí)行相應(yīng)的優(yōu)化操作；同時(shí)，將硬件加速模塊和智能配置引擎集成到固件和驅(qū)動(dòng)中，實(shí)現(xiàn)軟硬件的協(xié)同工作；

45、系統(tǒng)測(cè)試：在多種實(shí)際場(chǎng)景下進(jìn)行系統(tǒng)測(cè)試，包括高負(fù)載游戲、大規(guī)模數(shù)據(jù)處理、深度學(xué)習(xí)訓(xùn)練等；通過對(duì)比優(yōu)化前后的功耗消耗、性能表現(xiàn)、硬件溫度和穩(wěn)定性指標(biāo)，驗(yàn)證系統(tǒng)的優(yōu)化效果；同時(shí)，收集用戶反饋和意見，對(duì)系統(tǒng)進(jìn)行進(jìn)一步的優(yōu)化和完善；

46、性能評(píng)估：除了功耗優(yōu)化效果外，還需要評(píng)估其對(duì)并行處理器性能的影響；通過對(duì)比優(yōu)化前后的性能指標(biāo)，包括幀率、響應(yīng)時(shí)間、任務(wù)完成時(shí)間等，確保系統(tǒng)在降低功耗的同時(shí)不會(huì)顯著降低用戶體驗(yàn)；同時(shí)，評(píng)估系統(tǒng)對(duì)硬件壽命的影響，確保硬件在長(zhǎng)期運(yùn)行過程中的穩(wěn)定性和可靠性。

47、本發(fā)明還要求保護(hù)一種并行處理器功耗動(dòng)態(tài)優(yōu)化系統(tǒng)，包括數(shù)據(jù)采集與預(yù)處理模塊，模型訓(xùn)練與優(yōu)化模塊以及智能自適應(yīng)調(diào)度模塊，該系統(tǒng)基于多模態(tài)特征融合和注意力機(jī)制增強(qiáng)實(shí)現(xiàn)高精度功耗預(yù)測(cè)模型的訓(xùn)練與優(yōu)化，并基于所述高精度功耗預(yù)測(cè)模型實(shí)現(xiàn)并行處理器功耗的動(dòng)態(tài)優(yōu)化；

48、該系統(tǒng)具體通過上述的方法實(shí)現(xiàn)并行處理器功耗的動(dòng)態(tài)優(yōu)化。

49、本發(fā)明還要求保護(hù)一種并行處理器功耗動(dòng)態(tài)優(yōu)化裝置，包括：至少一個(gè)存儲(chǔ)器和至少一個(gè)處理器；

50、所述至少一個(gè)存儲(chǔ)器，用于存儲(chǔ)機(jī)器可讀程序；

51、所述至少一個(gè)處理器，用于調(diào)用所述機(jī)器可讀程序，實(shí)現(xiàn)上述的方法。

52、本發(fā)明還要求保護(hù)一種計(jì)算機(jī)可讀介質(zhì)，所述計(jì)算機(jī)可讀介質(zhì)上存儲(chǔ)有計(jì)算機(jī)指令，所述計(jì)算機(jī)指令在被處理器執(zhí)行時(shí)，實(shí)現(xiàn)上述的方法。

53、本發(fā)明的一種并行處理器功耗動(dòng)態(tài)優(yōu)化方法和系統(tǒng)與現(xiàn)有技術(shù)相比，具有以下有益效果：

54、通過引入深度學(xué)習(xí)預(yù)測(cè)模型和智能調(diào)度策略，實(shí)現(xiàn)了對(duì)并行處理器功耗的實(shí)時(shí)預(yù)測(cè)和動(dòng)態(tài)優(yōu)化。這一改進(jìn)提高了并行處理器能效比，延長(zhǎng)硬件壽命，并降低運(yùn)營成本，滿足高性能計(jì)算、游戲娛樂及人工智能等領(lǐng)域?qū)Ω咝堋⒌凸牟⑿刑幚砥鞯钠惹行枨蟆?/p>