了解最新公司動態及行業資訊
1.本發明涉及視頻運維技術領域,尤其涉及一種智能視頻運維管理系統。
背景技術:
2.隨著物聯網技術和應用的不斷發展,網絡邊緣設備產生的數據量激增。據統計,到2021年底,將有超過500億臺終端和設備接入互聯網。超過 50% 的數據需要在網絡邊緣進行分析、處理和存儲。在這些終端設備產生的海量數據中,視頻數據占據了相當大的比重。
3.目前,受網絡帶寬、視頻數據采集存儲條件不足等多方面因素的限制,海量視頻數據并未得到充分挖掘和利用。如果將如此海量的視頻數據傳輸到公有云數據中心,勢必會帶來巨大的網絡傳輸負載,并且會出現較長的網絡延遲。未經處理的視頻流可能包含大量靜止圖像等冗余數據,這對網絡帶寬的利用也有很大的負面影響。此外,非結構化視頻數據增加了數據計算和存儲的復雜度,無法保證整個系統的可用性。在安全監管方面,如果將大量物聯網設備采集的包含隱私和商業機密的視頻數據傳輸到數據中心進行集中計算和存儲,數據傳輸和使用路徑過長,存在數據泄露,丟失、系統攻擊等風險。因此,傳統公有云計算的集中處理模式不足以支撐海量視頻數據的實時計算,難以滿足數據安全等方面的需求。
4.運維系統的主要作用是保證系統的正常運行。運維包括運維的含義。早期運維系統的主要功能是電子化記錄紙質運維記錄。運行方面,隨著IT技術的不斷發展,系統變得越來越復雜,如何快速獲取信息,快速完成故障應急策略成為當前運維系統的核心問題。在跨平臺、跨應用交互、分布式等技術成為主流的今天,運維系統需要讓自身更具交互性和可擴展性,同時又不失傳統運維理念,適應分布式環境。 ,總線方案的引入it運維技術,使得運維系統具有松耦合、易擴展的特點。通過消息總線運維系統,可以立即獲取集群中各個節點發送的消息。處理完信息后,將處理結果通過總線發送到需要的集群節點。根據總線架構的目標對象,運維系統可以分為兩類:面向應用的總線架構運維系統和面向組件的總線架構運維系統。
5.傳統的系統運維主要依靠人工定期巡檢和突發事件應急響應機制。大部分情況下都可以完成所需的運維任務,但是成本比較大,而且系統之前運行產生的數據沒有很好的回溯機制。一種觀念認為,人工智能在運維領域的應用和發展必然成為一種趨勢,而該領域現有的一些機器學習方法大多是基于使用k近鄰算法(knn)來處理運維數據。時序結果分類不僅計算復雜度高、空間復雜度高,而且普遍適用性差。
6.例如,專利文獻公開了一種視頻運維管理系統和方法,公開了一種視頻運維管理系統和方法。設備管理模塊用于注冊所有在線管理視頻運維設備。建立書本,存儲視頻運維設備的管理信息; gis可視化模塊通過gis地圖界面查看所有視頻運維設備的當前位置和視頻運維設備的基本信息;信息狀態監控模塊用于監控運維設備的工作狀態
狀態。但是這種技術方案的成本比較高,而且系統之前運行產生的數據沒有很好的回溯機制。
7.例如,專利文獻提供了智能視頻運維管理系統。運維代理單元對各個監控對象監控的通道進行視頻數據采集,對采集到的視頻數據進行重復數據過濾,得到各個監控對象的有效視頻數據,收集各個監控對象自身的狀態數據,分析每個監控對象的狀態數據。對有效視頻數據和監控對象狀態數據進行封裝,得到各個監控對象的運維數據。管理平臺單元統一管理從運維代理單元傳來的各個監控對象的運維數據的分類、分發、檢索和存儲,將運維數據分發給各個管理客戶端,并根據故障產生運維數據信息和告警信息的分析結果。但該技術方案不僅計算復雜度高、空間復雜度高,而且普遍適用性較差。
技術實施要素:
8.為了解決上述技術問題,本發明提出一種智能視頻運維管理系統,包括數據采集單元、視頻運維數據預處理單元、轉換與分類單元單元、數據存儲單元、數據分析單元、運維質量評估單元和業務應用單元:數據采集單元用于采集視頻運維數據;視頻運維數據預處理單元,用于對視頻運維數據進行解析、轉換和歸約。轉換分類單元,用于對視頻運維數據預處理單元預處理后的視頻運維數據進行分類和適配。配置后的數據;數據分析單元用于對分類適配后的數據進行數據處理、分析和優化;運維質量評價單元用于對運維數據進行數據處理、分析和優化后的質量分析和優化。進行評估;在業務應用單元,運維工程師根據業務應用單元用戶在使用過程中發現的問題,對智能運維系統的優化進行積極反饋。
9.進一步,在大數據的分類適配過程中,轉換分類單元采用向量分類模型進行分類識別,向量分類模型采用單位階躍函數輸出輸入數據u類別標簽f(u),當u<0時,f(u)輸出-1,否則輸出+1;使用標簽
·
(u)·
表示從點到分離平面的幾何間隔,使用最大化函數最大化幾何間隔:arg maxu{min(label
·
(u)·
)};基于約束,將分離平面寫成數據點的形式,優化目標函數為:約束是:
其中常數c1、c2是一個松弛變量,用于控制最大幾何區間參數和函數區間參數小于1.0。
10.進一步,采用序列最小優化算法訓練向量分類模型,包括以下步驟: s1、創建并初始化一個o的向量,并進行迭代; s2、判斷迭代次數是否小于最大值; s3、如果迭代次數小于最大值,遍歷數據集中的每個向量,進行優化處理。如果可以優化向量,請輸入 s4。如果向量無法優化,如果優化,則遍歷下一個向量,重新優化; s4、 隨機選擇另一個向量進行優化; s5、 如果兩個向量都不能優化,增加迭代次數,返回s2;如果兩個向量可以優化,輸入s6; s6、 同時優化兩個向量。
11.進一步,數據分析單元采用徑向基核函數進行優化,將輸入數據x從輸入空間映射到特征空間,z表示特征空間的特征參數,徑向基核函數為:哪里是可調參數。
12.進一步,所述運維質量評價單元采用時序相關評價指標sr和線性相關評價指標pl的歸一化作為評價指標,線性相關評價指標p1定義如下: 其中, n代表運維數據個數, ,分別代表第i個運維數據的實際值和預測值, ,分別代表運維實際值和預測值的平均值數據;訂單相關評價指標 sr 定義如下:其中,分別表示實際值和預測值在序列中的排序位置;歸一化后的評價指標為:。
圖紙說明
13. 圖1是本發明的智能視頻運維管理系統的結構示意圖;圖2為本發明序列最小優化算法的流程圖。
具體實現方法
14. 為使本領域技術人員更好地理解技術實施例的技術方案,下面將結合技術實施例中的附圖對技術實施例中的技術方案進行清楚的描述。 ,顯然,所描述的實施例只是本技術的部分實施例,而不是全部的實施例。
15.如圖所示。參見圖1,為本發明基于大數據的智能視頻運維管理系統的結構示意圖。智能視頻運維管理系統包括:數據采集單元,用于采集視頻運行數據。視頻運維數據主要是指為大視頻業務智能運維采集的數據,包括IP攝像機、DVR、卡口設備、iptv等終端的播放記錄和關鍵性能指標(kpi)數據;接入網絡的用戶寬帶信息、資源拓撲數據; CDN錯誤日志、告警、鏈接狀態、流信息等; iptv企業賬號、頻道/節目信息等
16.數據采集單元優選采用kafka、文件傳輸協議(ftp)、超文本傳輸??協議(http)等組件進行數據采集。
17.視頻運維數據預處理單元用于對各種異構日志數據進行解析、轉換、歸約,在數據使用前完成必要的處理和數據質量保證。上述預處理操作可以采用現有技術中的預處理方法,在此不再贅述。
18.轉換分類單元用于對視頻運維數據預處理單元預處理后的視頻運維數據進行分類。
19.變換分類單元在大數據的分類適配過程中采用分類模型進行分類識別。
20. 優選地,使用向量分類模型進行分類識別,向量分類模型是在特征空間上定義的最大區間的線性分類器。對于一個n維線性可分的數據集it運維技術,有n-1維對象對數據進行分離,將這個n-1維對象定義為分離平面;從單個數據點到分離平面的距離定義為間隔;最靠近分離平面的點被定義為主向量。使用向量分類模型是為了求解能夠正確劃分訓練集并具有最大集間隔的分離平面。為數據集找到間隔最大的分離平面意味著數據集被分類有足夠的置信度,這樣的分離平面具有更好的分類和預測能力。
21.向量分類模型會為輸入數據集u輸出一個類別標簽。本發明利用單位階躍函數作用于u得到f(u);當u<0時,f(u)輸出-1,否則輸出+1,對應系統運維中的“風險”和“正常運行”兩種狀態。
22.使用標簽
·
(u) 表示從單個數據點到分割平面的函數區間,label
·
(u) · 表示單個數據點到分離平面的幾何間隔。
23.在向量分類模型中求u,即求其主向量。一旦找到具有最小間隔的數據點,則將間隔最大化。最大化函數可以寫成:arg maxu{min(label
·
(u)
·
)};基于約束,將分離平面寫成數據點的形式,優化目標函數為:
;約束為: 約束為: 其中m為數據點的個數,常數c1、c2為松弛變量,用于控制最大化區間,保證大部分點的函數區間權重兩個目標的值小于1.0,通過調整這個參數的值可以得到不同的結果。
24.其次,通過序列最小優化算法訓練向量分類模型,將大優化問題分解為多個小優化問題進行求解。求解后的結果完全等價于整體求解。
25.序列最小優化算法是在每個循環中選擇兩個進行優化處理,如果確定了,也確定;這兩個必須在區間的外部或邊界上。
26.序列最小優化算法的具體流程如圖2所示,包括: s1、創建并初始化一個o的向量進行迭代; s2、判斷迭代次數是否小于最大值; s3、如果迭代次數小于最大值,遍歷數據集中的每個向量,進行優化處理。如果可以優化向量,請輸入 s4。如果向量無法優化,則遍歷下一個向量,重新優化; s4、 隨機選擇另一個向量進行優化; s5、 如果兩個向量都不能優化,增加迭代次數,返回s2;如果二,向量可以優化,則進入s6; s6、 同時優化這兩個,向量;直到迭代次數不小于最大值。
27.數據存儲單元用于存儲經過轉換分類單元分類適配后的數據。
28. 數據分析單元用于對經過轉換分類單元分類適配后存儲在數據存儲單元中的數據進行數據處理、分析和優化,為視頻質量提供數據支持評價單位。
29. 具體來說,數據分析單元使用徑向基核函數進行分析優化,使用徑向基核函數將輸入數據x從輸入空間映射到特征空間,z表示特征空間參數的特征,徑向基核函數表示為:其中是一個可調參數,不同的值會使向量分類模型的主向量個數不同,影響向量分類模型的分類精度。利用上述徑向基核函數,我們將數據從輸入空間映射到更高維的特征空間進行處理,大大提高了該算法的適用性。
30.數據分析單元優選采用流計算處理框架、離線批處理框架、人工智能計算框架、數據存儲與檢索引擎等。數據的離線分析,包括但不包括僅限于故障和異常的根本原因分析、故障和特定規則閾值的動態預測、事件依賴分析和相關性分析、異常和重要時間序列模式發現、多個事件的自動分類等。
31.運維質量評價單元用于評價運維數據的質量。運維數據質量的評價指標很多,本發明采用時序相關評價指標sr和線性相關評價指標pl的歸一化作為評價指標。序列相關性評價指標sr用于衡量運維數據質量預測結果的單調性,線性相關性評價指標pl用于描述主客觀評價之間的線性相關性。準確性。
32.線性相關評價指標pl定義如下:;上式中,n代表運維數據個數, ,分別代表第i個運維數據的實際值和預測值,分別代表運維數據實際值和預測值的平均值數據的價值;線性相關評價指標pl在[-1, 1]范圍內,絕對值越大越好。
[0033]
階相關評價指標sr可以用來衡量線性相關評價算法預測結果的單調性,其計算公式為:其中 分別表示實際值和預測值序列中的排名位置。
[0034]
由于評價原則不同,不同方法預測的運維數據質量得分也不同。因此,將不同方法預測的質量分數映射到統一的評價標準,從而直觀地看到方法的性能效果。標準化不同的評價標準。
[0035]
歸一化評價指標。通過對歸一化后的評價指標的分析可以看出,每個評價指標系數中pl、sr的值越接近1,視頻質量評價方法的性能越好,而視頻質量評價方法的性能越差。方法相反。
[0036]
業務應用單元用于提供智能業務監控、端到端故障定界定位、用戶體驗感知、統計分析和報告等主要業務場景的分析應用。運維工程師根據業務應用單元對系統中的用戶進行操作,在用戶使用過程中發現的問題可以對智能運維系統的優化起到積極的反饋作用。
[0037]
本發明的基于大數據的智能視頻運維管理系統,利用大數據技術,構建基于大數據的處理平臺,實現數據的采集、聚合、建模、分析和呈現,實現全面的實視頻質量和數據采集的時間監控和控制。視頻質量評價指標和業務應用單位建立基于用戶體驗的視頻質量評價體系,對視頻清晰度、流暢度、定格等多項用戶體驗質量指標進行分析。轉換分類單元和數據分析單元,成功將機器學習應用于運維,進行數據分類、標注、分析和應用。標注數據是指在日常運維工作中會產生的標注數據。大視頻系統本身擁有海量日志,包括來自終端、網絡、業務系統的數據,并針對大數據系統的存儲進行了優化。
[0038]
在上述實施例中,可以全部或部分通過軟件、硬件、固件或其任意組合來實現
現在。當以軟件實現時,它可以全部或部分以計算機程序產品的形式實現。該計算機程序產品包括一個或多個計算機指令。當計算機程序指令被加載并在計算機上執行時,根據本技術的實施例描述的過程或功能被全部或部分地產生。計算機可以是通用計算機、專用計算機、計算機網絡或其他可編程設備。計算機指令可以存儲在計算機可讀存儲介質中或通過計算機可讀存儲介質傳輸。計算機可讀存儲介質可以是可以由計算機或數據存儲設備訪問的任何可用介質,例如服務器、數據中心等,其包括一個或多個可用介質的集成??捎媒橘|可以是磁介質(例如,軟盤、硬盤、磁帶)、光學介質(例如,dvd)或半導體介質(例如,固態盤(SSD))等。
[0039]
以上僅為本技術的具體實施方式,但本技術的保護范圍不限于此。本領域技術人員可以很容易地想到各種等效修改或替換,均應包含在本技術的保護范圍之內。因此,本技術的保護范圍應以權利要求的保護范圍為準。