本發明屬于互聯網直播，具體地說是基于實時數據的直播內容風控處理系統及監管方法。

背景技術：

1、隨著直播行業的迅猛發展，直播內容的審核與風險控制成為保障平臺健康運營的關鍵環節。當前，現有直播風控審核技術存在諸多缺陷。其一，在直播文本內容審核方面，由于語義的復雜性影響，單純依賴技術審核難以識別觀眾文本中的準確信息，極易出現審核不準確的情況，影響審核效率與可靠性；其二，對直播違規行為的監測缺乏對違規用戶增長態勢的持續性分析，無法及時發現違規用戶激增現象，致使在違規現象嚴重擴展時難以迅速采取有效控制措施，錯過最佳風控時機；其三，未能對直播違規用戶之間的影響關系進行深入挖掘，無法識別那些不僅自身違規，還帶動其他用戶違規、引發違規連鎖反應的重點用戶，難以制定針對性的風控策略，無法滿足直播風險防控的及時性和精準性要求。這些問題嚴重制約了直播平臺對違規內容的有效管控和健康發展。

2、為此，本發明提供了基于實時數據的直播內容風控處理系統及監管方法。

技術實現思路

1、為了彌補現有技術的不足，解決背景技術中所提出的至少一個技術問題。

2、本發明解決其技術問題所采用的技術方案是：

3、基于實時數據的直播內容風控監管方法，包括：

4、通過關鍵詞比對，對預設第一監測時段內觀眾用戶的文本發送內容，進行審核劃分；

5、通過審核劃分后的審核結果對預設第一監測時段內的觀眾用戶進行分類，確定正常觀眾用戶和違規觀眾用戶，其中，針對違規觀眾用戶包括的直觀違規用戶和潛在違規用戶，采取不同違規處理措施；

6、對預設第二監測時段內違規觀眾用戶進行增長持續性分析，若出現持續性增長，通過比較分析預設第二監測時段和預設第一監測時段內的違規觀眾用戶，判斷是否存在違規激增現象，若存在，則進行直播的安全控制；

7、對預設第二監測時段內的違規觀眾用戶與預設第一監測時段內的潛在違規用戶進行用戶身份非重合比對，確定新增違規用戶，并對新增違規用戶與正常觀眾用戶進行身份重合比對，確定轉換違規用戶，對轉換違規用戶和預設第一監測時段內的違規觀眾用戶進行文本發送內容相似性分析，判斷預設第一監測時段內違規觀眾用戶是否引發違規連鎖反應，若是，則確定違規重點關注用戶以及對應的關注優先級。

8、進一步的，所述審核劃分方式為：

9、利用自然語言處理技術提取文本發送內容中的關鍵詞，若在關鍵詞庫中存在文本發送內容所對應的關鍵詞，則將文本發送內容劃分至技術審核；

10、若在關鍵詞庫中不存在文本發送內容所對應的關鍵詞，則利用自然語言處理中的語義識別技術判斷文本發送內容是否存在潛在風險，若存在，則將文本發送內容劃分至人工審核。

11、進一步的，所述審核劃分后的審核結果包括人工審核結果和技術審核結果；

12、所述觀眾用戶進行分類的過程為：

13、若技術審核結果顯示違規，則將文本發送內容對應的觀眾用戶標記為直觀違規用戶；

14、若人工審核結果顯示違規，則將文本發送內容對應的觀眾用戶標記為潛在違規用戶。

15、進一步的，所述采取不同違規處理措施包括：

16、針對直觀違規用戶，采用禁止評論以及發送彈幕的語料安全控制措施，針對潛在違規用戶，采用平臺警告的語料安全控制措施。

17、進一步的，所述增長持續性分析的過程為：

18、獲取預設第二監測時段內不同時刻的違規觀眾用戶并統計數量，整合為觀眾違規序列，對觀眾違規序列進行線性回歸，判斷是否出現持續性增長；

19、所述判斷是否存在違規激增現象的方式為：

20、獲取預設第二監測時段內的違規觀眾用戶并與預設第一監測時段內的違規觀眾用戶進行差比計算，得到違規激增值；

21、若違規激增值大于等于違規激增閾值，則存在違規激增現象。

22、進一步的，所述確定新增違規用戶的方式為：

23、若違規觀眾用戶與預設第一監測時段內的所有潛在違規用戶身份均不相同，則將違規觀眾用戶標記為新增違規用戶；

24、所述確定轉換違規用戶的過程為：

25、若新增違規用戶與預設第一監測時段內的任意一個正常觀眾用戶身份相同，則將新增違規用戶標記為轉換違規用戶。

26、進一步的，所述違規觀眾用戶是否引發違規連鎖反應的判斷方式為：

27、獲取轉換違規用戶審核結果顯示違規的文本發送內容，并整合為轉換違規文本庫；

28、獲取預設第一監測時段內的違規觀眾用戶審核結果顯示違規的文本發送內容，并整合為初始違規文本庫；

29、若在初始違規文本庫中，至少存在一條初始違規文本內容與轉換違規文本內容相似性達到閾值，則將轉換違規文本內容標記為違規相似文本內容，將初始違規文本內容標記為初始影響文本內容；

30、根據違規相似文本內容識別受違規影響用戶；

31、統計受違規影響用戶在轉換違規用戶中的數量比例，

32、若受違規影響用戶在轉換違規用戶中的數量比例大于等于預設數量比例閾值，則表示違規觀眾用戶引發違規連鎖反應。

33、進一步的，所述轉換違規文本內容為轉換違規文本庫中包含文本發送內容；

34、所述初始違規文本內容為初始違規文本庫中包含文本發送內容；

35、所述受違規影響用戶識別方式為：

36、統計違規相似文本內容在轉換違規文本庫的條數比例，若大于等于預設條數比例閾值，則將轉換違規用戶標記為受違規影響用戶。

37、進一步的，所述確定違規重點關注用戶以及對應的關注優先級的方式為：

38、獲取初始影響文本內容對應的違規觀眾用戶，并標記為違規重點關注用戶；

39、基于任意一個違規重點關注用戶，按照違規重點關注用戶對應的初始影響文本內容條數確定違規重點關注用戶的關注優先級。

40、基于實時數據的直播內容風控處理系統，包括：

41、直播審核劃分模塊：通過關鍵詞比對，對預設第一監測時段內觀眾用戶的文本發送內容，進行審核劃分；

42、觀眾用戶分類及處理模塊：通過審核劃分后的審核結果對預設第一監測時段內的觀眾用戶進行分類，確定正常觀眾用戶和違規觀眾用戶，其中，針對違規觀眾用戶包括的直觀違規用戶和潛在違規用戶，采取不同違規處理措施；

43、直播安全控制模塊：對預設第二監測時段內違規觀眾用戶進行增長持續性分析，若出現持續性增長，通過比較分析預設第二監測時段和預設第一監測時段內的違規觀眾用戶，判斷是否存在違規激增現象，若存在，則進行直播的安全控制；

44、直播違規影響分析模塊：對預設第二監測時段內的違規觀眾用戶與預設第一監測時段內的潛在違規用戶進行用戶身份非重合比對，確定新增違規用戶，并對新增違規用戶與正常觀眾用戶進行身份重合比對，確定轉換違規用戶，對轉換違規用戶和預設第一監測時段內的違規觀眾用戶進行文本發送內容相似性分析，判斷預設第一監測時段內違規觀眾用戶是否引發違規連鎖反應，若是，則確定違規重點關注用戶以及對應的關注優先級。

45、本發明的有益效果如下：

46、1.獲取直播過程中預設第一監測時段內觀眾用戶的文本發送內容，并通過關鍵詞的提取比對分析，對文本發送內容進行審核劃分，包括技術審核和人工審核，防止技術審核由于無法識別直播時觀眾用戶的文本發送內容中存在模糊或不確定的情況，導致技術審核不準確的問題出現，因此，進行技術審核和人工審核的劃分配合，提高直播風控審核的效率及可靠性。

47、2.對預設第二監測時段內不同時刻的違規觀眾用戶，進行增長持續性分析，在出現持續性增長的情況下，判斷違規觀眾用戶是否存在激增現象，若存在，則進行直播的安全控制，實現了直播違規現象嚴重擴展情況下的有效直播安全控制，提高直播風控的及時性。

48、3.將預設第二監測時段內的違規觀眾用戶與預設第一監測時段內的潛在違規用戶進行用戶身份非重合比對，確定新增違規用戶，并將新增違規用戶與正常觀眾用戶進行身份重合比對，確定轉換違規用戶，對轉換違規用戶與預設第一監測時段內的違規觀眾用戶進行文本發送內容相似性分析，判斷預設第一監測時段內違規觀眾用戶是否引發違規連鎖反應，若是，則對預設第一監測時段內違規觀眾用戶進行標記處理，確定違規重點關注用戶以及根據初始影響文本內容條數確定違規重點關注用戶的關注優先級，本發明對直播過程中不僅出現直播違規且對其他觀眾用戶產生嚴重違規影響，帶動違規影響節奏的違規用戶進行識別并確定在后續直播中這些直播違規觀眾的重點關注優先級，為后續直播提供風控策略的同時，進一步提高直播風控的及時性。