微小视频内容过滤与净化的方法和系统与流程

1.本技术涉及网络多媒体领域，尤其涉及一种微小视频内容过滤与净化的方法和系统。


背景技术：

2.随着网络视频快速普及，越来越多的小视频，例如抖音、广告等，其中很多小视频会涉及不合规的内容。然而由于视频比较短小，现有的视频内容检测方法难以取得好的效果。
3.因此，急需一种针对性的微小视频内容过滤与净化的方法和系统。


技术实现要素：

4.本发明的目的在于提供一种微小视频内容过滤与净化的方法和系统，通过将接收的微小视频数据流经过两重视频采样，得到携带有边界和区域局部特征的高维图像，从而能够识别出物体和运动方式，判断是否合规，再经过情感分类处理，根据情感类型再次判断是否合规。
5.第一方面，本技术提供一种微小视频内容过滤与净化的方法，所述方法包括：
6.服务器接收微小视频数据流，所述微小视频是指播放时间长度小于10分钟的视频，将接收后的所述微小视频数据流进行视频采样，所述视频采样使用基础过滤单元来提取第一图像特征，将所述第一图像特征进行向量化，输入到n层卷积单元，根据所述n层卷积单元的输出结果，得到第一中间结果；
7.所述第一中间结果的每一个点生成一个锚点，锚点的值是由每个点的特征与四周相邻点的特征加权平均计算得到的；若干个锚点组成一个滑动窗，组成该滑动窗所需的锚点数目由最中间锚点所属的点的特征大小决定；
8.使用所述滑动窗再次对视频流量进行视频采样，提到第二图像特征，将所述第二图像特征进行向量化，输入到n层卷积单元，根据所述n层卷积单元的输出结果，得到第二中间结果；
9.对所述第二中间结果进行平滑处理，得到携带有边界和区域局部特征的高维图像，分析该高维图像，识别图像中的物体和运动方式，检测出该物体和运动方式是否合规，如果不合规则将该微小视频数据流过滤除去，如果合规则将该微小视频数据流传递到情感分类模型；
10.所述情感分类模型按照语义逐项分析，判断所述微小视频数据流是否包括指定关键词、语句含义、以及提取语境特征，根据所述语境特征和所述语句含义，判断弹幕的情感类型；
11.根据所述情感分类模型确定的情感类型，判断所述微小视频数据流携带的指定关键词是否符合该情感类型限定的合理范围，如果是则认定该微小视频数据流合规，允许播放，反之则认定该微小视频数据流不合规，将该微小视频数据流过滤除去。
12.结合第一方面，在第一方面第一种可能的实现方式中，所述n层卷积单元是由n个依次连接的卷积运算模块组成，n的值反映服务器负载处理的能力。
13.结合第一方面，在第一方面第二种可能的实现方式中，所述语句含义是指弹幕语句所指代的意思，所述语境特征是指弹幕语句所处的场景，该场景是根据语义分析模拟推测的。
14.结合第一方面，在第一方面第三种可能的实现方式中，所述识别图像中的物体和运动方式的过程中采用了神经网络模型。
15.第二方面，本技术提供一种微小视频内容过滤与净化的系统，所述系统包括处理器以及存储器：
16.所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
17.所述处理器用于根据所述程序代码中的指令执行第一方面四种可能中任一项所述的方法。
18.第三方面，本技术提供一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行第一方面四种可能中任一项所述的方法。
19.本发明提供一种微小视频内容过滤与净化的方法和系统，通过将接收的微小视频数据流经过两重视频采样，得到携带有边界和区域局部特征的高维图像，从而能够识别出物体和运动方式，判断是否合规，再经过情感分类处理，根据情感类型再次判断是否合规。
附图说明
20.为了更清楚地说明本发明实施例中的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
21.图1为本发明方法的流程图。
具体实施方式
22.下面结合附图对本发明的优选实施例进行详细阐述，以使本发明的优点和特征能更易于被本领域技术人员理解，从而对本发明的保护范围做出更为清楚明确的界定。
23.图1为本技术提供的微小视频内容过滤与净化的方法的流程图，包括：
24.服务器接收微小视频数据流，所述微小视频是指播放时间长度小于10分钟的视频，将接收后的所述微小视频数据流进行视频采样，所述视频采样使用基础过滤单元来提取第一图像特征，将所述第一图像特征进行向量化，输入到n层卷积单元，根据所述n层卷积单元的输出结果，得到第一中间结果；
25.所述第一中间结果的每一个点生成一个锚点，锚点的值是由每个点的特征与四周相邻点的特征加权平均计算得到的；若干个锚点组成一个滑动窗，组成该滑动窗所需的锚点数目由最中间锚点所属的点的特征大小决定；
26.使用所述滑动窗再次对视频流量进行视频采样，提到第二图像特征，将所述第二图像特征进行向量化，输入到n层卷积单元，根据所述n层卷积单元的输出结果，得到第二中间结果；
27.对所述第二中间结果进行平滑处理，得到携带有边界和区域局部特征的高维图
像，分析该高维图像，识别图像中的物体和运动方式，检测出该物体和运动方式是否合规，如果不合规则将该微小视频数据流过滤除去，如果合规则将该微小视频数据流传递到情感分类模型；
28.所述情感分类模型按照语义逐项分析，判断所述微小视频数据流是否包括指定关键词、语句含义、以及提取语境特征，根据所述语境特征和所述语句含义，判断弹幕的情感类型；
29.根据所述情感分类模型确定的情感类型，判断所述微小视频数据流携带的指定关键词是否符合该情感类型限定的合理范围，如果是则认定该微小视频数据流合规，允许播放，反之则认定该微小视频数据流不合规，将该微小视频数据流过滤除去。
30.在一些优选实施例中，所述n层卷积单元是由n个依次连接的卷积运算模块组成，n的值反映服务器负载处理的能力。
31.在一些优选实施例中，所述语句含义是指弹幕语句所指代的意思，所述语境特征是指弹幕语句所处的场景，该场景是根据语义分析模拟推测的。
32.在一些优选实施例中，所述识别图像中的物体和运动方式的过程中采用了神经网络模型。
33.本技术提供一种微小视频内容过滤与净化的系统，所述系统包括：所述系统包括处理器以及存储器：
34.所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；
35.所述处理器用于根据所述程序代码中的指令执行第一方面所有实施例中任一项所述的方法。
36.本技术提供一种计算机可读存储介质，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行第一方面所有实施例中任一项所述的方法。
37.具体实现中，本发明还提供一种计算机存储介质，其中，该计算机存储介质可以存储有程序，该程序执行时可包括本发明各个实施例中的部分或全部步骤。所述的存储介质可以为磁碟、光盘、只读存储记忆体(简称：rom)或随机存储记忆体(简称：ram)等。
38.本领域的技术人员可以清楚地了解到本发明实施例中的技术可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明实施例中的技术方案本质上或者对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如rom/ram、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机、服务器、或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。
39.本说明书各个实施例之间相同相似的部分互相参见即可。尤其，对于实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例中的说明即可。
40.以上所述的本发明实施方式并不构成对本发明保护范围的限定。

技术特征：
1.一种微小视频内容过滤与净化的方法，其特征在于，所述方法包括：服务器接收微小视频数据流，所述微小视频是指播放时间长度小于10分钟的视频，将接收后的所述微小视频数据流进行视频采样，所述视频采样使用基础过滤单元来提取第一图像特征，将所述第一图像特征进行向量化，输入到n层卷积单元，根据所述n层卷积单元的输出结果，得到第一中间结果；所述第一中间结果的每一个点生成一个锚点，锚点的值是由每个点的特征与四周相邻点的特征加权平均计算得到的；若干个锚点组成一个滑动窗，组成该滑动窗所需的锚点数目由最中间锚点所属的点的特征大小决定；使用所述滑动窗再次对视频流量进行视频采样，提到第二图像特征，将所述第二图像特征进行向量化，输入到n层卷积单元，根据所述n层卷积单元的输出结果，得到第二中间结果；对所述第二中间结果进行平滑处理，得到携带有边界和区域局部特征的高维图像，分析该高维图像，识别图像中的物体和运动方式，检测出该物体和运动方式是否合规，如果不合规则将该微小视频数据流过滤除去，如果合规则将该微小视频数据流传递到情感分类模型；所述情感分类模型按照语义逐项分析，判断所述微小视频数据流是否包括指定关键词、语句含义、以及提取语境特征，根据所述语境特征和所述语句含义，判断弹幕的情感类型；根据所述情感分类模型确定的情感类型，判断所述微小视频数据流携带的指定关键词是否符合该情感类型限定的合理范围，如果是则认定该微小视频数据流合规，允许播放，反之则认定该微小视频数据流不合规，将该微小视频数据流过滤除去。2.根据权利要求1所述的方法，其特征在于：所述n层卷积单元是由n个依次连接的卷积运算模块组成，n的值反映服务器负载处理的能力。3.根据权利要求1-2任一项所述的方法，其特征在于：所述语句含义是指弹幕语句所指代的意思，所述语境特征是指弹幕语句所处的场景，该场景是根据语义分析模拟推测的。4.根据权利要求1-3任一项所述的方法，其特征在于：所述识别图像中的物体和运动方式的过程中采用了神经网络模型。5.一种微小视频内容过滤与净化的系统，其特征在于，所述系统包括处理器以及存储器：所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；所述处理器用于根据所述程序代码中的指令执行实现权利要求1-4任一项所述的方法。6.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质用于存储程序代码，所述程序代码用于执行实现权利要求1-4任一项所述的方法。

技术总结
本发明提供一种微小视频内容过滤与净化的方法和系统，通过将接收的微小视频数据流经过两重视频采样，得到携带有边界和区域局部特征的高维图像，从而能够识别出物体和运动方式，判断是否合规，再经过情感分类处理，根据情感类型再次判断是否合规。感类型再次判断是否合规。感类型再次判断是否合规。


技术研发人员：苏长君 曾祥禄
受保护的技术使用者：北京智美互联科技有限公司
技术研发日：2021.11.29
技术公布日：2022/3/8