神眼内容审核系统,用AI筑起一道内容安全防护墙

AiChinaTech

    移动互联网时代数字媒体及社交平台快速发展,互联网数据量水涨船高,其中视频类数据占比达到了80%,这标志着国内外一批优秀的流媒体视频平台的快速成长,而在社交媒体领域视频也成了主要的信息载体,大量的数据内容审核需求随之而来。对于平台方而言内容审核很关键,通常国内主流的社交产品都拥有超过千人的审核团队,流媒体巨头YouTube、社交巨头Facebook的内容审核人员更是超过万人。
    对于内容审核而言,常见的问题包括造谣、传谣、色情、暴力、种族等,这些问题在UGC平台尤为凸显。因为用户基数庞大,在用音视频形式输出内容时,对于平台等审查难度随之提高,并且有时违规内容的边界并不十分的清晰,这都给内容审核者的工作带来困难。当下常见的内容审核机制分为两种,一是采用过用户标记有问题的内容让机器学习,二是平台根据用户直接上报侮辱性、攻击性内容,从管理系统上标记此类内容,进行特别审核并删除。
    政策及行业层面,国家互联网信息办公室在2019年11月-12月先后发布了《网络音视频信息服务管理规定》和《网络信息内容生态治理规定》。对网络信息内容生产者、网络信息内容服务平台、网络信息内容服务使用者、网络行业组织等提出了明确的管理要求。随后,中国网络视听节目服务协会联合央视网、芒果TV、腾讯视频、优酷等多家平台共同制订了《网络综艺节目内容审核标准细则》,经协会常务理事会会议审议通过,并发布。
    在此背景下,极链科技Video++针对目前行业面临的主要问题,响应政策号召,结合人工智能技术,打造全栈式智能内容安全审核引擎——神眼系统,用AI技术帮助平台方减轻内容审核压力、降低内容审核成本,为客户提供一站式的智能内容安全解决方案。
    
    神眼内容安全审核系统基于先进的深度学习算法,面向视频平台、社交网站、网络社区、融媒体等客户群体,提供包括视频、文本、图像等泛内容的涉黄、暴力、政治敏感等风险内容的识别,高效遏制风险、全面释放审核人力、提高审核效率、净化网络环境、提升用户体验。
    产品核心功能包括:智能鉴黄、智能鉴暴、政治敏感人物识别、公众人物识别、违禁品识别、广告检测、图像质量检测、logo识别、OCR审核等。该系统支持本地私有化部署,独立的运营平台满足精细化运营需求,并为客户配套三次审核流程,机器+人工双重保障审核准确率高于行业平均水平,为企业构建牢不可破的安全防御体系。
    神眼内容安全审核系统基于海量特征样本的多维度内容识别技术,采取全序列采样识别,支持轨迹流跟踪,有效提升视频抽帧的质量和检测效率。该技术能为视频、图片、文本等场景提供强大的深度学习算法和算力保证,对政治人物、色情、暴恐、旗帜等内容进行识别审核,大幅度降低内容风险,可减少90%以上人工审核成本。
    经过多年的技术迭代升级,极链科技Video++构筑了技术壁垒,拥有视频识别、图像识别、文本识别等人工智能技术,沉淀了包括VideoAI金目视频内容结构化引擎、顽石OS视联网操作系统、VideoNet视频AI数据集等一系列的基础平台,专注消费级视频AI技术研发和商业应用。
    目前,神眼内容安全审核系统已全面对外开放,极链期待与更多企业携手并进,共同努力打造更加安全健康的网络环境。