网络短视频新规发布，平台内容审核机制合规汇总
1月9日，中国网络视听节目服务协会正式发布了《网络短视频内容审核标准细则》和《网络短视频平台管理规范》，以提升短视频内容质量，遏制错误虚假有害内容传播蔓延，营造清朗网络空间。此外，近日为整顿网络生态问题频发、各类有害信息屡禁不止等突出问题，国家网信办启动网络生态治理专项行动。此次专项行动于2019年1月正式启动，将持续开展6个月，主题为对各类网站、移动客户端、论坛贴吧、即时通信工具、直播平台等重点环节中的淫秽色情、低俗庸俗、暴力血腥、恐怖惊悚、赌博诈骗、网络谣言、封建迷信、谩骂恶搞、威胁恐吓、标题党、仇恨煽动、传播不良生活方式和不良流行文化等12类负面有害信息进行整治。实际上，1月2日北京网信办的对搜狐、百度相关产品的整顿公告就已经昭示了本次专项行动的内容和方向。
整顿单位 | 整顿原因 |
搜狐WAP网、搜狐新闻客户端 | 传播低俗庸俗信息、破坏网上舆论生态等问题 |
百度手机网页版、百度新闻客户端“推荐频道”、百度APP“女人频道”“搞笑频道”“情感频道” | 传播低俗庸俗信息、严重破坏网上舆论生态等问题 |
北京网信办对上述两个整顿单位的相关负责人进行约谈，并责令其立即全面深入整改，相关产品暂停更新。种种迹象传递出执法层面对净化网络舆论环境的要求，促使各类网络运营平台准确把握内容审查的监管红线，开展合规自我审查，警惕因越线带来的法律风险。
一、 合规主体
《互联网跟帖评论服务管理规定》第二条指出，具有内容审查义务的主体包括互联网站、应用程序、互动传播平台以及其他具有新闻舆论属性和社会动员功能的传播平台，而且审查对象不仅局限于文字和图片创建的原创信息，更是包括了以发帖、回复、留言、“弹幕”等方式，为用户提供发表文字、符号、表情、图片、音视频等信息。《即时通信工具公众信息服务发展管理暂行规定》第二条则要求，通过基于互联网面向终端使用者提供即时信息交流服务的即使通信工具对其公众账号及其他形式向公众发布信息也需要尽到内容审查义务。依据《互联网论坛社区服务管理规定》第二条和第五条规定，在中国境内以论坛、贴吧、社区等形式，为用户提供互动式信息发布社区平台对其平台内发布的信息具有安全审查义务。《网络安全法》（下称“《网安法》”）第四十七条规定，网络运营者应当加强对其用户发布的信息的管理。刚出炉的《网络短视频内容审核标准细则》和《网络短视频平台管理规范》在标准细则方面加强了在中国境内向公众提供互联网视听节目活动的网络运营者的内容审查义务。
综上，负有内容审查义务的主体可归纳为如下表1所示：
表1：负有内容审查义务的主体汇总
法律依据 | 审查义务主体 | 审查对象 |
《互联网跟帖评论服务管理规定》第二条 | 互联网站、应用程序、互动传播平台以及其他具有新闻舆论属性和社会动员功能的传播平台 | 以发帖、回复、留言、“弹幕”等方式，为用户提供发表文字、符号、表情、图片、音视频等信息 |
《即时通信工具公众信息服务发展管理暂行规定》第二条 | 基于互联网面向终端使用者提供即时信息交流服务的应用 | 其公众账号及其他形式向公众发布信息 |
《互联网论坛社区服务管理规定》第二条、第五条 | 在中国境内以论坛、贴吧、社区等形式，为用户提供互动式信息发布社区平台 | 其平台内发布的信息 |
《网安法》第二条、第四十七条规定 | 在境内建设、运营、维护和使用网络，以及网络安全监督管理的网络运营者 | 其用户发布的信息 |
《互联网视听节目服务管理规定》第二条及《网络短视频内容审核标准细则》第二条 | 在中国境内向公众提供互联网视听节目活动的网络运营者 | 网络播放的短视频节目，及其标题、名称、评论、弹幕、表情包等，其语言、表演、字幕、背景 |
依据《网安法》第四十七条，所有网络运营者对其用户发布的信息都应负有内容审查义务，不再局限于特定网络服务提供者，审查对象的内容和形式也更为广泛，只要是能够用来表达一定观点或内容的信息，不论其表达形式如何都应当纳入审查范围。
二、主要合规内容
（一）账号管理制度
网络运营者应当加强对其注册账户的管理。《网安法》第二十四条规定，为用户提供信息发布、即时通讯等服务的网络运营者，在与用户签订协议或者确认提供服务时，应当要求用户提供真实身份信息。用户不提供真实身份信息的，网络运营者不得为其提供相关服务。目前我国通用的实名制认证方式有身份证认证、手机认证、银行卡认证等三种方式，网络运营者可以选择其中一种或多种方式要求用户提供真实信息。在技术措施上，《网络短视频平台管理规范》要求网络短视频平台应当采用新技术手段，如用户画像、人脸识别、指纹识别等，确保落实账户实名制管理制度。
《互联网跟帖评论服务管理规定》《即时通信工具公众信息服务发展管理暂行规定》等法律规范也提出，相关平台对其用户注册应当实施“前台自愿，后台实名”的实名制管理要求。此外，《互联网用户账号名称管理规定》还规定相关平台对账户名称、头像和简介等注册信息负有审核义务，对含有违法和不良信息的，不得予以注册，应当采取通知限期改正、暂停使用、注销登记等措施。值得特别关注的是，《网络短视频平台管理规范》对账户管理制度提出了更细致具体的要求，即对机构注册账户上传节目的，应当核实其组织机构代码证等信息；对个人注册账户上传节目的，应当核实身份证等个人身份信息。
（二）信息发布管理制度
依《网安法》第四十七条规定，网络运营者应当加强对其用户的信息管理。《互联网跟帖评论服务管理规定》规定，跟帖评论服务提供者应建立健全跟帖评论审核管理、实时巡查、应急处置等信息安全管理制度，及时发现和处置违法信息，并向有关主管部门报告。《即时通信工具公众信息服务发展管理暂行规定》《互联网论坛社区服务管理规定》等其他法规也有类似的规定，要求网络运营者对其用户在该平台上发布的信息内容进行审核，不得出现下列情形：
表2：违法违规信息内容
违反宪法或法律法规规定的； |
危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的； |
损害国家荣誉和利益的，损害公共利益的； |
煽动民族仇恨、民族歧视，破坏民族团结的； |
破坏国家宗教政策，宣扬邪教和封建迷信的； |
散布谣言，扰乱社会秩序，破坏社会稳定的； |
散布淫秽、色情、赌博、暴力、凶杀、恐怖或者教唆犯罪的； |
侮辱或者诽谤他人，侵害他人合法权益的； |
含有法律、行政法规禁止的其他内容的。 |
此外，《互联网跟帖评论服务管理规定》对两类提供跟帖评论服务的平台还提出更高的要求。即（1）提供新闻信息跟帖评论服务的，应当建立先审后发制度；（2）以“弹幕”方式提供跟帖评论服务的，应当在同一平台和页面同时提供与之对应的静态版信息内容。而且，网络运营者还需要关注平台内容知识产权保护方面的审查要求，不得制作、发布侵犯他人知识产权的相关信息。《网络短视频内容审核标准细则》将表2中的各类违法违规内容细化成21部分共100条的审核标准细则，不仅是为网络短视频运营者细化了审核标准，也是为所有网络运营者内容审核提出标准要求。
（三）人员配置
网络运营者应当设立专门的内容审核岗位并配备相应人员。《互联网跟帖评论服务管理规定》第五条第七项要求，有关平台应配备与服务规模相适应的审核编辑队伍，提高审核编辑人员专业素养。《网络短视频平台管理规范》第5条提出，审核员应当经过省级以上广电管理部门组织的培训，而且将“与服务规模相适应”进行量化，即“审核员人数应当在本平台每天新增播出短视频条数的千分之一以上”。
（四）及时阻断传播义务
依《网安法》第五十条的规定，当出现法律、行政法规禁止发布或传输的信息时，网络运营者应当具备停止传输、消除和其他必要阻断传播的技术措施。即网络运营者应当建立有效的前台举报机制，经举报或主动发现平台上有法律、行政法规禁止发布或者传输的信息，应当具备采取有效的停止传输、采取消除等必要措施阻断传播处置措施、并保存有关记录的技术能力。
三、合规建议
（一）践行实名认证制度
根据《网安法》规定网络服务提供者应对双边市场的用户均进行实名认证。网络运营者在与用户签订协议或者提供服务时，以协议条款的形式列明，要求用户保证其所提供身份信息的真实性，并明确禁止“一号多用”或转号的行为。在进行用户信息收集时，应明确用户信息必须填写范围，以确保用户提供的真实身份信息的有效性，可根据所提供信息确定具体的特定个人，如基于用户提供的移动电话号码可以确定特定主体。网络短视频运营者还应当采用新技术手段，如用户画像、人脸识别、指纹识别等，采用多层次的手段确保落实账户实名制管理制度。在对注册用户信息的管理上，互联网论坛社区服务提供者还需要注意对版块发起者和管理者实施真实身份信息备案、定期核验等，以充分履行网络运营者的信息管理义务。
（二）建立健全平台信息发布审核制度
网络运营者应当建立系统的平台内容审核制度，包括实施细则和实施流程。对在平台上发布的文字、符号、图片、音视频及其标题、名称、评论、弹幕、表情包等各类信息，先经过人工或自动的敏感词库和敏感图像识别技术筛选、屏蔽后发布。完善应急处置管理制度，对发现表1中所含的违法违规信息内容，及时视情况采取警示、限制功能、暂停更新、关闭账号等处置措施，保存记录并向有关主管部门报告。网络短视频平台还应当建立“违法违规上传账户名单库”，对在该平台注册账户上传节目的组织或个人进行管理。
（三）审核岗位与人员配备
建立“算法+人工”的内容审核系统，配备审核员人数应当在本平台每天新增需审查内容千分之一以上，以满足配备与服务规模相适应的审核编辑队伍的要求。并通过定期的教育培训和考核提高审核编辑人员专业素养，网络短视频运营者的审核员还应当经过省级以上广电管理部门组织的培训。除发布信息的内容审核外，审核编辑人员还应当配对平台注册用户提交的账号名称、头像和简介等注册信息进行审核，对含有违法和不良信息的，不予注册。
（四）及时阻断传播
网络经营者应当建立健全公众投诉、举报制度。在显著位置公布投诉、举报方式，建立分类举报途径，及时处理不同类型的公众投诉、举报：
1、对违法违规信息举报，采取“平台审核+公众举报”的内容审查形式，发现后应即刻采取系列阻断传播或消除的处置措施，防止信息扩散；
2、对人身侵权类信息，采取利益相关人举报的审核形式。建立完善的侵权通知受理制度，在接到平台用户对其他用户发布的涉嫌侵权信息举报通知时，及时对要求删除相关信息的理由等通知内容进行合理性审查，之后应立即决定采取或不采取对侵权信息采取删除、屏蔽、断开链接等措施，并注意将采取或不采取措施的决定和依据反馈给举报人。
3、对知识产权侵权类信息，网络运营者应完善版权投诉处理机制。履行好法定的“通知—删除”义务，及时受理权利人的通知投诉，并快速移除相关侵权作品或断开相关侵权链接。并采取有效措施防止用户未经许可违法上传、分享他人作品的行为，特别是以合理使用为名对他人作品删减改编并通过网络传播的行为。对于多次侵权被投诉的用户，应当采取列入黑名单、暂停或者终止服务等处罚措施
四、法律责任
（一）行政责任
关于未尽平台内容审查义务，依据相关法律法规（见下表3），网络运营者承担责任的形式有：（1）约谈，进行整改；（2）警告，没收违法所得；（3）拒不改正或情节严重的，处以罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照。对于直接负责的主管人员和其他直接责任人员则按规定处以罚款。
表3：违反内容审查义务的行政责任
条目 | 详细内容 |
《网络安全法》第六十八条第一款 | 网络运营者违反本法第四十七条规定，对法律、行政法规禁止发布或者传输的信息未停止传输、采取消除等处置措施、保存有关记录的，由有关主管部门责令改正，给予警告，没收违法所得；拒不改正或者情节严重的，处十万元以上五十万元以下罚款，并可以责令暂停相关业务、停业整顿、关闭网站、吊销相关业务许可证或者吊销营业执照，对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。 |
《互联网跟帖评论服务管理规定》第十一条 | 跟帖评论服务提供者信息安全管理责任落实不到位，存在较大安全风险或者发生安全事件的，国家和省、自治区、直辖市互联网信息办公室应当及时约谈；跟帖管理服务提供者应当按照要求采取措施，进行整改，消除隐患。 |
《即时通信工具公众信息服务发展管理暂行规定》第九条 | 对违反本规定的行为，由有关部门依照相关法律法规处理。 |
《互联网论坛社区服务管理规定》第十二条 | 互联网论坛社区服务提供者违反本规定的，由有关部门依照相关法律法规处理。 |
（二）侵权赔偿责任
2018年6月6日，北京市网信办、北京市工商局针对抖音在搜狗搜索引擎投放的广告中出现侮辱英烈内容问题，依法联合约谈查处抖音、搜狗，责令网站立即清除相关违法违规内容并进行严肃整改。这两个平台因在广告投放之前，没有尽到审核义务，导致违法广告的扩散和传播，按照平台主体责任承担相应的法律责任。从此案例中可以了解到，网络运营者对其平台上发布的内容未尽到相应审核义务时，除了需要按表2所列法律依据承担法律责任外，还需要对侵权责任承担连带责任。
表4：未尽内容审查义务的侵权损害责任
条目 | 详细内容 |
《侵权责任法》 第三十六条 | 网络用户、网络服务提供者利用网络侵害他人民事权益的，应当承担侵权责任。 网络用户利用网络服务实施侵权行为的，被侵权人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施。网络服务提供者接到通知后未及时采取必要措施的，对损害的扩大部分与该网络用户承担连带责任。 网络服务提供者知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，与该网络用户承担连带责任。 |
《最高人民法院关于审理利用信息网络侵害人身权益民事纠纷案件适用法律若干问题的规定》第三条 | 原告依据侵权责任法第三十六条第二款、第三款的规定起诉网络用户或者网络服务提供者的，人民法院应予受理。 原告仅起诉网络用户，网络用户请求追加涉嫌侵权的网络服务提供者为共同被告或者第三人的，人民法院应予准许。 原告仅起诉网络服务提供者，网络服务提供者请求追加可以确定的网络用户为共同被告或者第三人的，人民法院应予准许。 |
《最高人民法院关于审理涉及计算机网络著作权纠纷案件适用法律若干问题的解释》第四条 | 提供内容服务的网络服务提供者，明知网络用户通过网络实施侵犯他人著作权的行为，或者经著作权人提出确有证据的警告，但仍不采取移除侵权内容等措施以消除侵权后果的，人民法院应当根据民法通则第一百三十条的规定，追究其与该网络用户的共同侵权责任。 |
五、小结
《网络短视频内容审核标准细则》《网络短视频平台管理规范》新规的发布，以及此次专项行动的开展和现有整顿公告的发布都表明执法层面对网络舆情问题的高度重视。网络运营者应当严格落实平台内容审查制度，积极审视管理制度上的不足，排查平台信息安全管理的薄弱环节，从而更好履行企业主体责任和社会责任。