打击黑灰产，比心陪练、荔枝等企业携力守牢内容安全底线

5月19日，2021网络表演（直播与短视频）行业年度峰会主要分论坛之一，网络表演（直播与短视频）构建清朗网络直播生态研讨会在沪召开。

围绕“打击网络诈骗·守护直播安全”和“科技赋能·价值直播”两个话题，聚焦产业发展趋势，探讨网络直播（短视频）行业的网络安全和内容生态治理。文化和旅游部市场管理司、国家反诈中心、公安部刑侦局、中国传媒大学文化产业管理学院、中国社会科学院大学互联网法治研究中心、中国信息通信研究院等多位来自政府主管部门和专业研究机构的嘉宾、学者，及数十家网络平台企业代表齐聚。

文化和旅游部市场管理司一级巡视员李健在致辞中表示，构建清朗网络直播生态，需要一手抓市场监督管理，一手抓网络内容建设，并对行业健康发展提出三点要求。首先要提高网络安全防护意识，行业企业要警惕违法犯罪手段的网络化趋势，加强有关账号注册审核，提高直播间内容巡查监看能力；其次要大力弘扬社会主义核心价值观，传播中华优秀传统文化，把好内容关，重点打击不良价值导向内容，禁止恶意“带节奏”的行为；第三要加强科学研究，利用科技创新，加强资源融合和技术创新，拓宽发展道路，创新商业模式，在坚守安全底线的前提下，推动新技术应用，用科技赋能行业，扩大网络直播应用范围，推动与各领域的项目合作，引导“直播+”业态创新。

文化和旅游部市场管理司一级巡视员李健

在“科技赋能·价值直播”环节，来自中国社会科学院大学、中国信息通信研究院的专家，以及来自即构科技、依图科技、国信聚安、荔枝、比心等企业的负责人，就坚守安全底线前提下，推动新技术引导“直播+”更丰富、多元的业态。

“打击网络诈骗 守护直播安全”圆桌讨论

近两年，线上“体验共享”经济很火热，与线下真人交互不同的是线上体验要做到真·共享体验，其要实现的核心是：实时性和互动性。即构泛娱乐产品负责人、高级架构师曾小伟分享了社交泛娱乐行业内，体验共享场景的创新场景，在音视频技术的加持下，低延迟互动体验带来的业务增长。

随着监管的逐渐完善，AI、5G等信息基础设施的发展和应用，内容安全的形势愈加严峻，在这样的背景下，智能、高效的内容安全体系愈发成为行业的需要。依图科技AI SAAS 事业部总经理隋杨分享了《人工智能在内容安全方面的实践与趋势》。

互联网平台内容的爆发，让数据量呈指数级增长，同时裹挟大量不良有害信息，严重影响平台的内容生态。荔枝技术副总裁FUMIN详细介绍了违规不良信息的侵害路径，并指出，企业应从流程管理、技术建设和意识形态三方面共同发力，为用户营造清朗网络空间。

互联网的发展，新兴业态不断涌现，为内容生态治理带来挑战，内容安全服务机构国信聚安CEO陈太锋介绍，新技术、新应用、新场景的出现对网络直播提出了新的审核要求，从单一的内容审核到对货物、交易流程的审核管控等内容的多元审核，需要紧扣内容安全治理中人才和机制两大核心，建立完善的内容安全治理机制。

对于内容生态的治理要“多元共治”。比心技术副总裁尤勇认为，平台应注重与监管部门、用户、第三方的共建共治，以应对内容安全的挑战，加强数字化能力建设，构建起内容安全治理的“科技阀门”，共同建立直播行业健康生态。

信通院云大所的石霖介绍，面对大量不良有害信息，信通院作为国家级的研究机构，通过大量的调查研究、制定行业标准、开展评估测试检测等工作，深入研究网络生态治理，服务与网络直播行业的发展。

从《网络信息内容生态治理规定》到《关于加强网络直播规范管理工作的指导意见》等规定的出台，都对网络生态的建设产生重要影响，中国社会科学院大学互联网法治研究中心执行主任认为，一系列意见的发布是对直播行业的正向引导和行业自律的重要体现，一方面明确主体责任，通过对主体严格的规范推进相关的规则和价值导向的落实；另一方面是治理上的创新，由平台对主播进行治理和管理，充分发挥了行业自律的角色。

数字化时代，面对网络黑灰产业的蔓延和内容生态治理的挑战，需要各方群策群力、多元共治，联动起来建立内容安全体系，切实做到“魔高一尺，道高一丈”，培育积极健康、向上向善的网络文化，打造健康的直播内容生态圈。