融入AI技术多方联手共治 互联网企业多措并举治理网络黑灰产

　　中国青年网北京7月8日电（记者 安俐 实习生 姚景玉）你开通电话卡时，不法分子就可能用你的个人信息开卡开号，用于“刷粉、刷单”。购物网站、电商平台推出优惠活动时，不法分子却利用平台规则“薅羊毛”诈骗……近年来，随着互联网广泛渗透到社会经济生活的方方面面，一些不法分子通过人工智能、大数据等新技术在众多领域内实施网络犯罪，形成了网络黑灰产业，严重损害网民的合法权益。

　　为有效保护网民的基本权益，近年来，中央网信办等部门组织开展“清朗·打击流量造假、黑公关、网络水军”专项行动、“清朗·算法综合治理”专项行动等。通过集中治理，有效遏制了乱象蔓延，取得了积极的治理成效。2023年11月，公安部通报了“全国公安机关持续开展‘净网’系列专项行动，全力打击黑客类违法犯罪”的举措及总体成效，数据显示，自2022年以来，全国公安机关共侦破黑客类犯罪案件2430起、抓获犯罪嫌疑人7092名，有效斩断了以黑客犯罪为核心的黑产链条，切实保障了网络与数据安全，有力维护了网络空间正常秩序。

　　天网恢恢，但网络违法犯罪新手段和方法层出不穷，网络黑灰产也在不同平台呈现差异化的表现形式。对黑灰产进行行之有效的治理，不仅是监管部门的责任，还需要互联网企业的深度参与。“我们在警企联动等方面，探索了很多新的打击网络黑灰产的方法。”YY直播相关负责人介绍。

　　警企联动 高效打击网络黑灰产

　　网络犯罪具有隐蔽性，不法分子可能随时侵入，且从事网络黑灰产业的人普遍具有较强的技术素质和反侦查能力。业内专家认为，网络黑灰产业具有产业链利益关系复杂，发展迅速、犯罪跨平台且资金流向分散、打击工作存证取证难等特点，近年来黑灰产技术手段越来越强，形式日益多样化，而且开始面向云业务和移动应用等形态。日趋链条化、体系化的网络黑灰产，损害了广大互联网用户的利益，恶化了网络空间的信息生态和内容生态，已成为严重危害公民权益和数字经济发展的毒瘤。面对狡猾的不法分子，一些互联网企业开始选择借助人工智能、大数据等新兴技术对黑灰产进行了有效封堵与长效治理。

　　以YY直播为例，该企业安全风控系统负责人表示，初代“风盾”拥有“可疑账号风险等级划分”“涉诈风险交易拦截”“自动连接客诉”“AI识别关键词命中”四大核心技术能力，对平台常见诈骗手段形成有效反制。迭代后的“风盾”进一步强化了涉诈信息识别、拦截能力，对于低俗、涉黄等其他违规信息也能做到高效处置。2024年上半年，“风盾”系统成功拦截风险充值金额980万元，有效保障了用户财产安全。

　　要实现对于黑灰产业的根治，在以平台治理为抓手的同时，还要形成联动治理、有效共治。YY直播相关负责人介绍，其通过与公安机关实现涉诈信息互通，反诈宣讲协同，进一步强化对网络黑灰产的打击力度，破获多起典型诈骗案件。该企业《2024生态治理半年报》显示，2024年上半年，其持续加码打击网络黑灰产，处理涉网络欺诈、低俗引流等黑灰产账号8.1万个，向公安机关输出诈骗类案件破案线索89条，协助公安机关抓获涉诈骗犯罪嫌疑人53人，有力震慑了黑灰产犯罪分子。

　　“互联网企业是承担反诈风险防控义务与责任的核心主体。我们深知只有在全链条、多维度同步启动防诈反诈工作，强化防诈反诈宣传，才能取得更好效果。”该企业相关负责人表示，未来，将持续提升科技实力，投入平台资源，创新内容形式，筑牢反诈“防火墙”，守住用户“钱袋子”。

　　治理与建设双管齐下 构建健康内容生态

　　当前，直播行业经过长期的探索和优化，已经逐渐从前期的“野蛮生长”走向“内容为王”，内容质量成为直播能否受到网民亲睐的关键。专家指出，内容创作者与用户能否产生有价值的互动、劣质账号能否得到有力控制和打击等因素，都会影响到内容创作者和用户对平台的归属感。因此，对于内容创作者的行为规范是维护平台生态的重要一环。

　　要打造积极健康的内容生态，既需要主播加强自律，又需要平台加强监督。YY直播相关负责人介绍，一方面，该企业连续出台《主播健康分阶梯管理办法》《公会违规管理办法》，通过限制直播、冻结佣金、调整佣金比例甚至清退等处罚措施，规范主播、公会行为。同时，进一步增加用户举报奖励，充分发挥“志愿者联盟”的监督巡查作用。该企业《2024生态治理半年报》显示，上半年全平台处理用户举报违规信息29518条，自主巡查清理违规图文信息32753条，有力保障了平台内容清朗。

　　今年，YY直播炬光联盟“悦见九州计划”正式启动，通过直播形式带领广大网友饱览祖国大好河山，感受各地风土人情，了解中华优秀传统文化，实现“云游四海，悦见九州”。3月，该企业主导的“微光成炬，好赞广东——志愿者公益故事”征集活动迎来收官，28个暖心志愿者故事脱颖而出，温暖着平台主播和用户。这些活动背后，是企业在积极健康内容生态的另一方面考虑——以“正能量”“年轻化”的内容，通过多元化的呈现，向年轻受众传递积极向上的力量，引发与年轻群体的共鸣，从而增强用户黏性，是打造积极健康的内容生态的“不二法门”。只有持续在新技术、新领域发力，发挥自身生态资源优势和多年沉淀的技术实力，才能为用户带来更多元、更新颖的玩法和视觉体验。

　　着眼未来，YY直播还有更长远的打算，其相关负责人表示，未来将继续秉承“用户至上”的理念，不断加强生态治理，努力为用户提供更加健康、有趣的直播内容，为构建一个安全、清朗的网络空间，探索不止。