中国青年网北京7月8日电(记者 安俐 实习生 姚景玉)你开通电话卡时,不法分子就可能用你的个人信息开卡开号,用于“刷粉、刷单”。购物网站、电商平台推出优惠活动时,不法分子却利用平台规则“薅羊毛”诈骗……近年来,随着互联网广泛渗透到社会经济生活的方方面面,一些不法分子通过人工智能、大数据等新技术在众多领域内实施网络犯罪,形成了网络黑灰产业,严重损害网民的合法权益。
为有效保护网民的基本权益,近年来,中央网信办等部门组织开展“清朗·打击流量造假、黑公关、网络水军”专项行动、“清朗·算法综合治理”专项行动等。通过集中治理,有效遏制了乱象蔓延,取得了积极的治理成效。2023年11月,公安部通报了“全国公安机关持续开展‘净网’系列专项行动,全力打击黑客类违法犯罪”的举措及总体成效,数据显示,自2022年以来,全国公安机关共侦破黑客类犯罪案件2430起、抓获犯罪嫌疑人7092名,有效斩断了以黑客犯罪为核心的黑产链条,切实保障了网络与数据安全,有力维护了网络空间正常秩序。
天网恢恢,但网络违法犯罪新手段和方法层出不穷,网络黑灰产也在不同平台呈现差异化的表现形式。对黑灰产进行行之有效的治理,不仅是监管部门的责任,还需要互联网企业的深度参与。“我们在警企联动等方面,探索了很多新的打击网络黑灰产的方法。”YY直播相关负责人介绍。
警企联动 高效打击网络黑灰产
网络犯罪具有隐蔽性,不法分子可能随时侵入,且从事网络黑灰产业的人普遍具有较强的技术素质和反侦查能力。业内专家认为,网络黑灰产业具有产业链利益关系复杂,发展迅速、犯罪跨平台且资金流向分散、打击工作存证取证难等特点,近年来黑灰产技术手段越来越强,形式日益多样化,而且开始面向云业务和移动应用等形态。日趋链条化、体系化的网络黑灰产,损害了广大互联网用户的利益,恶化了网络空间的信息生态和内容生态,已成为严重危害公民权益和数字经济发展的毒瘤。面对狡猾的不法分子,一些互联网企业开始选择借助人工智能、大数据等新兴技术对黑灰产进行了有效封堵与长效治理。
以YY直播为例,该企业安全风控系统负责人表示,初代“风盾”拥有“可疑账号风险等级划分”“涉诈风险交易拦截”“自动连接客诉”“AI识别关键词命中”四大核心技术能力,对平台常见诈骗手段形成有效反制。迭代后的“风盾”进一步强化了涉诈信息识别、拦截能力,对于低俗、涉黄等其他违规信息也能做到高效处置。2024年上半年,“风盾”系统成功拦截风险充值金额980万元,有效保障了用户财产安全。
要实现对于黑灰产业的根治,在以平台治理为抓手的同时,还要形成联动治理、有效共治。YY直播相关负责人介绍,其通过与公安机关实现涉诈信息互通,反诈宣讲协同,进一步强化对网络黑灰产的打击力度,破获多起典型诈骗案件。该企业《2024生态治理半年报》显示,2024年上半年,其持续加码打击网络黑灰产,处理涉网络欺诈、低俗引流等黑灰产账号8.1万个,向公安机关输出诈骗类案件破案线索89条,协助公安机关抓获涉诈骗犯罪嫌疑人53人,有力震慑了黑灰产犯罪分子。
“互联网企业是承担反诈风险防控义务与责任的核心主体。我们深知只有在全链条、多维度同步启动防诈反诈工作,强化防诈反诈宣传,才能取得更好效果。”该企业相关负责人表示,未来,将持续提升科技实力,投入平台资源,创新内容形式,筑牢反诈“防火墙”,守住用户“钱袋子”。
治理与建设双管齐下 构建健康内容生态
当前,直播行业经过长期的探索和优化,已经逐渐从前期的“野蛮生长”走向“内容为王”,内容质量成为直播能否受到网民亲睐的关键。专家指出,内容创作者与用户能否产生有价值的互动、劣质账号能否得到有力控制和打击等因素,都会影响到内容创作者和用户对平台的归属感。因此,对于内容创作者的行为规范是维护平台生态的重要一环。
要打造积极健康的内容生态,既需要主播加强自律,又需要平台加强监督。YY直播相关负责人介绍,一方面,该企业连续出台《主播健康分阶梯管理办法》《公会违规管理办法》,通过限制直播、冻结佣金、调整佣金比例甚至清退等处罚措施,规范主播、公会行为。同时,进一步增加用户举报奖励,充分发挥“志愿者联盟”的监督巡查作用。该企业《2024生态治理半年报》显示,上半年全平台处理用户举报违规信息29518条,自主巡查清理违规图文信息32753条,有力保障了平台内容清朗。
今年,YY直播炬光联盟“悦见九州计划”正式启动,通过直播形式带领广大网友饱览祖国大好河山,感受各地风土人情,了解中华优秀传统文化,实现“云游四海,悦见九州”。3月,该企业主导的“微光成炬,好赞广东——志愿者公益故事”征集活动迎来收官,28个暖心志愿者故事脱颖而出,温暖着平台主播和用户。这些活动背后,是企业在积极健康内容生态的另一方面考虑——以“正能量”“年轻化”的内容,通过多元化的呈现,向年轻受众传递积极向上的力量,引发与年轻群体的共鸣,从而增强用户黏性,是打造积极健康的内容生态的“不二法门”。只有持续在新技术、新领域发力,发挥自身生态资源优势和多年沉淀的技术实力,才能为用户带来更多元、更新颖的玩法和视觉体验。
着眼未来,YY直播还有更长远的打算,其相关负责人表示,未来将继续秉承“用户至上”的理念,不断加强生态治理,努力为用户提供更加健康、有趣的直播内容,为构建一个安全、清朗的网络空间,探索不止。