李长江：就恶意内容而言 ， 去年一年 ， 我们检测的游戏内文本量有28045亿条 ， 拦截掉303亿条恶意文本信息；图片也审核了大约909亿张 ， 打击了728万张恶意图片 。
我们去年还在腾讯10多款游戏里上线了语音审核功能 ， 一共审核了61亿条语音数据 ， 处罚了1.6亿条非法语音 。 今年上半年 ， 我们的语音审核量达到了164亿条 ， 处罚量超过2020年全年 ， 有3.5亿条 。
我们对这些非法信息的处理方式 ， 主要分两类 。 一类是在用户发出来之前就进行判断和前置拦截 。 例如最普遍的文字类 ， 我们有全面的屏蔽词库以及丰富的技术方案和模型 ， 同时基于账号、信用、内容 ， 还有一些行为 ， 进行机器自动扫描和人工二次复核 ， 对这些非法UGC内容进行预防 。
因为它也是黑产 ， 会不断变化 ， 所以这也有一个对抗过程 。 我们最终可能还有一些没有检测到 ， 那就只能另一类处理方式 ， 也就是事后去补 ， 对违规用户进行禁言或者是其他一些处理 。
葡萄君：这种黑产的利益来自哪里？
李长江：主要是诈骗 。 比如说有些非法信息表面是色情 ， 但它最终还是为了诱惑用户去一些网址链接 ， 最终诈骗用户 。
除了诈骗 ， 非法信息类黑产还有可能存在博彩、广告或者引流 。 引流用户去其他APP ， 特别是其他游戏 ， 这是近几年产生的一个新问题 。 有一些公司会委托专门的商业组织 ， 在竞品游戏中拉拢客户 ， 从行业角度来说 ， 这么做是违规的 。 而且这些人诱导玩家去玩的那些游戏 ， 可能并不是正经游戏 ， 最终还是会回到诈骗 。 只有低俗谩骂这块 ， 一般和黑产关系不太大 ， 主要是个人行为 。
03
打击经济黑产 ， 不是简单的事
葡萄君：你们怎么看打金工作室这类经济黑产？
李长江：一个打金工作室通常会有多台设备 ， 或者多个账号 ， 或者使用脚本等工具 ， 来提高他们资源收集的效率 。

文章图片

图片摘选自《2021游戏安全白皮书》
除了工作室 ， 现在经济黑产的场景还有很多 。 比如在手游发展的初期 ， 他们会用一些非法渠道来源的信用卡来购买游戏内道具并转卖 ， 还有就是利用各国之间的汇率差来赚取利益 。 这些形式随着近两年政策的缩紧和渠道商的改进 ， 逐渐少了一些 。
现在还有一些点券商 ， 利用游戏营销的规则 ， 去充值低成本的点券 ， 再转移给有需要的玩家 ， 赚其中的差价 。 还有就是恶意退款 ， 这是指那些在苹果渠道充值购买道具 ， 然后再借口说是误充 ， 要求苹果退款的 。 这些都是新的经济黑产形式 。
葡萄君：像代练这种灰色产业 ， 你们会怎么处理？
李长江：代练通常不需要安全系统的数据来上报 ， 游戏本身一些玩家的数据、行为就可以判断 ， 比方说设备、IP ， 或者是玩家的成绩 。
传统情况下 ， 用户找代练往往是因为他们的游戏水平高 。 但是代练发展到今天 ， 已经变成了一个商业行为 ， 这些代练为了节省时间成本 ， 就会开始用外挂 ， 甚至购买一些更专业的定制外挂 ， 那就会对整个游戏安全产生更加不利的影响 。 所以打击代练也不是一件简单的事 。

文章图片


文章图片

图片摘选自《2021游戏安全白皮书》
葡萄君：还有哪些黑产形式是你们关注的？
李长江：现在大家最关注的一种黑产 ， 是对游戏进行网络攻击来敲诈勒索的 ， 今年有好几个案例 。