|
一个孩子发现自己被踢下线了。他不高兴，最近玩游戏的时间越变越少，即便是周末，他的游玩时间也被死死限制住了。他准备打怪，打不是游戏里的怪物，而是游戏之外，抵挡他上线的防沉迷系统。
他在网上下单“人脸代过”的服务，将人脸识别的链接发送过去，按照过去的流程，对方很快可以帮助他通过。但这次没有成功，他还是被挡在了游戏之外。他并不知道，他所玩的这款游戏再次升级了自己的防沉迷系统，他“打怪”的同时，对面也有一些大人正在装备自己的武器，搭建起一套更为严密、精细的防御体系。
这套防御体系，在腾讯被称为健康系统。它是腾讯未成年人保护体系最重要的关卡之一。
早在2007年，腾讯就开始启动未成年人防沉迷工作部署，当时多针对网页端游戏。随着手游和移动端游戏爆发，2017年，腾讯成长守护平台上线，家长可以通过成长守护平台进行时长和消费控制，2018年9月，腾讯再次推出当时中国互联网史上最严的防沉迷措施——过去，随便填个姓名和符合逻辑的身份证号都可以完成实名认证，可从2018年起腾讯接入公安部实名库验证。不满13岁的未成年人，每天只允许玩一个小时游戏，还要面临21：00-08：00的宵禁，13周岁-未满18周岁的未成年人每天只允许玩两个小时。
2017年，Iron大学毕业后，加入腾讯成长守护平台担任技术工程师。他说，家里的弟弟妹妹玩游戏有些轻度沉迷，由此知道了腾讯正在做防沉迷工作的探索，他投了简历，想看看到底是怎么通过技术防止一个孩子沉迷游戏的。 2018年那套健康系统的搭建，他全程参与了，那是一个按照金融级安全级别来设计的系统。技术之难，成本之高，受众之广，是他在学生时代没有经历过的。
在时间与消费的管控之外，人脸识别技术的应用是那套系统的重点。2018年年中，腾讯开始自主探索人脸识别技术。 在那之前，成长守护平台做过很多次努力，但仅凭公安实名库并没有办法完全解决冒用身份的问题。还是有很多孩子冒用家长身份证，或从外部购入身份信息，来绕过健康系统。为了彻底解决冒用身份的状况，也为了提升识别疑似未成年人的精准度，经过几个月持续调研， 2次小规模测试，最终，系统上线了人脸识别的验证功能。
这并非一劳永逸。技术团队发现，孩子们总会找爸爸妈妈爷爷奶奶帮忙进行人脸识别，还有第三方黑产公司盗取其他成人身份证进行人脸代过，这样的案例层出不穷。甚至，学校门口小卖部老板的人脸，都成为孩子们争抢的资源。 为了能够快速并准确地找到隐藏在成年人身份信息背后的孩子们，成长守护平台的技术团队建立了一个“疑似未成年人行为”池，这也是第一次在游戏行业使用到这项技术。
成长守护平台有专门的数据团队，将相关账号在脱敏后进行大数据分析，搭建一个模型，再用这个模型过滤所有的账号，发现疑似未成年人使用的成年人账号。那些模型包括未成年群体偏好登录的时段，偏好的游戏品类，曾经注册过未成年身份等等。使用网络泄露的身份证信息也会被纳入疑似未成年人行为池，那些买号转号的基本都会中招。在这个复杂的模型中，会有不同维度的判定规则，当所有疑似条件相加达到一定数值，系统会警报，一次又一次发起人脸识别请求。 9月，有一则新闻爆出，“60岁老人凌晨三点打排位五杀”，成长守护平台怀疑操作者是未成年人，但排查后发现，那个账号17次的人脸识别都是本人登录，其中多次在半夜进行。由于没有更多查阅身份信息的权限，只能到此为止。郑磊提到了这个例子，“孩子与家长是在一处的”，他说，只要家长没有意识到沉迷游戏的危害，哪怕弹出100次人脸识别，家长都会代过。技术有其限度，健康系统能做的，是在人脸识别时新增语音和文字双提示，告诉正在人脸识别的用户，这是为了游戏防沉迷而设置的人脸识别，不要帮未成年人代过。
如果这些疑似未成年人的账号没有及时通过验证，都将被踢下线。
“我们大部分其实不是跟孩子做对抗，其实是跟灰黑产做对抗。”Iron说，为了防止那些制作出来的“人脸”，他们精确到脸部与脖颈之间皮肤的色调均匀度，眼睛无法识别的，用机器去识别。
830新规后，媒体开始关注未成年人通过游戏租号绕开监管的问题，打击游戏租号成为未成年人保护工作的重要部分。今年10月，南京建邺警方在江苏、河南、安徽、湖南等地捣毁了多个通过非法买卖个人信息进行游戏账号非法租赁的犯罪团伙，涉案人数达40多人，平台涉案金额过百万。
对于人脸识别带来的误伤，成长守护平台的团队有一些难处无法明说。Iron说，每次更新健康系统，总是会击中一些成年玩家，他们可能是买过不正规的账号，也可能是有过疑似未成年人的行为。成长守护平台的社交平台下面，总有人骂骂咧咧，怎么回事，又变严格了？技术团队不能第一时间告诉成年人，那些黑产或代过团队总是盯着技术更新，如果将升级策略和时间点公开，相当于把自己的防御战术告诉了对手。
不理解的声音总是存在。团队里有员工加入过一个微信群，名叫“健康系统受害群”，都是因为各种各样原因审核不过人脸识别的。他们认为自己买号的行为是正确合法的，认为腾讯的系统在苛待玩家。也有成年人打电话投诉，我只是玩个游戏，为什么需要人脸识别？
还有一位老奶奶，经常玩腾讯旗下的棋牌游戏，因为她的年岁过大，又在放学时段上线，系统一次次要求她识别人脸。奶奶打电话来，说自己都退休了，为什么还要学习这些。游戏的项目组有时候也会遭遇用户投诉，说日趋严格的健康系统影响到他们的游戏体验。
面对这些诘问，他们很难给出一个100%确定无疑的答案。团队反复琢磨过，最终还是觉得需要在玩家体验和守护孩子之间取得平衡。
从每日花费的人脸识别成本可以看出他们的决心。截至2021年10月，腾讯游戏平均每天有692万个账号在登录环节、1.5万个账号在支付环节触发人脸识别。除了覆盖率提升以外，腾讯游戏还在830新规后增加了人脸识别的频率。 腾讯没有对外公布过人脸识别的成本，但有媒体对此进行了估算：按照腾讯云单次人脸识别最低0.68元价格计算，每天700万次人脸识别相当于476万元成本，一年支出17.34亿元。即便按照阿里云超级大客户每次0.12元的成本计算，一年的成本也有3亿元。
830新规之后，未成年人的游戏时间急剧缩短，每周只有3个小时可以上线。防沉迷系统变严了，绕不过去了，他们只能打电话“求助”。
很多孩子会假装成大人的语气，用稚嫩的声音在电话那头角色扮演，“我是他的爸爸，请把这个账号解除防沉迷吧。”骗不过客服，过两天，又自称是孩子的舅舅。客服团队有一套办法，比如问他是哪年出生的，对方说1996年，再问他的生肖，对方愣住了，匆匆挂机了。
孩子们总是天真的，有时候他们以为自己的演技可以骗过大人，也难以理解成人世界的规则。为什么上课有课表，玩游戏也有时间表呢？不要说一个小时，哪怕半个小时对孩子们都是珍贵的。有孩子打电话来哭诉，“我读书这么辛苦了，只是想玩个游戏，为什么跟坐牢一样？”还会有孩子觉得这样的健康系统“没有把他们当人看”，说出一些极端的言语。 但是，规则面前，没有例外。腾讯第三季度财报显示，今年9月，腾讯国内未成年人游戏流水占比下降至 1.1%，去年同期为4.8%；未成年人游戏时长占比下降至0.7%，去年同期为6.4%。通过人脸识别技术，今年10月，有71%的疑似未成年人账号在登录环节被纳入防沉迷监管，77%在支付环节被拦截充值行为。
Iron说，曾经有专家跟他们说过，这样严密的系统的确会伤害到一些孩子的情感。“至少我们做的是一个对的事情。”Iron认为，“可能伤害到一些孩子，但大部分孩子如果真的被管住了，我们其实也是很开心的。只能顾及大多数孩子的情况。有自控能力的孩子，只能说让他18岁以后再来体验游戏的快乐。”
| 
川公网安备 51180202511856号
Powered by 
