发布时间:2022-03-30 11:10:03源自:https://www.it-th.com作者 :it谈话网阅读(353)
熟悉运营社的同学应该知道,我们写过非常多灰产文章,从网络传销到微博、小红书等 App 灰产,再到淘宝等大厂都写过。在今年上半年,
这些黑灰产就像嗜血的蝗虫,滋生在在互联网上的各个角落,一遍又一遍地入侵着各大平台。
于是,我拿着数据和一位在抖音内部负责网络安全的同学聊了聊(不要问我怎么认识的,问就是“不打不相识”)。
发现过去半年里,在抖音这个全球最大的短视频平台幕后,持续着一场规模浩大的“战争”。
很多同学对黑灰产都没有一个明确的概念,只觉得是那些羊毛党、刷量、刷单的团队,或者一些做电话、网络诈骗的小团体……
这也正是现在互联网黑灰产真正可怕的地方,他们的骗人套路未必进化多少,
从前,黑灰产的入侵方式是“几人小团队,通过小规模采购平台账号,苦哈哈地手动操作”。但现在黑灰产可以做到一个几人小团队同时操作几千、上万账号,
黑灰产是怎么做到的呢?
(现在平台大都需要实名制,必须要有大量手机号)。他们获取手机号的来源很多,比如境外卡和花钱租用下沉用户身份证批量办卡,但更多的是卡商通过成立虚假公司向运营商批量申请集团号。
图源@威胁猎人
黑灰产中游的玩家会 。
比如之前在一些短视频平台上搜索明星名字,就会出现几百个高仿明星号,发的视频也风格类似。
这些灰黑产通过批量控制账号,能触达海量用户:
比如之前的假靳东事件,不是骗子骗术升级多少,而是他们的技术升级了,能触达到更多用户,然后直接筛选到容易被骗的人。
至此,黑灰产和平台的对抗,已经从具体骗术上的博弈,
现阶段,黑灰产已经进化到
因为灰黑产上游囤积了大量账号,中游可以靠群控技术低成本操控大量账号,即便被平台封杀,只需要重新采买一批账号即可重新入侵。
所以,这注定是。
通过采访抖音内部负责安全的运营同学,我发现抖音正在和黑灰产进行着一场“三重战争”。
像前面提到的,黑灰产已经是一条很专业的产业链,中下游随时可以从上游采买账号,开展新的违法项目。所以,这是一项长期持续的、实时对抗的艰巨任务。
例如抖音安全中心推出的“鲨鱼反欺诈系统”,会在各个环节对风险进行判断:
比如在今年双11,随着明星直播带货场次增多,不少黑灰产团伙借机冒充明星客服进行诈骗。
他们会把自己的名字改为“XX客服”、“XX助理”等,然后
对于这类“冒充客服诈骗”的行为,抖音就会基于此前建立的黑灰产头像特征库、昵称特征库、设备特征库等,研发识别策略模型,对相关黑灰产账号进行实时拦截、处理。
因为黑灰产相关行为都是在直播进行中,所以
据抖音内部同学透露,曾经有一次,他们在明星陈赫直播卖货过程中,检测到有黑产团伙试图冒充陈赫客服账号在直播间进行诈骗,于是就实时更新了模型策略去与之对抗。
不过也就是因为是实时对抗,期间还出现一个小插曲——抖音直接误将陈赫抖音号重置了,而当时陈赫还正在直播。
类似这种日常的策略模型实时对抗,在抖音安全中心的日常工作中非常多。抖音的同学告诉我们,这些对抗,
策略模型与黑灰产的对抗是基础战役,
比如色情内容打击,抖音安全中心有专门的同学在负责这方面的事情。
色情类内容,会侵蚀每一个具有时代意义的互联网产品,比如微博,都曾深受其害,现在的抖音也不例外。
目前在微博和抖音这类产品上,主要是色情引流,就是黑产团伙会利用采买到的大量矩阵号,发布带有性暗示的评论、视频等内容,将用户引流到黄色网站,或者引流到微信、QQ等第三方平台去售卖淫秽视频,甚至会引流到线下色情场所。
为了打击色情引流黑产,,例如通过文本类模型对抗评论中的色情导流内容,通过视频、图片类模型识别色情视频和账号。
这个
比如最早,色情团伙最早是利用内衣元素表达性暗示信息,然后抖音安全中心团队训练了针对内衣识别的模型,打击了一批账号内容。
可上了模型之后,很快就发现,内衣类的色情信息少了,但是又出现了利用黄瓜进行性暗示,抖音团队马上又针对这种新的性暗示元素训练识别模型。
当然,专项打击的成果也是斐然。据抖音内部同学透露,自2020年1月份以来,抖音安全中心共封禁色情导流和色情招嫖帐号超过100万,仅9月份期间就封禁305248个帐号。
与色情黑产类似,
“基础战”、“狙击战”是抖音用来在正面战场重击黑灰产的手段,除此之外,抖音还开辟了第三战场——
“持久战”主要包含两个部分。
建立多种反馈渠道,利用社区用户的力量来发现、打击黑灰产。
比如在抖音App 内就有站内举报、邮箱举报、电话举报途径,官网也有各类事件的举报入口,抖音甚至还专门开发了“啄木鸟举报平台”小程序来接受用户举报。
我搜了下,单单在“啄木鸟举报平台”小程序上,已经累计处理了超过160万个违法违规账号。
由于黑灰产常会通过各种技术手段来规避算法和平台的审核治理,正邪两方不断各自优化,
近两个月,针对能够批量模拟真实用户的群控软件,抖音法务部门已经分别在杭州和广州两地法院获得司法禁令,要求相关公司停止运营“”抖音云控“、抖管家”、“播商管家”等软件。这其中,用户反馈的线索正发挥了重要作用。
由于中老年群体和青少年群体普遍对虚假信息、欺诈套路识别能力不足,
比如抖音安全中心今年就联动的抖音达人“神探大妈”,制作反诈骗教育视频,定向推送给中老年用户,帮助他们了解骗局套路,防止上当受骗。
       
这样,经过,抖音才做到了我在开头提到的一个月“清理133904条视频”、“永久封禁836100个帐号”的成绩。
文章的最后我想说的是,对于抖音来说,被看见的坏事,未必是坏事,没有被看见的战争,肯定是好事,长期拦截、打击的基础战,激烈对抗的狙击战,都是在保护用户,也是保护平台。
在现有黑灰产业链没受到毁灭性打击的情况下,黑灰产会在利益的驱动下不断入侵各大平台。黑灰产的技术未来仍然会不断提升,打击黑灰产,
所以,也希望我们都能从自己做起,
欢迎分享转载→ “嗜血”灰黑产与抖音们的战争