TikTok公布平台有害挑战的内部调查报告

tiktok因在其应用程序上承载危险的病毒“挑战”而名声不佳，在最坏的情况下，这些挑战可能会导致严重的伤亡——比如停电挑战，促使意大利监管机构今年在社交网络上采取行动，消除未成年人用户。

最近，该应用因鼓励学生对抗教师和破坏学校财产而成为头条新闻。随着进一步监管的潜在威胁迫在眉睫，tiktok今天分享了其关于病毒挑战和恶作剧的内部调查结果，以及它的行动方式。

到目前为止，tiktok经常试图淡化其参与病毒挑战的程度。

例如，今年10月，tiktok否认“打老师”是tiktok的一种趋势。一名儿童在尝试昏迷挑战后死亡，tiktok在一份声明中表示，该公司在其平台上没有发现涉及窒息的挑战证据。它在最近一次参议院听证会上重申了这一声明，该听证会专门讨论未成年人在社交平台上的安全问题。但美国参议员布莱克本告诉tiktok的代表，她的工作人员发现了晕倒的视频和其他令人不安的内容。

今天，tiktok发布了自己关于有害挑战和骗局的内部研究结果。

该公司表示，几个月前启动了一个全球项目来研究这个话题，包括对来自阿根廷、澳大利亚、巴西、德国、意大利、印度尼西亚、墨西哥、英国、美国和越南的1万多名青少年、家长和教师进行调查。此外，它还委托独立的安全保障机构praesidio Guardage撰写一份报告，详细说明调查结果及其建议。此外，一个由12名主要青年安全专家组成的小组被要求审查该报告，并提供自己的意见。Richard metchen博士是一名专门从事青少年风险预防的临床精神病医生，他与专门从事青少年风险预防的临床精神病医生Richard metchen博士合作。

因为这份报告展示了社交媒体如何成为有害内容的温床，所以它发现的数据值得研究。由于年轻人正处于心理发展阶段，他们对风险的胃口要大得多。

正如格雷厄姆博士所指出的，青春期是一个非常时期，可以让孩子们为向成人生活过渡做好准备。他说，这是一个大脑大规模发育的时期。“有很多人担心理解青少年为什么会这样做——因为这些判断中心正在被修改，以便为将来更复杂的决策和思考做好准备。”

格雷厄姆博士说，年轻人的大脑是在抽象思维、对更复杂的心理和情绪状态的认知以及对人际关系的更复杂考虑中发展的。在这一切的过程中，他们向周围世界学习的愿望也在增加——这有时可能包括参加更危险的活动、测试自己或赢得同龄人认可的愿望。有时这些“危险”的活动相对无害，比如看恐怖电影或坐过山车。但在其他时候，青少年和其他年轻人可能会选择参加他们认为会在一定程度上真正让他们感到舒展的活动，这会吸引他们面临更多的风险和挑战。

此外，一般来说，病毒性挑战可以吸引青少年认识朋友和同龄人的欲望，因为它会带来喜欢和意见。但青少年评估挑战是否安全的方式是有缺陷的——他们通常只是看更多的视频或向朋友寻求建议。与此同时，家长和老师在谈论挑战和骗局时往往犹豫不决，因为他们担心自己会提高对这些挑战和骗局的兴趣。

研究发现，大多数青少年没有参与最危险的挑战。在全球范围内，只有21%的年轻人参加挑战，只有2%的人参加被认为是危险的挑战。不到0.3%的人参加了他们认为是“真正危险”的挑战。大多数人认为参与挑战是中性的（54%）或积极的（34%），而不是消极的（11%）。64%的人表示参加挑战对他们的友谊和关系有积极影响。

这项研究还研究了恶作剧挑战——如蓝鲸和Momo——这些挑战促使坏演员引导儿童从事有害活动，从而升级为自残或自杀。61%的青少年表示，当他们遇到骗局时，他们会搜索更多信息，试图验证这些信息是否属实，但骗局往往会引起很多困惑。青少年怀疑转发骗局的人试图获得喜欢和观点（62%相信这一点），或者因为他们认为骗局是真的（60%相信这一点）。46%的青少年在接触到骗局后会寻求支持或建议，这表明青少年将受益于帮助他们理解骗局材料的资源。

尽管研究表明社交媒体平台在解决与用户安全相关的问题方面仍有很多工作要做，但tiktok在这方面的回应相当少。

该公司最近宣布，它将在其安全中心增加一个新的专门针对挑战和诈骗的部分，并根据研究人员的建议，在人们搜索与自杀或自伤有关的诈骗时修改警告标签中的一些语言。

考虑到这些变化的性质相对较小——基本上是一份帮助文件和一些修订文本——在今天的公告之前，tiktok在周一向媒体播放了一个小时的研究报告，并将38页的研究报告全文通过电子邮件发送给记者。Tiktok这样做似乎是为了将自己与Facebook区分开，后者直到线人弗朗西斯·豪根（Frances Haugen）拿出数千份文件后才发布令人震惊的内部研究。人们不知道Facebook知道自己的问题，但没有采取行动。

tiktok希望被视为研究过程中有意义的参与者，但最终，它所做的改变并不能解决问题。归根结底，有害内容是一项管理挑战，也是一个植根于社交媒体本质的问题。消除有害内容需要一个从零开始设计的系统，它不会激发令人震惊或离谱的内容来换取喜爱和浏览，而大多数社交媒体都不是这样构建的。

tiktok还表示，它将寻找与标签相关的违规行为的突然增加，包括潜在的危险行为。

例如，诸如#foodchallenge（通常用于分享食物配方和烹饪灵感）等标签开始达到峰值，并且它们的更多内容违反了tiktok的政策，然后将提醒审计团队找出出现峰值的原因，以便他们采取行动。