Wat doet TikTok tegen te heftige video's?

Hulp nodig?

In dit artikel komt zelfmoord aan bod. Zit jij niet lekker in je vel en heb je hulp nodig? Dan kan praten helpen. Je kan 24/7 anoniem chatten via 113.nl, bellen met 113 of gratis bellen met 0800-0113.

Wat is er gebeurd?

  • Opende je de afgelopen dagen TikTok, dan zag je misschien wel waarschuwingen over een heftige video waarin een Amerikaanse man zelfmoord pleegt. Of: die video zelf.
  • Want het fragment blijft opduiken op het platform. Ondanks dat de video tegen de regels van TikTok in gaat.
  • TikTok zegt dat ze hun best doen om de video te verwijderen als hij opduikt. Maar dat lukt dus niet helemaal. In dit artikel leggen we je uit waarom dat zo lastig gaat.

 

Waarom moet ik dit weten?

"Zie je een witte man met een grijze baard aan een bureau zitten, scroll dan meteen verder". Die waarschuwing gaat nu rond op TikTok. Jongeren die die waarschuwing te laat kregen, of toch bewust de video keken, reageren geschokt op TikTok.

 

In de video is te zien hoe een Amerikaanse man zelfmoord pleegt. Dat livestreamde hij een paar weken geleden op Facebook. Sinds vorige week duikt de video ook op andere plekken op. Ook op TikTok.

 

Dat bevestigde TikTok zondagavond ook tegen The Verge. "Onze systemen detecteren en markeren deze beelden automatisch, omdat ze onze richtlijnen tegen het promoten van zelfmoord schenden," liet de app toen weten. Ook zeggen ze dat ze accounts bannen wanneer die de video blijven posten.

 

Maar nu, een paar dagen later, kun je de video toch nog vinden op het platform. Mensen laten in de comments links naar gebruikersaccounts achter waarop de video toch nog te zien is. En sommige accounts hebben de video als profielvideo gezet. Even later zijn ze vaak wel weer verwijderd, maar TikTok moet er dus wel bovenop blijven zitten. Wij vroegen aan tech-expert Sijmen Ruwhof waarom het zo lastig is voor de app om dit soort video's tegen te houden.

 

Daarvoor moet je eerst weten hoe apps als TikTok alles 'modereert', oftewel hoe ze in de gaten houden of wat jij post wel mag, en wanneer TikTok iets verwijdert. Dat kan op verschillende manieren, zegt Sijmen: "Ten eerste via een misbruikknop. Daar kunnen mensen een post mee melden dat volgens hen verwijderd moet worden. Als veel mensen dat doen, dan is de kans groot dat de post automatisch verwijderd wordt door het platform. Op die manier wordt het schoonhouden van het platform voor een deel geautomatiseerd." Maar het gaat niet allemaal vanzelf. TikTok-medewerkers zitten ook gerapporteerde posts handmatig te bekijken: "Omdat sommige video's een twijfelgeval zijn. De mensen die er dan naar kijken werken voor speciale bedrijven, die platformen als Facebook en TikTok kunnen inhuren."

 

Maar wat nou als een video die de regels overtreedt, de hele tijd opnieuw gedeeld wordt? "Dan maken ze een soort vingerafdruk van de video. Daardoor wordt de video direct herkend als iemand hem weer uploadt, en gelijk verwijderd", vertelt Sijmen. Toch duikt deze video al dagenlang opnieuw op. Volgens Sijmen kan dat te maken hebben met hoe mensen de video bewerken voordat ze deze opnieuw uploaden: "Als je hem bijvoorbeeld mixt met andere beelden, dan krijgt hij al een andere vingerafdruk. Dan werkt dat automatisch herkennen niet meer. Dan zouden ze meerdere vingerafdrukken voor iedere video moeten gaan maken, bijvoorbeeld voor iedere vijf seconden. Dat is technisch mogelijk, maar wel ingewikkeld en duur. En het zorgt ook vaker voor vals alarm. Dan worden meer video's onterecht geautomatiseerd verwijderd, en dan zijn mensen ook weer boos."

Wie vindt wat?

Veel jongeren die de video toch zagen laten nu op TikTok weten dat ze de beelden erg heftig vonden. Sommigen van hen waarschuwen anderen om de video niet te kijken, en posten screenshots om te laten zien hoe de video begint, zodat mensen weten dat ze weg moeten scrollen als ze hem zien. Misschien goed bedoeld, maar het levert ook discussie op in de comments. Zo vinden sommige gebruikers dat je mensen juist nieuwsgierig maakt door zo'n waarschuwing te plaatsen.

 

Daarom kun je ook beter geen aandacht geven aan zo'n video, zegt Stefanie van 113 Zelfmoordpreventie: "Je wil dat mensen het niet zien. Zo'n waarschuwing triggert mensen vaak, ze willen dan toch even kijken waar het over gaat. Maar uiteindelijk begint het ermee dat dit op TikTok te zien is. Het is aan de app om te zorgen dat ze alles meteen verwijderen."

 

Meer mensen vinden dat sociale media daarvoor beter hun best moeten doen. Zo kregen Facebook en YouTube flinke kritiek na de aanslag in Christchurch. Een terrorist livestreamde toen hoe hij 51 mensen doodde in twee moskeeën. Ook die beelden werden toen steeds opnieuw geupload. Facebook is sindsdien wel strenger geworden op zulke live video's. Maar van TikTok hoeven we nu nog geen grote maatregelen te verwachten, denkt Sijmen: "Daarvoor zou er eerst heel veel ophef moeten zijn waardoor TikTok imagoschade leidt. Het is namelijk erg duur om content handmatig en geautomatiseerd te controleren. Dat doen sociale media alleen als de druk van buiten te groot is geworden. Het blijven commerciële bedrijven die in eerste instantie geld willen verdienen, en niet uitgeven."

Meer weten?

Wie checkt of een video te heftig is?
Wat doet TikTok met mijn data?
Hulp nodig?