Echtzeit-Intervention in sozialen Videos

Echtzeit-Intervention in sozialen Videos: Yubo übernimmt die Führung, um Risiken für junge Menschen zu reduzieren

Wir bei Yubo sind immer auf der Suche nach neuen Möglichkeiten, um die Online-Sicherheit zu verbessern. In unserem letzten Blog haben wir erklärt, dass wir unsere Verantwortung gegenüber jüngeren Yubo-Nutzer/innen sehr ernst nehmen. Seitdem haben wir gemeinsam mit der Online-Sicherheitsexpertin Annie Mullins OBE eine Reihe von Sicherheitsvorkehrungen in der App getroffen und vor kurzem einen wichtigen Schritt nach vorne gemacht, indem wir Echtzeit-Interventionen in Live-Streams eingeführt haben.

Mit einer Kombination aus Algorithmen und menschlichen Moderatoren überwachen wir die Aktivitäten auf Yubo, um Nutzer/innen zu identifizieren, die gegen unsere Community-Richtlinien verstoßen und sich oder andere beim Live-Streaming in Gefahr bringen könnten. Wir ergreifen dann sofort Maßnahmen und senden dem Nutzer eine Nachricht, in der wir ihm erklären, wie er die Grenze überschritten hat, wie er sein Verhalten ändern kann und welche Maßnahmen wir ergreifen werden, wenn er sich nicht daran hält. Zu unseren Optionen gehören die vorübergehende Deaktivierung des Live-Streams und die Sperrung des Kontos.

Yubo ist die einzige soziale Video-App, die auf diese Weise eingreift, um die Sicherheit von Jugendlichen zu gewährleisten. Ja, das ist ein mutiger Schritt. Ja, einige junge Menschen sind überrascht, wenn sie eine Warnmeldung von uns erhalten. Aber wir glauben, dass es das Wichtigste ist, unsere Nutzer zu unterstützen und zu schützen und die Yubo-Community zu einem noch besseren Ort zu machen.

In diesem Blog werfen wir einen genaueren Blick auf die Live-Intervention und untersuchen, wie sie eine Verhaltensänderung fördert, indem sie Yubo-Nutzer/innen dazu ermutigt, sicherer und verantwortungsbewusster zu sein und das Risiko der sexuellen Ausbeutung und anderer Probleme zu verringern. Außerdem sprechen wir mit einem unserer erfahrensten Moderatoren und finden heraus, wie unsere jugendlichen Nutzer auf seine Nachrichten über unangemessenes Verhalten oder unpassende Inhalte, die sie gepostet haben, reagieren.

"Wir wissen, dass die sozialen Netzwerke noch mehr tun können, und einige Seiten wie Yubo haben bereits gute Praktiken für Live-Streaming. Andy Burrows, Associate Head of Child Safety Online, NSPCC (2018)

Informieren und motivieren

Genauso wie Jugendliche im realen Leben experimentieren und Grenzen austesten können, passiert das auch in der digitalen Welt. Online haben junge Menschen vielleicht schon unangemessenes Verhalten oder Inhalte gesehen und sind sich nicht immer sicher, was akzeptabel ist. Ganz gleich, ob sie sich in ihrer Unterwäsche filmen oder gemeine Kommentare über jemanden abgeben, es ist wichtig, dass sie verstehen und darüber nachdenken, welche Konsequenzen ihr Verhalten für sie und andere haben könnte. Außerdem müssen wir als Unternehmen dazu in der Lage sein, Maßnahmen zu ergreifen, wenn wir unangemessenes oder illegales Verhalten und Inhalte in Live-Streams auf Yubo sehen (die wir Lives nennen).

Unsere Community-Richtlinien sind wichtig, um Standards für das Nutzerverhalten zu setzen - unsere Nutzer müssen zustimmen, sich daran zu halten, und wir beziehen uns immer auf sie, wenn wir in Live-Streams eingreifen. Wir machen in diesen Richtlinien sehr deutlich, dass wir z. B. keine Toleranz für Nacktheit und das Posieren in Unterwäsche in Lives haben.

Wenn diese Richtlinien nicht befolgt werden, ist es unser Grundsatz, unsere jüngeren Nutzer/innen einzubeziehen und zu erziehen, anstatt sie zu bestrafen. Das bedeutet, dass wir bei Regelverstößen die Gelegenheit nutzen, um ihnen zu helfen, zu verstehen und sie dazu zu bringen, darüber nachzudenken, was sie falsch gemacht haben, um ihr Verhalten in diesem Moment und in Zukunft zu ändern. Wir sehen bereits die positiven Auswirkungen von In-App-Warnungen in Echtzeit und unser Ansatz wurde von Strafverfolgungsbehörden, Wohlfahrtsverbänden und anderen Verfechtern der Online-Sicherheit begrüßt.

Wie unsere Beraterin für Online-Sicherheit Annie Mullins OBE sagt,

"Ich arbeite mit Yubo zusammen, um zu verhindern, dass seine Nutzerinnen und Nutzer sich selbst in Gefahr bringen. Das ist ein wichtiger Schritt im Bereich der Online-Sicherheit für Kinder, den andere Social-Media-Unternehmen nachahmen sollten. Je mehr Echtzeit-Interventionen mit jungen Menschen stattfinden, desto mehr können wir sie unterstützen und aufklären. Junge Menschen machen Fehler - das gehört zum Erwachsenwerden dazu - aber es ist wichtig, dass Anbieter sozialer Medien Sicherheitsnetze für sie anbieten und sie in die richtige Richtung schubsen, wenn ihr Verhalten sie gefährden könnte."

Der beratende Kinder- und Jugendpsychiater Dr. Richard Graham fügt hinzu,

"Die Zukunft der digitalen Welt hängt jetzt davon ab, wie bereit wir sind, Verhaltenserkenntnisse zu nutzen, um das Schlechte davon abzuhalten, das Gute zu zerstören. Yubo ist mit seinen Live-Eingriffen führend, und es gibt keinen besseren Weg, um zu lernen, als in diesem Moment."

Bemerkungen eines Moderators

Unser globales Team von Moderatoren kümmert sich um eine Vielzahl von Situationen in Live-Streams, darunter junge Menschen, die in Unterwäsche posieren, sich ausziehen, andere Nutzer belästigen und mit Selbstverletzung drohen.

Wir haben einen unserer Moderatoren, Tom*, gebeten zu erklären, warum es so wichtig ist, in Lives einzugreifen.

"Die Inhalte werden live im Internet übertragen, also ist es sinnvoll, dass wir sofort eingreifen, bevor ein Schaden entstanden ist. Je schneller wir eingreifen, desto besser", sagt er.

Obwohl sie bei der Eingabe von Livestreams auf Yubo ein Popup über unsere Community-Richtlinien erhalten und wissen, dass Lives von jedem gesehen werden können (nicht nur von ihren Freunden), entscheiden sich einige Nutzer immer noch dazu, die Grenzen zu überschreiten.

Warum also verhalten sich junge Menschen online so? Es gibt eine Reihe von Beweggründen - manche tun es, um anzugeben oder zu flirten, andere, weil sie sehen, wie ihre Idole und andere Berühmtheiten sich auf eine bestimmte Art und Weise verhalten oder weil jemand sie dazu ermutigt oder unter Druck setzt.

"Oft geht es darum, Aufmerksamkeit zu bekommen, die man im echten Leben vielleicht nicht bekommt", sagt Tom. "Live zu gehen ist eine gute Möglichkeit, viele Leute zu erreichen und viele Views zu bekommen. Die Jungs, die sich ohne Hemd zeigen, wollen zum Beispiel ihre Muskeln zeigen."

 Zu den potenziellen Risiken des Live-Streamings gehören, gemobbt zu werden, zu sexuellen Aktivitäten gezwungen zu werden und von Fremden mit bösen Absichten kontaktiert zu werden.

Tom erklärt, dass jüngere Nutzer oft so sehr in die App vertieft sind, dass sie nicht darüber nachdenken, was sie tun.

"Die Leute sind oft zu sehr mit dem Moment beschäftigt und verstehen nicht die unmittelbaren Risiken oder dass der Inhalt nach der Live-Übertragung nicht verschwinden könnte. Wenn sie sich in ihrer Unterwäsche filmen, könnte jemand das aufnehmen, woanders veröffentlichen und gegen sie verwenden", betont er.

Wenn ein Yubo-Moderator sieht, dass etwas passiert, das gegen unsere Community-Richtlinien verstößt und jemanden in Gefahr bringen könnte, schickt er eine Warnmeldung an den Nutzer. Die Nachricht kann besagen, dass der Live in einer Minute abgeschaltet wird, oder sie kann den Nutzer warnen, dass er von der App ausgeschlossen wird, wenn er sein Verhalten nicht ändert.

Wir sind die einzige soziale Video-App, die das tut, weil wir denken, dass es wichtig ist, dass unsere jüngeren Nutzer das Problem verstehen und dass wir sie ermutigen, ihr Verhalten zu ändern. Schließlich lernt man am besten im Hier und Jetzt und durch reale Erfahrungen.

Wir ergreifen dann die entsprechenden Maßnahmen, zu denen die Entfernung des Inhalts, die Sperrung oder Schließung des Benutzerkontos und die Meldung potenziell illegaler Aktivitäten an die Polizei und andere Behörden wie die Internet Watch Foundation (IWF) gehören können. Unser Ziel ist es, den Nutzern zu helfen, ihr Verhalten zu ändern, bevor es so weit kommt, aber am Ende tun wir das, was für sie und andere Nutzer richtig ist.

"Traurigerweise treffen wir immer wieder auf junge Menschen, die sich selbst verletzen oder selbstmordgefährdet sind", sagt Tom. "Selbst wenn die Leute, die sich die Lives ansehen, versuchen zu helfen, sind sie keine ausgebildeten Fachleute und könnten die Situation ungewollt verschlimmern. Jemanden zu sehen, der über Selbstverletzung spricht, könnte auch bei anderen Nutzern ähnliche Gefühle auslösen."

Wir erlauben nicht, dass selbstverletzende Inhalte auf Yubo bleiben, und wir erklären unseren jüngeren Nutzern, warum das so ist. Live-Intervention bedeutet, dass wir jemandem in diesem entscheidenden Moment helfen und ihn an Hilfsorganisationen weiterleiten können.

"Ich wage zu behaupten, dass ... diese App sich als führend im Bereich der Sicherheit von Live-Streams erweist."Anne Collier, NetFamilyNews (August 2017)

Unterstützen und schützen

Im Großen und Ganzen reagieren die Yubo-Nutzer/innen positiv auf Echtzeit-Eingriffe. Sie sind es nicht gewohnt, dass andere Apps auf diese Weise kommunizieren, aber sie nehmen die Benachrichtigungen in der Regel gut auf und kommen unseren Aufforderungen nach. Wenn jemand zum Beispiel eine Warnung erhält, während er sich vor der Kamera auszieht, hört er normalerweise auf, sobald er die Nachricht sieht, und zieht sich wieder an.

Tom merkt an, dass die Nutzerinnen und Nutzer ihm oft dafür danken, dass er eingreift, weil sie dann nicht selbst mit einer schwierigen Situation fertig werden müssen. Wenn sie sich unter Druck gesetzt fühlen, sich online auf eine bestimmte Art und Weise zu verhalten, ist es gut, dass sie wissen, dass wir da sind, um die Dinge im Auge zu behalten und ihnen zu helfen, mit diesen Erwartungen umzugehen.

Viele unserer jüngeren Nutzerinnen und Nutzer erzählen ihren Freunden von unseren Regeln und davon, dass die Yubo-Moderatorinnen und -Moderatoren für sie da sind - ein klares Zeichen dafür, dass junge Menschen zwar gerne unabhängig sind, aber dennoch Unterstützung brauchen. In der Tat kann die Erziehung eines Teenagers einen starken Netzwerkeffekt haben. Wir haben viele positive Kommentare über die Live-Intervention von unseren jüngeren Nutzern erhalten, darunter "Ich denke, es ist nützlich, es hält die Community sicherer und sauberer" und "Es ist eine wirklich gute Idee, es gibt den Leuten eine Chance, ihr Verhalten zu ändern und wenn sie es nicht tun, müssen sie die Konsequenzen tragen."

Die Untersuchungen von Childnet haben ergeben, dass mehr als einer von zehn Acht- bis 17-Jährigen schon einmal "live" war. Wir glauben, dass Echtzeit-Intervention ein wichtiges Instrument ist, um jungen Menschen zu helfen, eine sicherere Nutzererfahrung auf sozialen Video-Apps zu machen.

Laut Anne Collier ist es wichtig, eine digitale Gemeinschaft der "geführten Praxis" aufzubauen - eine, in der junge Menschen selbstbewusst, glücklich, respektvoll und sicher sein können. Mit unserer Vision, führend in der Online-Sicherheit zu sein, werden wir weiterhin innovative Sicherheitsfunktionen für Yubo entwickeln, damit wir genau das tun können.

"Ich begrüße es, dass Yubo seine Sicherheitsfunktionen umfassend überarbeitet hat, um seine Plattform für Jugendliche sicherer zu machen." Julie Inman Grant, Australische Beauftragte für eSafety (März 2018)

Fünf Möglichkeiten, wie Yubo jungen Menschen hilft

• Yubo hat ein Mindestalter von 13 Jahren und die Nutzer müssen ihre echten Daten angeben, einschließlich ihrer Handynummer. Wir setzen neue Technologien und Moderatoren ein, um minderjährige Profile zu identifizieren und sie zu sperren.
• Yubo-Benutzer können ihre eigenen Präferenzen festlegen, z.B. ob sie ihren Standort anzeigen und mit wem sie sprechen wollen.
• Jeder Nutzer muss zustimmen, sich an unsere Community-Richtlinien zu halten, die Regeln über Mobbing, Nacktheit, gefälschte Profile und anderes unangemessenes oder illegales Verhalten enthalten.
• Wir setzen innovative Technologie und menschliche Moderatoren ein, um zu überprüfen, was auf Yubo passiert und einzugreifen, wenn wir sehen, dass unsere Regeln gebrochen werden.
• Über das Flaggensymbol in der App oder in unserem Sicherheitszentrum kannst du uns ganz einfach Probleme oder Bedenken melden. Wir bemühen uns, innerhalb von 24 Stunden auf Meldungen zu reagieren und priorisieren Notfälle.