Intervention en temps réel pendant les lives
Sécurité

Intervention en temps réel pendant les lives

7 minutes read · Written by Yubo team

Yubo prend les choses en main pour réduire les risques envers les jeunes

Chez Yubo, nous cherchons toujours à innover en matière de sécurité. Dans notre précédent article, nous expliquions que nous prenions notre responsabilité envers les jeunes utilisateurs de Yubo très à cœur. Depuis, nous avons continué à travailler avec notre experte en cybersécurité Annie Mullins OBE. Nous avons incorporé à l’app un certain nombre de protections et récemment, nous avons réalisé un véritable saut en avant en ajoutant les interventions en temps réel pendant les streams live.

Grâce à une combinaison d’algorithmes et de modérateurs humains, nous surveillons l’activité sur Yubo afin d’identifier les utilisateurs qui enfreignent le règlement de la communauté et qui pourraient mettre les autres ou eux-mêmes en danger. Lorsque cela arrive, nous agissons immédiatement : nous envoyons un message à l’utilisateur en lui expliquant en quoi il a franchi la limite, comment changer de comportement et quelles mesures nous pourrions prendre s’il ne coopérait pas. Ces mesures comprennent la désactivation temporaire du live et la suspension du compte.

Yubo est le seul réseau social vidéo à intervenir de cette manière pour garantir la sécurité des jeunes. Oui, c’est audacieux. Oui, certains jeunes sont surpris lorsqu’ils reçoivent un avertissement de notre part. Mais pour nous, soutenir et protéger nos utilisateurs est ce qui compte le plus, et c’est ce qui fait de la communauté Yubo un lieu sûr et bienveillant.

Dans cet article, nous étudions de plus près les interventions en live et nous regardons en quoi cette technique promeut le changement de comportement et encourage les utilisateurs Yubo à se protéger et à être plus responsables, en plus de contribuer à réduire le risque d’exploitation sexuelles. Nous discutons aussi avec l’un de nos modérateurs les plus expérimentés pour découvrir comment nos jeunes réagissent à ses messages au sujet de comportements inappropriés ou contenus inconvenants qu’ils ont postés.

« Les réseaux sociaux peuvent mieux faire en matière de sécurité. Certains sites comme Yubo ont déjà de bonnes pratiques avec le live streaming. » Andy Burrows, directeur associé de Child Safety Online, NSPCC (2018)

Éduquer et impliquer

À une période où les jeunes expérimentent et testent les limites dans le monde réel, ils en font de même dans le monde virtuel. En ligne, il arrive que les jeunes aient déjà vu des comportements ou contenus inappropriés sans vraiment savoir s’ils étaient acceptables. Qu’il s’agisse de se filmer en sous-vêtements ou de poster des commentaires malveillants au sujet de quelqu’un, il est important que les jeunes comprennent pleinement les conséquences que leur comportement pourrait avoir sur eux et sur autrui. En tant qu’entreprise, nous nous devons d’agir lorsque nous voyons des comportements et contenus inappropriés, voire illégaux, durant les streams live sur Yubo (que nous appelons des Lives).

Le règlement de la communauté est essentiel pour cadrer le comportement des utilisateurs. Nos utilisateurs doivent accepter de le respecter, et nous y faisons toujours référence lorsque nous intervenons dans les Lives. Nous expliquons très clairement dans ce règlement que nous n’avons aucune tolérance pour les Lives contenant par exemple de la nudité ou des personnes en sous-vêtements.

Si ce règlement n’est pas respecté, il est de notre devoir d’impliquer et d’éduquer nos plus jeunes utilisateurs plutôt que de les punir. Cela signifie que nous profitons de l’opportunité qu’offre une infraction au règlement pour aider les utilisateurs à comprendre et à réfléchir à ce qu’ils ont fait, les encourageant ainsi à changer leur comportement, dans l’immédiat comme à l’avenir. Nous voyons déjà l’impact positif des avertissements in-app en temps réel et notre approche a été félicitée par les autorités juridiques, les organismes caritatifs et autres acteurs de la cybersécurité.

Comme l’explique notre conseillère en cybersécurité Annie Mullins OBE :

« J’ai travaillé avec Yubo à la mise en place des interventions en temps réel pour ainsi éviter que les utilisateurs ne se mettent en danger. Il s’agit d’un grand changement dans le domaine de la cybersécurité des enfants, les autres entreprises de réseaux sociaux devraient suivre l’exemple. Plus il y a d’interventions en temps réel avec les jeunes, plus nous pourrons les soutenir et les éduquer. Les jeunes font des erreurs, cela fait partie de l’adolescence. Mais il est important que les réseaux sociaux leur proposent des filets de sécurité et qu’ils les encouragent à aller dans la bonne direction lorsque leur comportement les met en danger. »

Le psychiatre consultant pour enfants et adolescents Dr Richard Graham complète :

« L’avenir du monde numérique se repose sur notre capacité et notre volonté à utiliser cette opportunité pour empêcher les comportements négatifs de gâcher les comportements positifs. Yubo montre la voie avec les interventions en temps réel, puisqu’il n’y a pas de meilleur moment pour apprendre que l’instant présent. »

Observations d’un modérateur

Notre équipe de modérateurs prend en charge de nombreuses situations dans les Lives, notamment des jeunes qui posent en sous-vêtements, qui retirent leurs vêtements, qui harcèlent d’autres utilisateurs ou qui menacent de se faire du mal.

Nous avons demandé à l’un de nos modérateurs, Tom*, de nous expliquer pourquoi il était si important d’intervenir dans les Lives.

« Ce contenu est diffusé en live sur Internet, c’est donc logique d’intervenir immédiatement, avant que le mal ne soit fait. Plus vite nous agissons, mieux c’est, » explique-t-il.

Bien qu’ils reçoivent un pop-up rappelant le règlement de la communauté lorsqu’ils rejoignent un Live sur Yubo et alors qu’ils savent que leur Live peut être vu par n’importe qui (pas seulement par leurs amis), certains utilisateurs choisissent quand même de franchir la limite.

Alors, pourquoi les jeunes se comportent-ils ainsi sur Internet ? Il existe beaucoup de raisons. Certains le font pour se mettre en avant ou pour flirter, d’autres parce qu’ils ont vu leurs idoles agir d’une certaine manière, ou encore parce que quelqu’un les encourage ou même les force à agir ainsi.

« Le plus souvent, c’est pour attirer l’attention qu’ils pourraient ne pas obtenir dans la vraie vie, » commente Tom. « Le direct est une bonne manière d’attirer du monde et d’avoir énormément de vues. Un garçon va parfois retirer son T-shirt pour montrer ses muscles, par exemple. »

Les potentiels risques du streaming live comprennent être victime de harcèlement, être forcé à engager des activités sexuellement explicites ou être contacté par des étrangers qui ont de mauvaises intentions.

Tom explique que les jeunes sont parfois tellement immergés dans l’application qu’ils ne réfléchissent même plus à ce qu’ils font.

« Souvent, les gens sont plongé dans le moment présent et ne comprennent plus les risques immédiats ni la possibilité que leur contenu ne disparaisse pas après le Live. S’ils se filment en sous-vêtements, quelqu’un pourrait l’enregistrer, le publier ailleurs et l’utiliser contre eux, » précise-t-il.

Si un modérateur Yubo voit quelque chose qui enfreint le règlement de notre communauté et qui pourrait mettre quelqu’un en danger, il envoie un message d’avertissement à l’utilisateur. Le message explique que le Live va être fermé dans une minute ou bien que le compte va être suspendu si l’utilisateur ne change pas de comportement.

Nous sommes le seul réseau social vidéo qui propose cela. Pour nous, il est très important que nos jeunes utilisateurs comprennent le problème. C’est la raison pour laquelle nous les encourageons à changer de comportement. Après tout, la meilleure manière d’apprendre est grâce à l’expérience présente.

Ensuite, nous prenons des mesures appropriées. Cela peut inclure supprimer le contenu, suspendre ou fermer un compte utilisateur et reporter une activité potentiellement criminelle à la police et autres autorités judiciaires comme l’Internet Watch Foundation (IWF). Notre objectif est d’aider les utilisateurs à changer leur comportement avant qu’ils n’atteignent le point de non-retour, et nous ferons ce qu’il faut pour protéger l’utilisateur en question et les autres.

« Malheureusement, il arrive que nous faisions face à des jeunes qui se mutilent ou qui ont des pensées suicidaires, » explique Tom. « Même si les jeunes qui regardent le Live essaient d’aider, ils ne sont pas des professionnels expérimentés et ils pourraient empirer la situation sans même le vouloir. De plus, voir quelqu’un parler d’auto-mutilation pourrait déclencher des pensées similaires chez d’autres. »

Le contenu mentionnant de l’auto-mutilation est interdit sur Yubo et nous expliquons toujours à nos jeunes utilisateurs la raison de cette interdiction. L’intervention en temps réel permet d’aider la personne à un moment crucial et de l’orienter vers des organismes de soutien.

« Je n’ai pas peur de le dire… cette app est bien partie pour devenir leader en matière de sécurité du live streaming. » Anne Collier, NetFamilyNews (août 2017)

Soutien et protection

D’une manière générale, les utilisateurs de Yubo réagissent positivement aux interventions en temps réel. Ils n’ont pas l’habitude que les autres apps communiquent de cette manière, mais le plus souvent, ils reçoivent bien ces interventions et coopèrent avec nous. Par exemple, si une personne reçoit un avertissement alors qu’elle se déshabille pendant un Live, en général elle se rhabille dès qu’elle voit le message.

Tom précise que les utilisateurs le remercient souvent de son intervention, notamment car ils apprécient ne pas avoir à s’occuper d’une situation difficile eux-mêmes. S’ils ont l’impression d’être obligés de se comporter d’une certaine manière en ligne, c’est important qu’ils sachent que nous gardons un œil sur la situation et que nous les aidons à gérer ces attentes.

Beaucoup de nos utilisateurs les plus jeunes expliquent à leurs amis les règles de l’app et que les modérateurs de Yubo sont là pour les aider. On voit bien ici que même si les jeunes apprécient l’indépendance, ils ont quand même besoin de soutien. En effet, éduquer un jeune peut avoir un effet de réseau très puissant. Nous avons reçu énormément de commentaires positifs de nos utilisateurs les plus jeunes concernant les interventions live, dont « Je pense que c’est positif, ça permet d’avoir une communauté plus sûre je trouve » ou « C’est vraiment une bonne idée, ça donne aux gens la possibilité de changer de comportement, sans quoi il y aura des conséquences. »

Une étude de Childnet révèle que 1 jeune sur 10 parmi les 8-17 ans a déjà fait un live, ce qui montre bien que le live streaming n’est pas prêt de disparaître. Pour nous, l’intervention en temps réel est vitale pour aider les jeunes à vivre leurs expériences en toute sécurité sur les réseaux sociaux vidéo.

Pour reprendre les mots d’Anne Collier, il est important de « guider » la construction d’une communauté numérique, pour que les jeunes s’y sentent bien, en confiance et en sécurité. Nous aspirons à être au premier plan en matière de cybersécurité, c’est pourquoi nous continuerons à développer des fonctionnalités de sécurité innovantes pour Yubo.

« Je félicite Yubo pour leur manière de repenser en permanence leurs fonctionnalités de sécurité, créant ainsi une plateforme sûre pour les jeunes. » Julie Inman Grand, Australian eSafety Commissionner (mars 2018)

Cinq mesures mises en place par Yubo pour aider les jeunes

  • Les utilisateurs de Yubo doivent avoir au minimum 13 ans et préciser leur identité réelle, dont leur numéro de téléphone portable. Nous utilisons des moyens technologiques et humains pour identifier les profils des utilisateurs trop jeunes et pour les bloquer.
  • Les utilisateurs de Yubo choisissent eux-mêmes leurs paramètres, notamment s’ils souhaitent afficher leur localisation, et décident eux-mêmes à qui ils veulent parler.
  • Chaque utilisateur doit accepter le règlement de la communauté qui comprend des règles au sujet du harcèlement, de la nudité, des faux profils et autres comportements inappropriés ou illégaux.
  • Nous utilisons une modération technologique et humaine innovante pour surveiller ce qu’il se passe sur Yubo, nous agissons si les règles sont enfreintes.
  • Il est facile de nous signaler un problème ou une crainte grâce à l’icône drapeau de l’app ou dans notre Centre de sécurité. Nous tentons de répondre dans les 24 heures et priorisons les urgences.