Intervención en tiempo real en los vídeos sociales

Intervención en tiempo real en los vídeos sociales: Yubo toma la iniciativa para reducir los riesgos de los jóvenes

En Yubo siempre estamos buscando formas de innovar en materia de seguridad en línea. En nuestra anterior publicación, explicamos que nos tomamos muy en serio nuestra responsabilidad con los usuarios más jóvenes de Yubo. Desde entonces, hemos seguido trabajando con la experta en seguridad online Annie Mullins OBE para poner en marcha una serie de medidas de protección en la aplicación y hace poco hemos dado un paso importante al introducir la intervención en tiempo real en las retransmisiones en directo.

Mediante una combinación de algoritmos y moderadores humanos, supervisamos la actividad en Yubo para poder identificar a los usuarios que infringen las normas de nuestra comunidad y que podrían ponerse a sí mismos o a otros en peligro mientras retransmiten en directo. A continuación, tomamos medidas inmediatas mediante el envío de un mensaje al usuario en el que se le explica el motivo de su infracción, cómo cambiar su comportamiento y las medidas que tomaremos si no lo hace. Nuestras opciones incluyen desactivar temporalmente la retransmisión en directo y bloquear la cuenta.

Yubo es la única aplicación de vídeo social que interviene de esta manera para ayudar a mantener la seguridad de los adolescentes. Sí, es una iniciativa arriesgada, y sí, algunos jóvenes se sorprenden cuando reciben un mensaje de advertencia de nuestra parte, pero creemos que lo más importante es brindar apoyo y protección a nuestros usuarios y hacer de la comunidad Yubo un lugar aún mejor para ellos.

En este artículo analizaremos en detalle la intervención en directo y estudiaremos cómo fomenta un cambio de comportamiento al animar a los usuarios de Yubo a estar más seguros y ser más responsables, además de ayudar a reducir el riesgo de explotación sexual y otros problemas. También conversamos con uno de nuestros moderadores más experimentados y descubrimos cómo responden nuestros usuarios adolescentes a los mensajes que les envía sobre conductas inapropiadas o contenidos inadecuados que han publicado.

"Sabemos que las redes sociales pueden hacer más y algunos sitios como Yubo ya han implantado buenas prácticas en torno a la retransmisión en línea". Andy Burrows, Responsable adjunto de seguridad infantil en línea, NSPCC (2018)

Educación y participación

Del mismo modo que los adolescentes pueden experimentar y desafiar los límites en la vida real, sucede otro tanto en el mundo digital. Es posible que en Internet los jóvenes ya hayan visto comportamientos o contenidos inapropiados y no siempre estén seguros de lo que es aceptable. Ya sea grabarse en ropa interior o hacer comentarios desagradables sobre alguien, es importante que entiendan y reflexionen sobre las consecuencias que su conducta podría tener para ellos y para los demás. Además, como empresa, debemos ser capaces de tomar medidas cuando veamos comportamientos y contenidos inapropiados o ilegales dentro de las retransmisiones en directo en Yubo (las cuales llamamos Lives).

Las normas de nuestra comunidad son fundamentales para establecer unas pautas de conducta de los usuarios: nuestros usuarios tienen que aceptar cumplirlas y siempre nos remitimos a ellas cuando intervenimos en las retransmisiones en directo. Por ejemplo, en estas normas dejamos muy claro que no toleramos los desnudos ni las poses en ropa interior en los Lives.

Cuando no se respetan estas normas, nuestra política es implicar y educar a nuestros usuarios más jóvenes en lugar de castigarlos. Es decir, aprovechar las oportunidades que se presentan cuando se infringen las normas para ayudarles a entender y reflexionar sobre lo que han hecho mal y animarles a cambiar su comportamiento en ese momento y en el futuro. Ya estamos comprobando el impacto positivo de las advertencias en tiempo real dentro de la aplicación y este enfoque ha sido bien acogido por las fuerzas del orden, las organizaciones sin ánimo de lucro y otros defensores de la seguridad en línea.

Como explica nuestra asesora de seguridad en línea, Annie Mullins OBE:

"He trabajado con Yubo para poner en marcha las intervenciones en directo que ayuden a prevenir que sus usuarios se pongan en peligro. Se trata de un cambio importante en el ámbito de la seguridad infantil en línea, una iniciativa que deberían plantearse otras empresas de redes sociales. Cuantas más intervenciones en tiempo real se realicen con los jóvenes, mejor podremos apoyarlos y educarlos. La gente joven comete errores, y aunque ello forma parte del crecimiento, es importante que las empresas de redes sociales le ofrezcan mecanismos de seguridad y le den un empujón en la dirección correcta cuando su comportamiento pueda suponer un riesgo para ellos."

El Dr. Richard Graham, psiquiatra especialista en niños y adolescentes, añade:

"El futuro del mundo digital depende ahora de que estemos dispuestos a utilizar los conocimientos sobre el comportamiento para evitar que lo malo estropee lo bueno. Yubo está abriendo camino con las intervenciones en directo, pues no hay mejor manera de aprender que en el momento."

Observaciones de un moderador

Nuestro equipo internacional de moderadores se encarga de diversas situaciones que se producen en las retransmisiones en directo, como jóvenes que posan en ropa interior, se quitan la ropa, acosan a otros usuarios y amenazan con autolesionarse.

Hemos pedido a uno de nuestros moderadores, Tom*, que nos explique por qué es tan importante intervenir en los Lives.

"El contenido se está transmitiendo en directo por Internet, así que lo lógico es que intervengamos inmediatamente, antes de que se produzcan daños. Cuanto más rápido nos involucremos, mejor", afirma.

Aunque cuando entran en las retransmisiones en directo en Yubo aparece un mensaje emergente sobre las normas de la comunidad y saben que los Lives los puede ver todo el mundo (no solo sus amigos), algunos usuarios siguen optando por traspasar los límites.

¿Por qué los jóvenes se comportan así en Internet? Existen varios motivos: algunos lo hacen para presumir o para ligar, otros porque ven a sus ídolos y a otros famosos actuar de una manera determinada o porque alguien les anima o les presiona para que lo hagan.

"Con frecuencia lo hacen solo para llamar la atención, algo que quizás no consiguen en la vida real", comenta Tom. "Salir en directo es una buena manera de llegar a mucha gente y conseguir muchas visitas. Los chicos que van sin camiseta lo que quieren es enseñar sus músculos, por ejemplo".

Entre los posibles riesgos de la retransmisión en directo se encuentran el acoso, verse coaccionados para realizar actividades sexuales explícitas y que desconocidos con malas intenciones se pongan en contacto con ellos.

Tom nos explica que los usuarios más jóvenes suelen encontrarse tan inmersos en la aplicación que no piensan en lo que están haciendo.

"La gente a menudo se deja llevar por el "momento" y no es consciente de los riesgos inmediatos o de que el contenido podría no desaparecer después del Live. Si se graban en ropa interior, alguien podría capturar una imagen, publicarla en otro lugar y utilizarla en su contra", señala.

Si un moderador de Yubo advierte que está ocurriendo algo que contraviene las normas de la comunidad y que podría poner a alguien en peligro, envía un mensaje de advertencia al usuario. El mensaje puede decir que el Live se cerrará en un minuto o puede avisar al usuario de que se bloqueará de la aplicación si no cambia su comportamiento.

Somos la única red social de vídeo que hace esto, ya que consideramos que es importante que nuestros usuarios más jóvenes entiendan cuál es el problema y que les animemos a cambiar su conducta. Al fin y al cabo, la mejor forma de aprender es en el momento y a través de la experiencia de la vida real.

A continuación, tomamos las medidas oportunas, que pueden ir desde eliminar el contenido a bloquear o clausurar la cuenta del usuario hasta denunciar la actividad potencialmente ilegal a la policía y otras autoridades, como la Internet Watch Foundation (IWF). Nuestro objetivo es ayudar a los usuarios a cambiar su comportamiento antes de llegar a ese punto pero, al final, haremos lo que sea correcto para ellos y otros usuarios.

"Por desgracia, una de las cosas con las que nos encontramos es con jóvenes que se autolesionan o muestran tendencias suicidas", dice Tom. "Incluso cuando las personas que ven el Live intentan ayudar, lo cierto es que no son profesionales capacitados y podrían empeorar la situación involuntariamente. Además, el hecho de ver a alguien hablando de autolesiones podría desencadenar sentimientos similares en otros usuarios".

No permitimos que el contenido sobre autolesiones permanezca en Yubo y explicamos el motivo a nuestros usuarios más jóvenes. Las intervenciones en directo nos permiten ayudar a la persona en ese momento decisivo y remitirla a organizaciones de apoyo.

"Me aventuro a decir que esta aplicación promete ser un referente en la seguridad de los vídeos en directo"Anne Collier, NetFamilyNews (Agosto de 2017)

Apoyo y protección

En general, los usuarios de Yubo responden positivamente a la intervención en tiempo real. No están acostumbrados a que otras aplicaciones se comuniquen de esta manera, pero en general reciben bien las notificaciones y cumplen con nuestras peticiones. Si alguien recibe una advertencia cuando se está desvistiendo ante la cámara, por ejemplo, suele dejar de hacerlo en cuanto ve el mensaje y vuelve a ponerse la ropa.

Tom señala que los usuarios a menudo le agradecen que intervenga, ya que eso significa que no tienen que enfrentarse a una situación difícil por sí mismos. Si se sienten presionados para comportarse de cierta manera en línea, es bueno que sepan que estamos ahí para supervisar lo que ocurre y ayudarles a gestionar esas expectativas".

Muchos de nuestros usuarios más jóvenes hablan a sus amigos de nuestras normas y de cómo los moderadores de Yubo actúan para ayudarles: una clara señal de que, aunque a los jóvenes les guste ser independientes, siguen necesitando apoyo. De hecho, educar a un adolescente puede tener un poderoso efecto dominó. Hemos recibido muchos comentarios positivos sobre la intervención en directo de nuestros usuarios más jóvenes, como: "creo que es útil ya que ayuda a que la comunidad sea más segura" y "es muy buena idea, le da a la gente la posibilidad de cambiar su conducta, y si no lo hacen, entonces tienen que asumir las consecuencias."

Una investigación de Childnet ha revelado que más de uno de cada diez usuarios de entre 8 y 17 años han retransmitido en directo, así que podemos confirmar que este formato ha llegado para quedarse. Creemos que las intervenciones en tiempo real son una herramienta esencial para ayudar a los jóvenes a tener una experiencia más segura de las redes sociales de vídeo.

En palabras de Anne Collier, es importante construir una comunidad digital basada en la "práctica guiada", una comunidad en la que los jóvenes puedan confiar, sentirse felices, ser respetuosos y estar seguros. En nuestra misión de liderar la seguridad en línea, seguiremos desarrollando funciones de seguridad innovadoras para Yubo que nos permitan lograrlo.

"Felicito a Yubo por haber revisado ampliamente sus características de seguridad para que su plataforma sea más segura para los adolescentes". Julie Inman Grant, Responsable de seguridad electrónica de Australia (Marzo de 2018)

Cinco formas en que Yubo ayuda a los jóvenes

• Yubo tiene un límite de edad mínimo de 13 años y los usuarios deben proporcionar sus datos reales, incluido su número de móvil. Utilizamos tecnología y moderadores para identificar los perfiles de usuarios menores de esa edad y bloquearlos.
• Los usuarios de Yubo pueden establecer sus propias preferencias, como mostrar o no su ubicación y decidir con quién hablan.
• Todos los usuarios deben aceptar el cumplimiento de las normas de nuestra comunidad, que incluyen reglas sobre el acoso, los desnudos, los perfiles falsos y otros comportamientos inapropiados o ilegales.
• Utilizamos tecnología punta y moderadores humanos para supervisar lo que ocurre en Yubo y tomar medidas si observamos que se infringen nuestras normas.
• Comunicarnos cualquier problema o preocupación es fácil: solo hay que pulsar el icono de bandera en la aplicación o visitar nuestro Centro de Seguridad. Nuestro objetivo es responder a las denuncias en 24 horas, dando prioridad a cualquier emergencia.