Como primicia en la industria, la aplicación de descubrimiento social para la Generación Z, Yubo, amplía la moderación de audio para transmisiones en vivo al Reino Unido, Australia y Canadá, después de haber sido lanzada en Estados Unidos este verano.

Yubo, la aplicación de descubrimiento social en vivo para la Generación Z, ha expandido su tecnología de moderación de audio para transmisiones en vivo en cuatro de sus mercados más grandes: Estados Unidos, Reino Unido, Australia y Canadá. En asociación con Hive, Yubo introdujo esta tecnología en Estados Unidos a finales de mayo, convirtiéndose en la primera plataforma importante de redes sociales en el mundo en abordar los desafíos del análisis de audio en tiempo real.

Aunque se han logrado avances significativos en el desarrollo de tecnología de moderación de imágenes y videos en tiempo real, la moderación de audio ha seguido siendo un desafío sin resolver. Según un informe de la Liga Antidifamación, aproximadamente la mitad de las personas que han denunciado acoso en los juegos en línea, donde las transmisiones en vivo han sido históricamente más frecuentes, fueron objeto de ataques verbales.

Desde entonces, Yubo ha ampliado la fase de prueba para incluir todas las regiones de habla inglesa donde tiene una gran base de usuarios, alcanzando un punto de inflexión crítico para obtener conocimientos sustanciales sobre esta innovadora herramienta de seguridad. Aunque aún está en sus primeras etapas, la tecnología ha demostrado ser especialmente eficaz para detectar posibles riesgos en el mundo real, como violencia hacia otros o autolesiones.

La tecnología de moderación de audio de Hive en Yubo funciona actualmente grabando y transcribiendo automáticamente fragmentos de audio de 10 segundos en transmisiones en vivo con 10 o más personas. El texto es escaneado al instante utilizando inteligencia artificial. Solo se marcan para revisión las transcripciones que contienen palabras o frases que violan las normas comunitarias de la aplicación, y son evaluadas por especialistas en seguridad de Yubo, quienes comienzan a investigar los incidentes en tiempo real para determinar qué acciones deben tomarse, incluida la posibilidad de informar a las autoridades. Las transcripciones que no se sospecha que contengan violaciones no son revisadas ni guardadas.

Los algoritmos que impulsan esta tecnología de moderación de audio utilizan aprendizaje automático y, por lo tanto, seguirán mejorando y siendo más precisos con el tiempo. Para proteger la privacidad del usuario, las transcripciones de las transmisiones en vivo que no se marcan para su investigación se borran después de 24 horas. Las transcripciones que se marcan y requieren investigación interna o por parte de las autoridades se almacenan durante un año.

"Nuestra expansión de la tecnología de moderación de audio no solo es un elemento clave en la evolución constante de la hoja de ruta de seguridad de Yubo, sino también un desarrollo crucial para expandir los parámetros de la seguridad en línea en toda la industria", dijo Marc-Antoine Durand, Director de Operaciones de Yubo. "Todavía queda mucho por hacer en el área de detección de voz, pero estamos orgullosos de estar abriendo camino para nuestros colegas al ser los primeros en lanzar la moderación de audio con Hive y ayudar a que esta herramienta sea más confiable y efectiva a través de esta prueba".

Yubo implementó por primera vez la tecnología de moderación de audio este verano para un pequeño grupo de usuarios en los Estados Unidos. Con una mayor escala en los cuatro mercados principales, las palabras clave de moderación de audio ahora activan un promedio de 600 transmisiones en vivo al día para que los especialistas en seguridad las revisen. Sin embargo, una parte significativa de ellas son "falsos positivos". Los falsos positivos se refieren a casos en los que, por ejemplo, una canción que suena de fondo o un lenguaje juguetón que contiene palabras clave de activación se marcan para su revisión, pero en realidad no son instancias de discurso dañino. Los falsos positivos destacan no solo la complejidad de la moderación efectiva de contenido en línea, sino también la importancia de combinar herramientas técnicas con supervisión humana para el matiz y el contexto. Es por eso que en Yubo, los moderadores humanos siempre tienen la última palabra sobre qué acciones de moderación tomar y supervisan continuamente los algoritmos de detección.

Yubo expande su tecnología de moderación de audio en tiempo real a través de cuatro mercados internacionales principales.

Yubo expande su tecnología de moderación de audio en tiempo real en cuatro mercados internacionales principales.

El ciberacoso ha estado en ascenso entre los jóvenes y se ha informado de un aumento del 50 % en el transcurso de los confinamientos, lo que ha provocado que se multipliquen las conversaciones en torno a las medidas que se pueden implantar para proteger a niños y adolescentes en línea.

En la semana Contra el acoso escolar (del 15 al 21 de noviembre), Yubo se encarga de educar a sus usuarios sobre las consecuencias del acoso, trabajando con la organización benéfica británica The Diana Award con el objetivo de concienciar a la comunidad de Yubo acerca de cómo se debe actuar en caso de sufrir acoso a través de una campaña en la propia aplicación y de un cuestionario educativo. Además, insta a otras plataformas de redes sociales a tomar medidas proactivas para proteger a los usuarios más jóvenes en línea y a educar a los adolescentes sobre cómo comportarse de forma amable en línea para protegerlos a largo plazo. 

A principios de este año, Yubo adoptó medidas para combatir el ciberacoso y los contenidos dañinos con el lanzamiento de la nueva función "Silenciar palabras", que permite a sus usuarios bloquear palabras y frases específicas que les resulten personalmente ofensivas para que no aparezcan en la aplicación.

La función de Silenciar palabras permite a los usuarios definir una serie de palabras y siglas que les parecen ofensivas y dañinas o que puedan desencadenar en ellos una reacción negativo y que, por tanto, no desean seguir viendo en los comentarios o contenidos de la aplicación. Los usuarios también pueden elegir a quién silenciar estas palabras; por ejemplo, pueden bloquear a todos los usuarios o solo a los que no están en su lista de amigos. Yubo se encargará de ocultar automáticamente los comentarios que contengan estas palabras de la vista del usuario.

Sacha Lazimi, CEO y cofundador de Yubo ha dicho, “Las redes sociales desempeñan un papel muy importante en la vida de la generación Z: se trata de los primeros nativos digitales y para ellos no existe diferencia entre socializar en línea o fuera de ella. Como pasan más tiempo en línea, es nuestro trabajo como empresas de redes sociales protegerlos contra el ciberacoso y las conductas inapropiadas. 

Ahora más que nunca, esta generación necesita un espacio para socializar de forma segura con personas con ideas similares y experimentar la interacción social a través de Internet. Sin embargo, es nuestra responsabilidad como empresa asegurarnos de que están protegidos y de que están informados sobre cómo comportarse de forma responsable en línea, no solo en Yubo, sino en cualquier otra red social o foro en línea. Con este fin, hemos introducido nuevas funciones y seguiremos trabajando de forma proactiva con nuestros expertos en seguridad y moderación para garantizar que Yubo constituya un espacio seguro en el que establecer conexiones nuevas e importantes.” 

Esta semana contra el acoso escolar (del 15 al 21 de noviembre) Yubo está educando a su base de usuarios sobre los impactos del acoso escolar trabajando junto a la organización benéfica británica The Diana Award con el objetivo de concienciar a la comunidad de Yubo sobre las acciones que deben realizar cuando han sido acosados, a través de una campaña directamente en la aplicación y un cuestionario educativo.

Yubo colabora con el Diana Award

El National Center for Missing & Exploited Children (NCMEC), la principal organización sin fines de lucro dedicada a la búsqueda de niños desaparecidos, la reducción de la explotación sexual infantil y la prevención de la victimización, se ha asociado con Yubo, la mayor red social del mundo dedicada a la socialización, para garantizar la seguridad de los jóvenes en la era digital. Yubo pasa a engrosar las filas de algunos de los gigantes tecnológicos más destacados del mundo con la introducción de funciones de seguridad únicas en la plataforma, dirigida exclusivamente a una generación más joven.

A partir de hoy, el equipo de moderación de Yubo, que se dedica exclusivamente a prevenir conductas peligrosas de los usuarios en la plataforma, podrá denunciar en tiempo real cualquier posible explotación infantil en línea a la CyberTipline del NCMEC, con solo pulsar un botón. Cuando el NCMEC recibe una denuncia, esa información se pone a disposición de las fuerzas de seguridad de todo el mundo para que la examinen e investiguen. Yubo identificará los perfiles sospechosos mediante el cotejo de valores hash con la base de datos de intercambio de hash del NCMEC, que rastrea la "huella digital" de imágenes y archivos conocidos con contenidos de abuso sexual infantil.

Asimismo, el NCMEC desempeñará una labor de asesoramiento para Yubo, orientando el desarrollo de herramientas de moderación y seguridad. John Shehan, vicepresidente del Departamento de explotación infantil del NCMEC, se incorpora al Consejo de Seguridad de Yubo, entre cuyos miembros se encuentran líderes de otras organizaciones públicas y sin ánimo de lucro como Thorn, Diana Award, exmiembros de la Interpol, el servicio de salud mental londinense Good Thinking y el fundador de NetFamilyNews.org. El rol de John en esta plataforma pone de manifiesto la determinación de Yubo de trabajar de forma transparente y positiva con las organizaciones de seguridad más influyentes de todo el mundo, dedicadas a la protección de los jóvenes usuarios de Internet.

John Shehan ha afirmado al respecto: “Estamos impresionados con el compromiso de Yubo con la seguridad de sus usuarios y las soluciones innovadoras que ofrecen para crear un entorno más seguro en Internet. Es un orgullo trabajar con ellos para continuar desarrollando herramientas que protejan a los jóvenes de la explotación.”

Marc-Antoine Durand, Director de operaciones de Yubo, añade: “Lo más importante para Yubo es la seguridad de sus usuarios. Somos una de las únicas redes sociales que invierte tanto en recursos humanos, técnicos y económicos para garantizar en todo momento que Yubo sea la plataforma más segura para la generación Z.”

“Nuestra asociación con el NCMEC garantiza que se detecten inmediatamente los casos de explotación, lo que permite a las autoridades locales tener un acceso completo a la información para detener a los autores de delitos digitales más rápida y eficazmente que nunca.”

Este anuncio de colaboración se ve reforzado por el lanzamiento de dos nuevas funciones de seguridad en la plataforma. El primero de ellos impedirá el acceso a los perfiles que no cuenten con una foto de perfil; se trata de una nueva herramienta que exige a los usuarios que suban una foto de sí mismos para poder acceder a la aplicación. Por otro lado, una segunda herramienta creada por Yubo detectará y alertará al usuario -en tiempo real- cuando estén a punto de compartir información personal tal como su ubicación, su dirección de correo electrónico o número de teléfono, lo que les permitirá pensárselo dos veces antes de enviar un mensaje con estos datos.

Introducing: True identity popups

Estas nuevas funciones se suman a las ya existentes credenciales de seguridad de Yubo, que incluyen la estimación de la edad en colaboración con Yoti Age Scan, las intervenciones de moderación en tiempo real en los vídeos sociales, así como su continua colaboración con las fuerzas policiales de todo el mundo, lo con lo que la plataforma se consolida como el principal destino de las redes sociales del mundo que promueve la seguridad como su máxima prioridad.

Annie Mullins, cofundadora de The Trust and Safety Group y consultora independiente en seguridad explica:

“Para luchar contra la explotación de los jóvenes hace falta un ejército. Es preciso que las empresas tecnológicas colaboren con las organizaciones sin ánimo de lucro locales y las fuerzas del orden para garantizar que los delincuentes afronten todo el peso de la ley.”

“Tanto la educación como la capacitación de los usuarios mediante herramientas de seguridad integradas en la aplicación, así como la colaboración con organizaciones importantes y relevantes como el NCMEC, el compromiso de Yubo con la seguridad de los jóvenes es encomiable y sin duda debería servir de ejemplo a otras redes sociales.”

Con una comunidad internacional de más de 28 millones de jóvenes en la plataforma, y con decenas de miles de nuevos miembros que se incorporan a la comunidad cada día, Yubo se compromete a garantizar la seguridad de todas las personas en la plataforma.

La NCMEC colaborará con Yubo para combatir la explotación en línea

Como plataforma que se dedica a ayudar a los jóvenes a establecer conexiones significativas, trabajamos cada día por la seguridad de nuestra comunidad. Por eso, siempre estamos orgullosos de colaborar con #SaferInternetDay, el evento anual de seguridad en línea, que se celebra hoy (9 de febrero).

Durante los últimos años, hemos introducido una serie de medidas de seguridad líderes en el sector para contribuir a proteger, apoyar y educar a los jóvenes usuarios en Yubo. Entre ellas se incluyen las intervenciones en tiempo real, para las cuales utilizamos una combinación de algoritmos de IA y moderadores humanos que supervisan la actividad y toman medidas cuando se infringen nuestras Normas de la comunidad. Por ejemplo, los desnudos no están permitidos en Yubo. Si alguien incumple esta norma, le enviamos un mensaje pidiéndole que reconsidere su conducta o podremos cerrar el Live o bloquear su cuenta.

También animamos a nuestros jóvenes usuarios a que se lo piensen dos veces antes de compartir sus datos personales en un chat privado. Si un usuario escribe una frase como "Vivo en..." o "Mi número de teléfono es...", se activa una alerta emergente que le dará la oportunidad de eliminar el mensaje o enviarlo de todos modos. Hoy presentamos una nueva función de seguridad: si alguno de nuestros usuarios intenta hacer peticiones inapropiadas a través de un chat privado, le advertiremos enviando una alerta emergente y bloquearemos el contenido para que no se comparta. 

¿Por qué es tan importante prevenir los posibles riesgos en Yubo? Durante la adolescencia, los jóvenes cuentan con un gran potencial para aprender cosas nuevas, pero la parte del cerebro que les ayuda a tomar decisiones y a valorar sus consecuencias aún no está completamente desarrollada. Por otro lado, podrían verse presionados por sus compañeros para comportarse de una manera determinada y asumir riesgos.

Para ayudar a combatir esto, educamos a nuestros jóvenes usuarios y les damos la oportunidad de reflexionar detenidamente antes de compartir contenidos o información personal y de cambiar de opinión en caso de que tengan dudas. Defendemos su libertad de expresión, pero también es importante ayudarles a estar más seguros.

Como asegura nuestra consejera de seguridad Annie Mullins OBE, “Los jóvenes cometen errores, es parte del crecimiento, pero es importante que los responsables de las redes sociales les ofrezcan mecanismos de seguridad y los orienten en la dirección correcta cuando su propia conducta pueda ponerlos en peligro. El objetivo debería ser el fomento de la resiliencia digital y el bienestar.”

Si nos fijamos en la Convención de las Naciones Unidas sobre los Derechos del Niño (CDN), vemos que los jóvenes tienen derecho a la intimidad y a expresar sus opiniones; pero también tienen derecho a la protección contra la discriminación, la violencia, los abusos sexuales y otras formas de explotación. Naturalmente, estos derechos se aplican tanto en línea como en el mundo real. En una reciente publicación en un blog, la profesora Sonia Livingstone del LSE calificó como un "enorme avance" la adopción de una Observación General sobre los derechos del niño en relación con el entorno digital por parte del Comité de los Derechos del Niño de las Naciones Unidas.

Lograr el equilibrio entre la privacidad y la seguridad es sin duda uno de los principales retos a los que se enfrentan las empresas tecnológicas y los organismos reguladores. La necesidad de privacidad se ha de contraponer al riesgo de que los jóvenes sean víctimas de delitos digitales, como la usurpación de identidad, la incitación al odio y el abuso sexual de menores. En Yubo, pedimos a todos los nuevos usuarios que lean y acepten nuestras Normas de la comunidad y somos lo más transparentes que podemos acerca de cómo supervisamos y moderamos los contenidos en nuestra plataforma (sin menoscabo de las medidas de protección que hemos establecido).

Fieles a nuestros compromisos con la seguridad

En 2020, participamos en los esfuerzos de la industria para implantar un enfoque normativo homogéneo sobre la privacidad electrónica en la UE (donde Yubo tiene su sede). Creemos que centrarse únicamente en la privacidad de los usuarios podría tener consecuencias no deseadas y suponer un mayor riesgo de explotación sexual para los niños. Junto con Google, Linkedin, Microsoft y Roblox, anunciamos que Yubo se mantendrá "firme en el cumplimiento de nuestros compromisos de seguridad, algo que los europeos (en realidad, los usuarios de todo el mundo) esperan y en lo que confían".

Nuestra posición fue bien recibida por muchos, entre ellos el Centro Nacional de Menores Desaparecidos y Explotados (NCMEC) y la Fundación de Vigilancia de Internet (IWF).

El presidente y CEO del NCMEC, John Clark declaró, "Alabamos la labor de Google, LinkedIn, Microsoft, Roblox y Yubo, que se han comprometido públicamente a mantener sus esfuerzos proactivos para detectar la explotación sexual infantil incluso cuando la UE aún debate acerca de cuáles serán los próximos pasos."

"Aplaudimos de todo corazón la postura adoptada por estas empresas, que realmente están haciendo todo lo posible para proteger a los niños", comentó Susie Hargreaves OBE, Directora ejecutiva del IWF. "Proteger a los niños, tanto dentro como fuera de la red, ha de ser una prioridad para todos, y es preciso recordarlo siempre".

Proteger a los jóvenes en tiempos del COVID

El tema del Día por un Internet seguro de hoy, "Juntos por una Internet mejor", nos recuerda la importancia del papel que desempeña Yubo en el ecosistema de la seguridad digital. Al trabajar estrechamente con otras partes interesadas, y como miembro de la Coalición de tecnología y defensor del Proyecto Protect, entre otros, Yubo es una parte esencial de este enfoque.

Con más de 45 millones de usuarios y un aumento del 550% en el uso de nuestro servicio de retransmisión en directo a escala mundial en 2020, es nuestra responsabilidad seguir educando a los jóvenes en un comportamiento responsable y seguro en la red. Es un papel que nos tomamos muy en serio, sobre todo porque los espacios digitales se han convertido en un medio indispensable durante los confinamientos provocados por la pandemia de coronavirus.

Tal y como expresa nuestro Director de operaciones Marc-Antoine Durand: "Ahora más que nunca, esta generación necesita un espacio para conectarse de forma segura con personas que piensan igual y así experimentar la interacción social en línea, ya que no pueden hacerlo en la vida real... Es nuestra responsabilidad como empresa garantizar que estén protegidos y que se les eduque sobre cómo comportarse de forma responsable en línea, no solo en Yubo, sino en cualquier red social o foro en línea."

Visita la web #SaferInternetDay para saber cómo puedes participar.

Yubo celebra el Día de la Internet Segura 2021 con una serie de medidas de seguridad líderes en el sector para ayudar a proteger, apoyar y educar a los jóvenes usuarios.

Día de Internet Segura: Enlaces útiles

Sobre Yubo

Experiencia de usuario

Producto

Seguridad

Empresa

Contact press@yubo.live

Para consultas de medios de comunicación

Mantente al día. Recibe las últimas actualizaciones directamente desde Yubo, tu red social de retransmisión de vídeos en directo.

Mantente al día.

Obtén las últimas actualizaciones directamente desde nosotros

Yubo expande su tecnología de moderación de audio en tiempo real en cuatro ...

Yubo colabora con el Diana Award

La NCMEC colaborará con Yubo para combatir la explotación en línea

Día de Internet Segura: Enlaces útiles

Para consultas de medios de comunicación