Yubo expande su tecnología de moderación de audio en tiempo real en cuatro mercados internacionales principales.

Como primicia en la industria, la aplicación de descubrimiento social para la Generación Z, Yubo, amplía la moderación de audio para transmisiones en vivo al Reino Unido, Australia y Canadá, después de haber sido lanzada en Estados Unidos este verano.

Yubo, la aplicación de descubrimiento social en vivo para la Generación Z, ha expandido su tecnología de moderación de audio para transmisiones en vivo en cuatro de sus mercados más grandes: Estados Unidos, Reino Unido, Australia y Canadá. En asociación con Hive, Yubo introdujo esta tecnología en Estados Unidos a finales de mayo, convirtiéndose en la primera plataforma importante de redes sociales en el mundo en abordar los desafíos del análisis de audio en tiempo real.

Aunque se han logrado avances significativos en el desarrollo de tecnología de moderación de imágenes y videos en tiempo real, la moderación de audio ha seguido siendo un desafío sin resolver. Según un informe de la Liga Antidifamación, aproximadamente la mitad de las personas que han denunciado acoso en los juegos en línea, donde las transmisiones en vivo han sido históricamente más frecuentes, fueron objeto de ataques verbales.

Desde entonces, Yubo ha ampliado la fase de prueba para incluir todas las regiones de habla inglesa donde tiene una gran base de usuarios, alcanzando un punto de inflexión crítico para obtener conocimientos sustanciales sobre esta innovadora herramienta de seguridad. Aunque aún está en sus primeras etapas, la tecnología ha demostrado ser especialmente eficaz para detectar posibles riesgos en el mundo real, como violencia hacia otros o autolesiones.

La tecnología de moderación de audio de Hive en Yubo funciona actualmente grabando y transcribiendo automáticamente fragmentos de audio de 10 segundos en transmisiones en vivo con 10 o más personas. El texto es escaneado al instante utilizando inteligencia artificial. Solo se marcan para revisión las transcripciones que contienen palabras o frases que violan las normas comunitarias de la aplicación, y son evaluadas por especialistas en seguridad de Yubo, quienes comienzan a investigar los incidentes en tiempo real para determinar qué acciones deben tomarse, incluida la posibilidad de informar a las autoridades. Las transcripciones que no se sospecha que contengan violaciones no son revisadas ni guardadas.

Los algoritmos que impulsan esta tecnología de moderación de audio utilizan aprendizaje automático y, por lo tanto, seguirán mejorando y siendo más precisos con el tiempo. Para proteger la privacidad del usuario, las transcripciones de las transmisiones en vivo que no se marcan para su investigación se borran después de 24 horas. Las transcripciones que se marcan y requieren investigación interna o por parte de las autoridades se almacenan durante un año.

"Nuestra expansión de la tecnología de moderación de audio no solo es un elemento clave en la evolución constante de la hoja de ruta de seguridad de Yubo, sino también un desarrollo crucial para expandir los parámetros de la seguridad en línea en toda la industria", dijo Marc-Antoine Durand, Director de Operaciones de Yubo. "Todavía queda mucho por hacer en el área de detección de voz, pero estamos orgullosos de estar abriendo camino para nuestros colegas al ser los primeros en lanzar la moderación de audio con Hive y ayudar a que esta herramienta sea más confiable y efectiva a través de esta prueba".

Yubo implementó por primera vez la tecnología de moderación de audio este verano para un pequeño grupo de usuarios en los Estados Unidos. Con una mayor escala en los cuatro mercados principales, las palabras clave de moderación de audio ahora activan un promedio de 600 transmisiones en vivo al día para que los especialistas en seguridad las revisen. Sin embargo, una parte significativa de ellas son "falsos positivos". Los falsos positivos se refieren a casos en los que, por ejemplo, una canción que suena de fondo o un lenguaje juguetón que contiene palabras clave de activación se marcan para su revisión, pero en realidad no son instancias de discurso dañino. Los falsos positivos destacan no solo la complejidad de la moderación efectiva de contenido en línea, sino también la importancia de combinar herramientas técnicas con supervisión humana para el matiz y el contexto. Es por eso que en Yubo, los moderadores humanos siempre tienen la última palabra sobre qué acciones de moderación tomar y supervisan continuamente los algoritmos de detección.