O Yubo expande sua tecnologia de moderação de áudio em tempo real para transmissões ao vivo em quatro dos seus maiores mercados internacionais.

Numa iniciativa pioneira no setor, o aplicativo de descoberta social para a Geração Z, Yubo, expande a moderação de áudio para transmissões ao vivo para o Reino Unido, Austrália e Canadá, após o lançamento nos Estados Unidos neste verão.

Yubo, o aplicativo de descoberta social ao vivo para a Geração Z, expandiu sua tecnologia de moderação de áudio para transmissões ao vivo em quatro de seus maiores mercados: Estados Unidos, Reino Unido, Austrália e Canadá. Em parceria com a Hive, Yubo introduziu essa tecnologia nos Estados Unidos no final de maio, tornando-se a primeira grande plataforma de mídia social do mundo a enfrentar os desafios da análise de áudio em tempo real.

Embora tenham sido feitos avanços significativos no desenvolvimento de tecnologia de moderação de imagem e vídeo em tempo real, a moderação de áudio tem sido um desafio não resolvido. De acordo com um relatório da Liga Anti-Difamação, aproximadamente metade das pessoas que relataram ter sofrido assédio em jogos online - onde as transmissões ao vivo historicamente foram mais comuns - foram alvo de ataques de voz.

Desde então, o Yubo expandiu a fase de testes para incluir todas as regiões de língua inglesa onde possui uma grande base de usuários, atingindo um ponto de inflexão crítico para reunir insights substantivos sobre essa ferramenta de segurança inovadora. Embora ainda esteja em sua infância, a tecnologia tem se mostrado particularmente eficaz na detecção de riscos potenciais no mundo real, como violência contra terceiros ou autolesões.

A tecnologia de moderação de áudio da Hive no Yubo funciona atualmente gravando e transcrevendo automaticamente trechos de áudio de 10 segundos em transmissões ao vivo com 10 ou mais pessoas. O texto é instantaneamente escaneado usando inteligência artificial. Somente transcrições contendo palavras ou frases que violem as diretrizes da comunidade do aplicativo são marcadas para revisão pelos Especialistas de Segurança do Yubo, que começam a investigar os incidentes em tempo real para determinar quais ações devem ser tomadas, incluindo a necessidade de recorrer às autoridades. Transcrições sem suspeitas de violações não são revisadas nem mantidas.

Os algoritmos que impulsionam essa tecnologia de moderação de áudio utilizam aprendizado de máquina e, portanto, continuarão a melhorar e se tornar mais precisos com o tempo. Para proteger a privacidade do usuário, as transcrições de transmissões ao vivo que não foram marcadas para investigação são excluídas após 24 horas. Transcrições sinalizadas que requerem investigação interna ou pelas autoridades são armazenadas por até um ano.

"Nossa expansão da tecnologia de moderação de áudio não é apenas um elemento chave do roadmap de segurança em constante evolução do Yubo, mas também um desenvolvimento fundamental para expandir os parâmetros de segurança online em toda a indústria", disse o diretor de operações do Yubo, Marc-Antoine Durand. "Ainda há muito progresso a ser feito na área de detecção de voz, mas estamos orgulhosos de estar abrindo caminho para nossos colegas, sendo os primeiros a lançar a moderação de áudio com a Hive e ajudando a tornar essa ferramenta mais confiável e eficaz por meio deste teste".

O Yubo implantou pela primeira vez a tecnologia de moderação de áudio neste verão para um pequeno grupo de usuários nos Estados Unidos. Com maior escala em quatro mercados principais, as palavras-chave de moderação de áudio agora acionam uma média de 600 transmissões ao vivo por dia para revisão pelos Especialistas de Segurança. No entanto, uma parcela significativa dessas acusações são "falsos positivos". Falsos positivos se referem a casos em que, por exemplo, uma música tocando ao fundo ou uma linguagem brincalhona contendo palavras-chave desencadeadoras são sinalizadas para revisão, mas não são realmente casos de discurso prejudicial. Falsos positivos destacam não apenas a complexidade da moderação eficaz de conteúdo online, mas também a importância de combinar ferramentas técnicas com supervisão humana para sutileza e contexto. É por isso que, no Yubo, os moderadores humanos sempre têm a palavra final sobre que ação de moderação tomar e supervisionam continuamente os algoritmos de detecção.