Yubo skalar realtids ljudmoderationsteknik över fyra stora internationella marknader.

I en branschledande satsning expanderar Gen Z sociala upptäcktsappen Yubo ljudmoderation för livestreaming till Storbritannien, Australien och Kanada, efter att ha lanserats i USA tidigare i sommar.

ChatGPT

Yubo, den live-baserade sociala upptäcktsappen för Gen Z, har utvidgat sin ljudmoderationsteknologi för livestreams till fyra av sina största marknader: USA, Storbritannien, Australien och Kanada. I samarbete med Hive introducerade Yubo denna teknologi i USA i slutet av maj och blev den första stora sociala medieplattformen i världen som hanterar utmaningarna med realtids ljudanalys.

Även om betydande framsteg har gjorts inom realtidsbild- och videomodereringsteknologi har ljudmodering förblivit en olöst utmaning. Enligt en rapport från Anti-Defamation League var ungefär hälften av personerna som rapporterade om trakasserier i online-spel – där livestreaming historiskt sett har varit mest utbrett – utsatta för trakasserier genom röst.

Yubo har sedan utökat testfasen för att inkludera alla områden där engelska talas som majoritetsspråk och där appen har många användare, vilket har nått en avgörande vändpunkt för att samla väsentlig information om denna genombrottssäkerhetsfunktion. Trots att teknologin fortfarande är i sin linda har den visat sig särskilt effektiv för att upptäcka potentiella risker i den verkliga världen, som våld mot andra eller självskada.

Hives ljudmoderingsteknologi på Yubo fungerar för närvarande genom att spela in och automatiskt transkribera 10-sekunders ljudklipp från livestreams med 10 eller fler personer. Texten skannas sedan omedelbart med hjälp av artificiell intelligens. Endast transkript som innehåller ord eller fraser som bryter mot appens gemenskapsriktlinjer flaggas för granskning av Yubos säkerhetsspecialister, som börjar undersöka händelserna i realtid för att avgöra vilka åtgärder som bör vidtas, inklusive om det är nödvändigt att eskalera till myndigheterna. Transkript utan misstänkta överträdelser granskas inte och sparas inte.

Algoritmerna som driver denna ljudmoderingsteknologi använder maskininlärning och kommer därför att fortsätta att förbättras och bli mer precisa över tiden. För att skydda användarnas integritet raderas livestreams-transkript som inte har flaggats för utredning efter 24 timmar. Transkript som flaggas och kräver intern eller myndighetsutredning sparas upp till ett år.

"Vår utvidgning av ljudmoderingsteknologi är inte bara en viktig del av Yubos ständigt utvecklande säkerhetsproduktvägkarta, utan också en kritisk utveckling för att utöka parametrarna för online-säkerhet på branschnivå", sa Yubos operativa chef, Marc-Antoine Durand. "Det finns fortfarande mycket arbete som behöver göras inom området röstigenkänning, men vi är stolta över att vara banbrytande för våra kamrater genom att vara de första som lanserar ljudmodering med Hive och hjälper till att göra denna teknik mer pålitlig och effektiv genom detta försök."

Yubo lanserade först ljudmoderingsteknologi i somras till ett litet urval av användare i USA. Med större skala i de fyra huvudmarknaderna utlöser ljudmoderingsnyckelord nu i genomsnitt 600 livestreams per dag för granskning av säkerhetsspecialister. Trots det utgör en betydande del av dessa så kallade "falska positiva" fall. Falska positiva refererar till situationer där till exempel en låt som spelas i bakgrunden eller lekfullt språk som innehåller utlösande nyckelord flaggas för granskning, men inte är exempel på skadligt tal. Falska positiva lyfter fram inte bara komplexiteten med eff.