Yubo breidt zijn real-time audio moderatietechnologie uit naar vier belangrijke internationale markten.

In een primeur voor de branche breidt de sociale ontdekkingsapp voor Gen Z de audiomoderatie voor livestreams uit naar het Verenigd Koninkrijk, Australië en Canada, na de lancering in de Verenigde Staten deze zomer.

Yubo, de live sociale ontdekkingsapp voor Gen Z, heeft zijn audiomoderatietechnologie voor livestreams uitgebreid naar vier van zijn grootste markten: de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada. In samenwerking met Hive heeft Yubo deze technologie eind mei in de Verenigde Staten geïntroduceerd en is daarmee het eerste belangrijke socialemediaplatform ter wereld dat de uitdagingen van realtime audi-analyse aanpakt.

Hoewel er aanzienlijke vooruitgang is geboekt op het gebied van realtime beeld- en videomoderatietechnologie, is audiomoderatie een onopgeloste uitdaging gebleven. Volgens een rapport van de Anti-Defamation League is ongeveer de helft van de mensen die melding maken van online pesterijen - waar livestreaming historisch gezien het meest voorkomt - het doelwit van vocaal geweld.

Yubo heeft sindsdien de testfase uitgebreid naar alle gebieden waar Engels de meerderheidstaal is en waar het een groot aantal gebruikers heeft, wat een kritisch moment betekent om wezenlijke inzichten te verzamelen in deze baanbrekende veiligheidstool. Hoewel de technologie nog in de beginfase verkeert, heeft deze zich bewezen als bijzonder effectief in het detecteren van potentieel risico in de echte wereld, zoals geweld tegen anderen of zelfbeschadiging.

De audiomoderatietechnologie van Hive op Yubo werkt momenteel door 10-seconden fragmenten van audio in livestreams van 10 of meer mensen op te nemen en automatisch te transcriberen. De tekst wordt vervolgens onmiddellijk gescand met behulp van kunstmatige intelligentie. Alleen transcripten die woorden of zinnen bevatten die in strijd zijn met de richtlijnen van de app worden gemarkeerd voor beoordeling door de veiligheidsspecialisten van Yubo, die de incidenten in realtime onderzoeken om te bepalen welke maatregelen moeten worden genomen, inclusief de mogelijkheid van escalatie naar de wetshandhaving. Transcripten zonder vermoedelijke overtredingen worden niet beoordeeld of bewaard.

De algoritmes die deze audiomoderatietechnologie aandrijven maken gebruik van machine learning en zullen daarom met de tijd blijven verbeteren en nauwkeuriger worden. Om de privacy van gebruikers te beschermen, worden livestreamtranscripten die niet zijn gemarkeerd voor onderzoek na 24 uur verwijderd. Transcripten die zijn gemarkeerd en intern of door wetshandhaving moeten worden onderzocht, worden tot een jaar bewaard.

"Onze uitbreiding van de audiomoderatietechnologie is niet alleen een sleutelelement in de voortdurende veiligheidsproductontwikkeling van Yubo, maar ook een belangrijke ontwikkeling in het uitbreiden van de parameters van online veiligheid in de branche", aldus Marc-Antoine Durand, Chief Operating Officer van Yubo. "Er is nog veel vooruitgang te boeken op het gebied van spraakdetectie, maar we zijn er trots op dat we voor onze collega's een weg banen door als eersten audio moderatie te lanceren met Hive en deze tool betrouwbaarder en effectiever te maken via deze test."

Yubo heeft deze zomer voor het eerst audiomoderatietechnologie ingezet bij een kleine groep gebruikers in de VS. Met een groter bereik in vier belangrijke markten worden nu gemiddeld 600 livestreams per dag door veiligheidsspecialisten beoordeeld op basis van audiomoderatiesleutelwoorden. Toch vormt een aanzienlijk deel van deze beoordelingen "valse positieven". Hierbij gaat het om gevallen waarin bijvoorbeeld een nummer op de achtergrond wordt afgespeeld of speels taalgebruik met mogelijk triggerende woorden worden gemarkeerd voor beoordeling, maar in werkelijkheid geen schadelijke uitingen zijn. Deze valse positieven onderstrepen niet alleen de complexiteit van effectieve moderatie van online inhoud, maar ook het belang van het combineren van technische tools met menselijk toezicht voor nuance en context. Daarom hebben de menselijke moderators van Yubo altijd het laatste woord over welke moderatiemaatregelen worden genomen en houden zij voortdurend toezicht op de detectiealgoritmes.