In een primeur voor de branche breidt de sociale ontdekkingsapp voor Gen Z de audiomoderatie voor livestreams uit naar het Verenigd Koninkrijk, Australië en Canada, na de lancering in de Verenigde Staten deze zomer.

Yubo, de live sociale ontdekkingsapp voor Gen Z, heeft zijn audiomoderatietechnologie voor livestreams uitgebreid naar vier van zijn grootste markten: de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada. In samenwerking met Hive heeft Yubo deze technologie eind mei in de Verenigde Staten geïntroduceerd en is daarmee het eerste belangrijke socialemediaplatform ter wereld dat de uitdagingen van realtime audi-analyse aanpakt.

Hoewel er aanzienlijke vooruitgang is geboekt op het gebied van realtime beeld- en videomoderatietechnologie, is audiomoderatie een onopgeloste uitdaging gebleven. Volgens een rapport van de Anti-Defamation League is ongeveer de helft van de mensen die melding maken van online pesterijen - waar livestreaming historisch gezien het meest voorkomt - het doelwit van vocaal geweld.

Yubo heeft sindsdien de testfase uitgebreid naar alle gebieden waar Engels de meerderheidstaal is en waar het een groot aantal gebruikers heeft, wat een kritisch moment betekent om wezenlijke inzichten te verzamelen in deze baanbrekende veiligheidstool. Hoewel de technologie nog in de beginfase verkeert, heeft deze zich bewezen als bijzonder effectief in het detecteren van potentieel risico in de echte wereld, zoals geweld tegen anderen of zelfbeschadiging.

De audiomoderatietechnologie van Hive op Yubo werkt momenteel door 10-seconden fragmenten van audio in livestreams van 10 of meer mensen op te nemen en automatisch te transcriberen. De tekst wordt vervolgens onmiddellijk gescand met behulp van kunstmatige intelligentie. Alleen transcripten die woorden of zinnen bevatten die in strijd zijn met de richtlijnen van de app worden gemarkeerd voor beoordeling door de veiligheidsspecialisten van Yubo, die de incidenten in realtime onderzoeken om te bepalen welke maatregelen moeten worden genomen, inclusief de mogelijkheid van escalatie naar de wetshandhaving. Transcripten zonder vermoedelijke overtredingen worden niet beoordeeld of bewaard.

De algoritmes die deze audiomoderatietechnologie aandrijven maken gebruik van machine learning en zullen daarom met de tijd blijven verbeteren en nauwkeuriger worden. Om de privacy van gebruikers te beschermen, worden livestreamtranscripten die niet zijn gemarkeerd voor onderzoek na 24 uur verwijderd. Transcripten die zijn gemarkeerd en intern of door wetshandhaving moeten worden onderzocht, worden tot een jaar bewaard.

"Onze uitbreiding van de audiomoderatietechnologie is niet alleen een sleutelelement in de voortdurende veiligheidsproductontwikkeling van Yubo, maar ook een belangrijke ontwikkeling in het uitbreiden van de parameters van online veiligheid in de branche", aldus Marc-Antoine Durand, Chief Operating Officer van Yubo. "Er is nog veel vooruitgang te boeken op het gebied van spraakdetectie, maar we zijn er trots op dat we voor onze collega's een weg banen door als eersten audio moderatie te lanceren met Hive en deze tool betrouwbaarder en effectiever te maken via deze test."

Yubo heeft deze zomer voor het eerst audiomoderatietechnologie ingezet bij een kleine groep gebruikers in de VS. Met een groter bereik in vier belangrijke markten worden nu gemiddeld 600 livestreams per dag door veiligheidsspecialisten beoordeeld op basis van audiomoderatiesleutelwoorden. Toch vormt een aanzienlijk deel van deze beoordelingen "valse positieven". Hierbij gaat het om gevallen waarin bijvoorbeeld een nummer op de achtergrond wordt afgespeeld of speels taalgebruik met mogelijk triggerende woorden worden gemarkeerd voor beoordeling, maar in werkelijkheid geen schadelijke uitingen zijn. Deze valse positieven onderstrepen niet alleen de complexiteit van effectieve moderatie van online inhoud, maar ook het belang van het combineren van technische tools met menselijk toezicht voor nuance en context. Daarom hebben de menselijke moderators van Yubo altijd het laatste woord over welke moderatiemaatregelen worden genomen en houden zij voortdurend toezicht op de detectiealgoritmes.

Yubo, de live sociale ontdekkingsapp voor Gen Z, heeft zijn audiomoderatietechnologie voor livestreams uitgebreid naar vier van zijn grootste markten: de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada. In samenwerking met Hive introduceerde Yubo deze technologie in de Verenigde Staten eind mei en werd daarmee het eerste belangrijke socialemediaplatform ter wereld dat de uitdagingen van realtime audi-analyse aanpakte.

Yubo breidt zijn real-time audio moderatietechnologie uit naar vier belangrijke internationale markten.

Cyberpesten is in opmars onder jongeren en is naar verluidt gestegen tot 50% in de loop van de lockdowns, waardoor er meer wordt gesproken over de maatregelen die kunnen worden genomen om kinderen en tieners online te beschermen.

Deze anti-pestweek (15-21 november) informeert Yubo zijn gebruikers over de gevolgen van pesten door samen te werken met het Britse goede doel The Diana Award met als doel de Yubo-community bewust te maken van wat ze kunnen doen als ze gepest zijn, met een campagne in de App en een educatieve quiz. De organisatie dringt er nu bij andere social media platforms op aan proactief maatregelen te nemen om jongere onlinegebruikers te beschermen en tieners te leren hoe ze zich online vriendelijk kunnen gedragen om hen op lange termijn te beschermen. 

Eerder dit jaar ondernam Yubo actie tegen online pesten en schadelijke content met de introductie van de nieuwe functie “Genegeerde Woorden", waarmee gebruikers specifieke woorden en uitdrukkingen die zij persoonlijk triggerend vinden, kunnen blokkeren zodat deze niet meer op de app verschijnen.

Met de functie Genegeerde Woorden kunnen gebruikers een aantal woorden en uitdrukkingen blokkeren die ze beledigend, schadelijk en triggerend vinden en die ze niet langer willen zien in reacties of content op de app. Gebruikers kunnen ook kiezen van wie ze de woorden willen muten - ze kunnen bijvoorbeeld alle gebruikers blokkeren of alleen degenen die niet in hun vriendenlijst staan. Yubo zal dan automatisch reacties die deze woorden bevatten verbergen voor de gebruiker.

Sacha Lazimi, CEO en co-founder van Yubo zegt, “Social media speelt een enorme rol in het leven van Gen Z - zij zijn de allereerste digital natives, voor hen is er geen verschil tussen online en offline socializen. Aangezien zij meer tijd online doorbrengen, is het onze taak als social media-organisaties om hen te beschermen tegen online pesten en ongepast gedrag. 

Meer dan ooit heeft deze generatie behoefte aan een ruimte om veilig te socializen met gelijkgestemden en online sociale interactie te beleven. Het is echter onze verantwoordelijkheid als bedrijf om ervoor te zorgen dat ze beschermd worden en leren hoe ze zich verantwoordelijk moeten gedragen online, niet alleen op Yubo, maar op elke social media of online forum. Daarom hebben we deze nieuwe functies geïntroduceerd en zullen we proactief blijven werken met onze veiligheids- en moderatie-experts om ervoor te zorgen dat Yubo een veilige plek is om nieuwe en zinvolle contacten te leggen.” 

Deze anti-pestweek (15-21 november) informeert Yubo haar gebruikers over de gevolgen van pesten door samen te werken met de Britse liefdadigheidsinstelling The Diana Award met als doel om de Yubo gemeenschap bewust te maken van de acties die ze moeten doen als je gepest bent, door middel van een campagne direct op de App en een educatieve quiz.

Deze week tegen het pesten werkt Yubo samen met de Diana Awards

Het National Center for Missing & Exploited Children (NCMEC), de toonaangevende non-profitorganisatie om vermiste kinderen terug te vinden, seksuele uitbuiting van kinderen te verminderen en nieuwe slachtoffers te voorkomen, werkt samen met Yubo, 's werelds grootste social discovery-platform, om de veiligheid van jongeren in het digitale tijdperk te waarborgen. Yubo sluit zich aan bij enkele van 's werelds meest prominente techreuzen, als onderdeel van zijn inspanningen om ongeëvenaarde veiligheidsvoorzieningen te introduceren op het platform dat zich uitsluitend richt op een jongere generatie.

Vanaf vandaag kan het moderatieteam van Yubo, een team dat zich uitsluitend bezighoudt met het voorkomen van onveilig gedrag van gebruikers op het platform, vermoedens van online kindermisbruik met één druk op de knop in realtime melden bij de CyberTipline van het NCMEC. Wanneer het NCMEC een melding ontvangt, wordt die informatie beschikbaar gesteld aan rechtshandhavingsinstanties overal ter wereld, zodat zij die kunnen bekijken en onderzoeken. Yubo zal verdachte profielen identificeren door de hash-waarde te vergelijken met de hash-database van het NCMEC, die de "digitale vingerafdruk" bijhoudt van bekende beelden en bestanden die inhoud bevatten van seksueel misbruik van kinderen.

Het NCMEC zal ook een adviserende rol op zich nemen voor Yubo, waarbij het zal adviseren bij de ontwikkeling van moderatie- en veiligheidstools. John Shehan, VP van NCMEC's Exploited Children Division treedt toe tot de veiligheidsraad van Yubo, waarvan de bestaande leden leiders zijn van andere belangrijke publieke en non-profit organisaties zoals Thorn, Diana Award, ex-Interpol, de Londense dienst voor geestelijke gezondheidszorg Good Thinking, en de oprichter van NetFamilyNews.org. John's rol bij het platform onderstreept Yubo's toewijding om op een transparante en positieve manier samen te werken met de meest invloedrijke veiligheidsorganisaties over de hele wereld, die zich inzetten voor de bescherming van jonge internetgebruikers.

John Shehan zegt, “We zijn onder de indruk van Yubo's inzet voor de veiligheid van hun gebruikers en hun innovatieve oplossingen voor een veiligere online omgeving. We zijn er trots op dat we met hen kunnen blijven samenwerken om tools te ontwikkelen die jongeren beschermen tegen uitbuiting.”

Marc-Antoine Durand, Chief Operating Officer bij Yubo voegt toe, “De veiligheid van gebruikers is de topprioriteit voor Yubo. Wij zijn een van de weinige sociale platforms die zoveel investeren in menselijke, technische en financiële middelen om er voortdurend voor te zorgen dat Yubo het meest veilige platform is voor Gen Z.”

“De samenwerking met het NCMEC zorgt ervoor dat gevallen van uitbuiting onmiddellijk worden gesignaleerd, zodat lokale overheden volledige toegang hebben tot informatie om digitale daders sneller en slimmer dan ooit te kunnen aanpakken.”

De aankondiging van de samenwerking wordt verder ondersteund door de lancering van twee nieuwe veiligheidsfuncties op het platform. De eerste voorkomt dat profielen geen profielfoto hebben; een nieuwe tool vereist dat gebruikers een foto van zichzelf uploaden om de app te kunnen gebruiken. Bovendien zal een tweede tool, gemaakt door Yubo, gebruikers detecteren en waarschuwen - in realtime - wanneer zij op het punt staan persoonlijke informatie te delen zoals hun locatie, e-mailadres of telefoonnummer, zodat ze nog eens goed kunnen nadenken over het sturen van een bericht.

Introducing: True identity popups

Deze nieuwe functies komen bovenop Yubo's bestaande veiligheidsvoorzieningen, waaronder leeftijdsschatting in samenwerking met Yoti Age Scan, realtime moderatie-interventie op sociale video's en de voortdurende samenwerking met politiekorpsen over de hele wereld, waardoor het platform zich kan profileren als 's werelds toonaangevende social media die veiligheid als hoogste prioriteit heeft.

Annie Mullins, co-founder van The Trust and Safety Group en een onafhankelijke veiligheidsadviseur zegt,

“Er is een leger nodig om de uitbuiting van jongeren te bestrijden. Technologiebedrijven moeten samenwerken met lokale non-profitorganisaties en wetshandhavers om ervoor te zorgen dat overtreders met de volle kracht van de wet worden geconfronteerd.”

“Van voorlichting en empowerment van gebruikers via ingebouwde veiligheidstools in de app, tot samenwerkingen met belangrijke en relevante organisaties als NCMEC: Yubo's inzet voor veiligheid is prijzenswaardig en zou als voorbeeld moeten dienen voor andere sociale platforms.”

Met een wereldwijde community van meer dan 28 miljoen jongeren op het platform, en met tienduizenden nieuwe leden die zich elke dag bij de community aansluiten, zet Yubo zich in om de veiligheid van iedereen op het platform te garanderen.

NCMEC werkt samen met Yubo om online uitbuiting aan te pakken

Als een platform dat draait om het helpen van jonge mensen om zinvolle verbindingen te maken, richten we ons elke dag op de veiligheid van onze community. Daarom zijn we altijd trots op onze deelname aan #SaferInternetDay, het jaarlijkse wereldwijde evenement voor online veiligheid, dat vandaag (9 februari) plaatsvindt.

De afgelopen jaren hebben we een aantal toonaangevende veiligheidsmaatregelen ingevoerd om jonge gebruikers op Yubo te beschermen, te ondersteunen en voor te lichten. Denk hierbij aan realtime interventie waar we een combinatie van AI-algoritmes en menselijke moderatoren gebruiken om de activiteit te monitoren en actie te ondernemen wanneer onze Community-richtlijnen worden overtreden. Naaktheid op Yubo is bijvoorbeeld niet toegestaan - als iemand deze regel overtreedt, sturen we een bericht waarin we vragen dit gedrag te veranderen of we sluiten de livestream en/of blokkeren het account.

We moedigen onze jonge gebruikers ook aan om goed na te denken voordat ze persoonlijke gegevens delen in privé-chats. Als iemand een zin typt als 'Ik woon in...' of 'Mijn telefoonnummer is...', dan verschijnt er een pop-up waarschuwing die hem of haar de mogelijkheid geeft het bericht te verwijderen of toch te versturen. Nu introduceren we een nieuwe veiligheidsfunctie - als een van onze gebruikers probeert ongepaste verzoeken te doen in privé-chats, waarschuwen we hen door een pop-up waarschuwing te sturen en blokkeren we het delen van die content.  

Waarom is het zo belangrijk dat we mogelijke risico's op Yubo voorkómen? Tijdens de adolescentie kunnen jongeren veel nieuwe dingen leren, maar het deel van de hersenen dat hen helpt beslissingen te nemen en de gevolgen van die beslissingen te overzien, is nog niet volledig ontwikkeld. Tegelijkertijd kunnen ze door hun leeftijdsgenoten onder druk worden gezet om zich op een bepaalde manier te gedragen en risico's te nemen.

Om dit te helpen bestrijden, geven we onze jonge gebruikers voorlichting en geven we hen de kans goed na te denken over het delen van content of persoonlijke informatie en van gedachten te veranderen als ze twijfelen. Wij steunen hun vrijheid van meningsuiting, maar het is ook belangrijk om ze te helpen veilig te blijven.

Zoals onze veiligheidsadviseur Annie Mullins OBE zegt, “Jongeren maken fouten - dat hoort bij het opgroeien - maar het is belangrijk dat aanbieders van social media hun vangnetten bieden en hen een duwtje in de juiste richting geven wanneer hun gedrag hen in gevaar kan brengen. De nadruk moet liggen op het bevorderen van digitale weerbaarheid en welzijn.”

Als we kijken naar het Verdrag van de Verenigde Naties inzake de rechten van het kind (IVRK), zien we dat jongeren recht hebben op privacy en het recht om hun mening te uiten. Maar zij hebben ook recht op bescherming tegen discriminatie, geweld, seksueel misbruik en andere vormen van uitbuiting. Deze rechten gelden zowel online als offline, uiteraard. In een recent blog, beschrijft Professor Sonia Livingstone van de LSE de goedkeuring van een algemene opmerking over de rechten van kinderen in verband met de digitale omgeving door het Comité inzake de rechten van het kind van de Verenigde Naties als een "doorbraak".

Het vinden van een evenwicht tussen privacy en veiligheid is ongetwijfeld een van de belangrijkste uitdagingen voor techbedrijven en regelgevers. De behoefte aan privacy moet worden afgewogen tegen het risico van digitale misdrijven tegen jongeren, zoals identiteitsdiefstal, haatzaaien en seksueel misbruik van kinderen. Hier bij Yubo vragen we alle nieuwe gebruikers om onze Community-richtlijnen te accepteren, en we zijn zo transparant mogelijk over de manier waarop we content op ons platform controleren en modereren (zonder de veiligheidsmaatregelen die we hebben genomen te ondermijnen).

Standvastig in onze toewijding aan veiligheid

In 2020 maakten we deel uit van de inspanningen van de sector om een uniforme regelgevende benadering van e-privacy in te voeren in de EU (waar Yubo is gevestigd). Wij zijn van mening dat alle aandacht voor de privacy van gebruikers onbedoelde gevolgen kan hebben en kinderen meer risico kan laten lopen op seksuele uitbuiting. Samen met Google, Linkedin, Microsoft en Roblox, hebben wij aangekondigd dat Yubo "vastberaden de veiligheidsbeloften zal blijven nakomen die de Europese gebruikers - en gebruikers over de hele wereld - verwachten en waarop zij vertrouwen.”

Ons standpunt werd verwelkomd door velen, waaronder het National Center for Missing & Exploited Children (NCMEC) en de Internet Watch Foundation (IWF).

NCMEC President en CEO John Clark zei, “Wij prijzen Google, LinkedIn, Microsoft, Roblox en Yubo, die zich er publiekelijk toe hebben verbonden hun proactieve inspanningen om seksueel misbruik van kinderen op te sporen, voort te zetten, zelfs terwijl de EU zich nog over de volgende stappen beraadslaagt.”

“Wij juichen het standpunt van deze bedrijven, die echt een stapje verder gaan om kinderen te beschermen, van harte toe", aldus Susie Hargreaves OBE, Chief Executive van het IWF. “Kinderen veilig houden, zowel online als offline, moet ieders prioriteit zijn. We mogen dit nooit uit het oog verliezen.”

Jongeren beschermen in het COVID-tijdperk

Het thema van de Safer Internet Day, 'Samen voor een beter internet', herinnert ons aan de vitale rol die Yubo speelt in het ecosysteem van digitale veiligheid. In nauwe samenwerking met andere belanghebbenden - als lid van de Technologie Coalitie en supporter van Project Protect, bijvoorbeeld - is een belangrijk onderdeel hiervan.

Met meer dan 45 miljoen gebruikers en een toename van ons livestreamgebruik met 550% wereldwijd in 2020, hebben wij de verantwoordelijkheid om jongeren te blijven voorlichten over verantwoordelijk en veilig online gedrag. Het is een rol die we heel serieus nemen, vooral omdat digitale ruimtes nog meer een levensader zijn geworden terwijl jongeren thuis zaten tijdens de corona-pandemie.

Zoals onze COO Marc-Antoine Durand zegt: "Meer dan ooit heeft deze generatie behoefte aan een ruimte om veilig in contact te komen met gelijkgestemden en sociale interactie online te ervaren, wanneer ze dat in het echte leven niet kunnen... Het is onze verantwoordelijkheid als bedrijf om ervoor te zorgen dat ze worden beschermd en voorgelicht over hoe ze zich online op een verantwoordelijke manier kunnen gedragen, niet alleen op Yubo, maar op alle social media en online fora.”

Bezoek de website#SaferInternetDay om te ontdekken hoe je betrokken kunt raken.

Yubo viert Safer Internet Day 2021 met een reeks toonaangevende veiligheidsmaatregelen om jonge gebruikers te beschermen, te ondersteunen en op te voeden.

Safer Internet Day 2021

Bedrijf

Veiligheid

Over Yubo

Product

User Experience

Contact press@yubo.live

Voor vragen van de media

Blijf op de hoogte. Ontvang de laatste updates, rechtstreeks van Yubo, jouw sociale video live-streaming app.

Blijf op de hoogte.

Ontvang de laatste updates, rechtstreeks van ons

Yubo breidt zijn real-time audio moderatietechnologie uit naar vier belangr...

Deze week tegen het pesten werkt Yubo samen met de Diana Awards

NCMEC werkt samen met Yubo om online uitbuiting aan te pakken

Safer Internet Day 2021

Voor vragen van de media