'Slet besked' eller 'Send alligevel'? Hvordan vi giver unge mennesker mulighed for at værdsætte og beskytte deres personlige oplysninger på Yubo

I mange år, er børn og unge blevet fortalt at "de skal tænke sig om før de slår noget op". Men i en verden, hvor vores online og offline liv er mere sløret end nogensinde, og vi alle er meget mere afslappede med at dele vores personlige oplysninger, er dette så stadig en realistisk besked?

"Det er vigtigere end nogensinde før at være forsigtig med, hvad du deler i dine digitale rum," siger Annie Mullins OBE, som rådgiver os om sikkerhedsspørgsmål hos Yubo. "Det kan være meget nemt at blive så optaget af en samtale med en på de sociale medier, at man tror det er OK at fortælle dem hvor man bor, hvor man går i skole, give dem dit telefonnummer eller din e-mailadresse."

"Vores råd til de unge er at træde lidt på bremsen og lige tænke sig om for et øjeblik, før de deler denne form for personlig information med folk de kun har snakket med få gange online," tilføjer hun. "Det er ofte bedst at være på siden af forsigtighed og holde visse personlige detaljer for dig selv."

Her på Yubo er vi forpligtet til at hjælpe vores brugere med at få den bedst mulige oplevelse på appen. Det er derfor vi er begyndt at spørge de unge, om de er sikre på at de vil dele deres personlige oplysninger. Vi har for nyligt introduceret en funktion i privat samtaler, som aktivere en pop-op, når nogen skriver en sætning som eks. 'Jeg bor i London' og giver dem så muligheden for at overveje om de vil sende den.

Og det er selvfølgelig klart, at mange unge allerede ved at deres data er værdifulde, men når de snakker med en som de stoler på, så kan de til tider glemme at det kan blive misbrugt. Selv bred information, såsom navnet på din by eller by, kan bruges til at finde ud af din adresse, steder du hænger ud, og hvem dine venner og familie er. Hvis du har offentlige profiler på mange sociale netværk, vores digitale fodaftryk kan give fremmede værdifuld information, som kan bruges til at tvinge dig til at gøre noget, du ikke vil.

Stadig i de tidlige stadier viser vores nye pop-op funktion allerede gode resultater: Vi sender omkring 20.000 pop-ops hver dag, og 12% af vores brugere som ser disse alarmer, vælger ikke at sende deres personlige information. Værktøjet bruger en algoritme til yderligere at forbedre vores portefølje af innovative sikkerhedsværktøjer. Eksempelvis bruger også,  AI til at udføre alders kontrol og vi griber ind i realtid under livestreams når vi har en mistanke om at nogen sætter dem selv, eller andre i far.

"Vi forsøger at finde den rette balance mellem at opmuntre til deltagelse og at yde beskyttelse til de mange unge i vores samfund," siger vores COO Marc-Antoine Durand. "Denne nye pop-op er et godt eksempel på hvordan vi hjælper teenageres til at tage de rigtige valg. Det handler om at opmuntre dem til at være mere forsigtige og tage kontrol over deres digitale fodaftryk."

Efterhånden som vi går ind i det nye årti, ser vi et større fokus på tværs af industrien på at sætte sikkerhed i centrum af app- og hjemmesideudvikling og give brugerne mulighed for bedre at administrere deres online oplevelse. Australiens eSafety Commissioner har for nylig introduceret en  'Safety by Design' initiativ, f.eks. med mere end 25 millioner af medlemmer på verdensplan, vil vi fortsætte med at fokusere på at gøre Yubo til et sikkert sted for unge for at få venner - i 2020 og frem.

Besøg Yubo Sikkerhedscenter for mere information og rådgivning.

'Slet besked' eller 'Send alligevel'?

Realtidsintervention på social video: Yubo tager føringen for at reducere risici for unge mennesker

Her hos Yubo leder vi altid efter måder at innovere i onlinesikkerhed. I vores forrige blog forklarede vi, hvordan vi tager vores ansvar over for yngre Yubo-brugere meget alvorligt. Siden da har vi fortsat arbejdet med onlinesikkerhedsekspert Annie Mullins OBE for at indføre en række sikkerhedsforanstaltninger på appen, og vi har for nylig taget et vigtigt skridt fremad ved at introducere realtidsintervention i livestreams.

Ved hjælp af en kombination af algoritmer og menneskelige moderatorer overvåger vi aktivitet på Yubo, så vi kan identificere brugere, der overtræder vores retningslinjer for fællesskabet, og som kan bringe sig selv eller andre i fare, mens de livestreamer. Derefter skrider vi straks til handling og sender en besked til brugeren, der forklarer, hvordan de er gået over grænsen, hvordan de ændrer deres adfærd, og hvilken handling vi vil tage, hvis de ikke overholder. Vores muligheder omfatter midlertidigt at deaktivere livestream og suspendere deres konto.

Yubo er den eneste sociale video-app, der griber ind på denne måde for at holde teenagere mere sikre. Ja, det er et dristig skridt. Ja, nogle unge mennesker bliver overraskede, når de får en advarselsmeddelelse fra os. Men vi tror på, at det vigtigste er at støtte og beskytte vores brugere og gøre Yubo-samfundet til et endnu bedre sted at være.

I denne blog kigger vi nærmere på live-intervention og udforsker, hvordan det fremmer adfærdsændringer ved at opmuntre Yubo-brugere til at forblive sikrere og være mere ansvarlige samt hjælpe med at reducere risikoen for seksuel udnyttelse og andre problemer. Vi taler også med en af vores mest erfarne moderatorer og finder ud af, hvordan vores teenagebrugere reagerer på hans beskeder om upassende opførsel eller upassende indhold, de har lagt op.

"Vi ved, at der er mere, som sociale netværk kan gøre, og nogle websteder som Yubo har allerede god praksis med at streame live." Andy Burrows, associeret chef for børnesikkerhed online, NSPCC (2018)

Ligesom teenagere måske eksperimenterer og afprøver grænser i det virkelige liv, sker det samme i den digitale verden. På nettet kan unge allerede have set upassende adfærd eller indhold og er ikke altid sikre på, hvad der er acceptabelt. Uanset om det er at filme sig selv i deres undertøj eller komme med ubehagelige kommentarer om nogen, er det vigtigt, at de forstår og reflekterer over de konsekvenser, deres adfærd kan have for dem og andre. Ydermere skal vi som virksomhed være i stand til at skride til handling, når vi ser upassende eller ulovlig adfærd og indhold i livestreams på Yubo (som vi kalder Lives).

Vores retningslinjerne for fællesskab er essentielle for at sætte standarder for brugeradfærd — vores brugere skal acceptere at overholde dem, og vi henviser altid til dem, når vi griber ind i livestreams. Vi gør det meget tydeligt i disse retningslinjer, at vi har nultolerance over for nøgenhed og posering i undertøj i for eksempel Lives.

Hvis disse retningslinjer ikke følges, er det vores politik at engagere og uddanne vores yngre brugere frem for at straffe dem. Det betyder, at man bruger muligheder, når regler er blevet brudt, for at hjælpe dem med at forstå og tænke over, hvad de har gjort forkert, og tilskynde dem til at ændre deres adfærd i det øjeblik og i fremtiden. Vi kan allerede se den positive virkning af advarsler i realtid i appen, og vores tilgang er blevet hilst velkommen af retshåndhævelse, velgørende organisationer og andre fortalere for onlinesikkerhed.

Som vores online sikkerhedsrådgiver Annie Mullins OBE siger,

"Jeg har arbejdet sammen med Yubo om at sætte live-interventioner på plads for at hjælpe med at forhindre dets brugere i at udsætte sig selv for risiko. Dette er et vigtigt skridt på vejen inden for børnesikkerhedsarenaen, og som andre sociale medievirksomheder bør overveje at følge. Jo flere realtidsinterventioner, der finder sted med unge mennesker, jo mere vil vi være i stand til at støtte og uddanne dem. Unge mennesker begår fejl - det er en del af opvæksten - men det er vigtigt, at udbydere af sociale medier tilbyder sikkerhedsnet til dem og skubber dem i den rigtige retning, når deres opførsel kan bringe dem i fare.”

Konsulent børne- og ungdomspsykiater Dr. Richard Graham tilføjer:

"Fremtiden for den digitale verden hviler nu på, hvor villige vi er til at bruge adfærdsmæssige indsigter til at forhindre, at det onde ødelægger det gode. Yubo fører an med live intervention, og der er ingen bedre måde at lære på end i øjeblikket."

Vores globale team af moderatorer håndterer en række situationer i livestreams, herunder unge mennesker, der poserer i deres undertøj, tager deres tøj af, chikanerer andre brugere og truer med selvskade.

Vi spurgte en af vores moderatorer, Tom*, om at forklare, hvorfor det er så vigtigt at gribe ind i Lives.

"Indholdet bliver transmitteret live online, så det giver mening, at vi griber ind umiddelbart før, der sker skade. Jo hurtigere vi engagerer os, jo bedre, siger han.

På trods af at de har modtaget en popup om vores retningslinjer for fællesskabet, når de går ind i livestreams på Yubo og ved, at Lives kan ses af alle (ikke kun deres venner), vælger nogle brugere stadig at skubbe grænserne.

Så hvorfor opfører unge mennesker sig sådan på nettet? Der er en række motivationer - nogle gør det for at vise sig eller flirte, andre fordi de ser deres idoler og andre berømtheder opføre sig på en bestemt måde, eller fordi nogen opmuntrer dem eller sætter dem under pres for at gøre det.

"Det handler ofte om at få opmærksomhed, som de måske ikke får i virkeligheden," kommenterer Tom. "At gå live er en god måde at nå ud til mange mennesker og få masser af visninger på. De fyre, der går skjorteløse, vil f.eks. vise deres muskler."

De potentielle risici ved livestreaming inkluderer at blive mobbet, at blive tvunget til seksuelt eksplicit aktivitet og at blive kontaktet af fremmede med dårlige hensigter.

Tom forklarer, hvordan yngre brugere ofte bliver så fordybet i appen, at de ikke tænker på, hvad de laver.

"Folk bliver ofte grebet af at være "i øjeblikket" og forstår ikke de umiddelbare risici, eller at indholdet måske ikke forsvinder efter Livet. Hvis de filmer sig selv i deres undertøj, kan nogen fange det, udgive det et andet sted og bruge det imod dem," påpeger han.

Hvis en Yubo-moderator ser noget ske, der overtræder vores retningslinjer for fællesskabet, og som kan bringe nogen i fare, sender de en advarselsmeddelelse til brugeren. Meddelelsen kan sige, at Live vil blive lukket ned om et minut, eller den kan advare brugeren om, at de vil blive suspenderet fra appen, hvis de ikke ændrer deres adfærd.

Vi er den eneste sociale video-app, der gør dette, da vi synes, det er vigtigt, at vores yngre brugere forstår, hvad problemet er, og at vi opfordrer dem til at ændre, hvad de gør. Når alt kommer til alt, er den bedste måde at lære på i nuet og gennem oplevelsen i det virkelige liv.

Vi træffer derefter de relevante handlinger, hvilket kan omfatte fjernelse af indholdet, suspendering eller lukning af brugerens konto og rapportering af potentielt ulovlig aktivitet til politiet og andre myndigheder, såsom Internet Watch Foundation (IWF). Det er vores mål at hjælpe brugere med at ændre deres adfærd, før det når til det punkt, men i sidste ende vil vi gøre det, der er rigtigt for dem og andre brugere.

"Desværre er en af de ting, vi støder på, unge mennesker, som skader sig selv eller selvmorder," siger Tom. "Selv hvis de mennesker, der ser Livet, forsøger at hjælpe, er de ikke uddannede professionelle og kan utilsigtet forværre situationen. At se nogen tale om selvskade, kan også udløse lignende følelser hos andre brugere."

Vi tillader ikke selvskadende indhold at forblive på Yubo, og vi forklarer vores yngre brugere, hvorfor det er tilfældet. Live-intervention betyder, at vi kan hjælpe nogen i det afgørende øjeblik og lede dem til at støtte organisationer.

"Jeg vil vove at sige, at ... denne app er ved at forme sig til at blive førende inden for livestreamet videosikkerhed." Anne Collier, NetFamilyNews (august 2017)

Generelt reagerer Yubo-brugere positivt på realtidsintervention. De er ikke vant til, at andre apps kommunikerer på denne måde, men de modtager generelt meddelelserne godt og overholder vores anmodninger. Hvis nogen modtager en advarsel, mens de f.eks. er ved at klæde sig af på kamera, stopper de som regel, så snart de ser beskeden og tager tøjet på igen.

Tom bemærker, at brugerne ofte takker ham for at have grebet ind, da det betyder, at de ikke selv skal håndtere en vanskelig situation. Hvis de føler sig under pres for at opføre sig på en bestemt måde online, er det godt, at de ved, at vi er der for at holde øje med tingene og hjælpe dem med at styre disse forventninger.

Mange af vores yngre brugere fortæller deres venner om vores regler, og hvordan Yubo-moderatorerne er der for at hjælpe - et tydeligt tegn på, at selvom unge kan lide at være uafhængige, har de stadig brug for støtte. Det kan faktisk have en stærk netværkseffekt at uddanne en teenager. Vi har modtaget en masse positive kommentarer om live-intervention fra vores yngre brugere, herunder "Jeg synes, det er nyttigt, holder bare samfundet sikrere og renere, tror jeg" og "Det er en rigtig god idé, det giver folk en chance for at ændre deres adfærd og hvis ikke, så står de over for konsekvenserne."

Med forskning foretaget af Childnet, der afslører, at mere end én ud af 10 otte til 17-årige er gået live, er livestreaming kommet for at blive. Vi mener, at realtidsintervention er et vigtigt værktøj til at hjælpe unge med at få en sikrere oplevelse på sociale videoapps.

Med  Anne Colliers ord er det vigtigt at opbygge et digitalt fællesskab af "guidet praksis"  et, hvor unge kan være trygge, glade, respektfulde og trygge. Med vores vision om at være førende inden for online sikkerhed, vil vi fortsætte med at udvikle innovative sikkerhedsfunktioner til Yubo, så vi kan gøre netop det.

"Jeg bifalder Yubo for omfattende omarbejdelse af sine sikkerhedsfunktioner for at gøre dens platform mere sikker for teenagere. " Julie Inman Grant, australsk kommissær for e-sikkerhed (marts 2018)

Fem måder Yubo hjælper unge mennesker på

Yubo har en minimumsaldersgrænse på 13 år, og brugere skal oplyse deres rigtige oplysninger, herunder deres mobilnummer. Vi anvender teknologi og moderatorer til at identificere mindreåriges profiler og blokere dem.

Yubo-brugere kan indstille deres egne præferencer, herunder om de vil vise deres placering og beslutte, hvem de taler med.

Hver bruger skal acceptere at overholde vores retningslinjer for fællesskabet, som inkluderer regler om mobning, nøgenhed, falske profiler og anden upassende eller ulovlig adfærd.

Vi bruger innovativ teknologi og menneskelige moderatorer til at tjekke, hvad der sker på Yubo, og skride til handling, hvis vi ser vores regler blive brudt.

It’s easy to report any problems or concerns to us, via the flag icon in the app or on our Safety Centre. We aim to respond to reports within 24 hours and prioritize emergencies.

Ved hjælp af en kombination af algoritmer og menneskelige moderatorer overvåger vi aktivitet på Yubo, så vi kan identificere brugere, der overtræder vores retningslinjer for fællesskabet, og som kan bringe sig selv eller andre i fare, mens de livestreamer.

Yubo på hjernen.

Hvad tænker vi på lige nu.

'Slet besked' eller 'Send alligevel'?

Realtidsintervention på social video