Reaaliaikainen puuttuminen sosiaaliseen videoon

Reaaliaikainen puuttuminen sosiaalisessa videossa: Yubo ottaa johtoaseman nuorten riskien vähentämisessä

Täällä Yubossa etsimme jatkuvasti tapoja innovoida verkkoturvallisuudessa. Edellisessä blogikirjoituksessamme selitimme, kuinka suhtaudumme vastuuseemme Yubo-käyttäjiä kohtaan erittäin vakavasti. Sen jälkeen olemme jatkaneet yhteistyötä verkkoturvallisuuden asiantuntija Annie Mullins OBE:n kanssa useamman turvamekanismin käyttöönottamiseksi sovelluksessa, ja olemme äskettäin ottaneet tärkeän askeleen eteenpäin ottamalla käyttöön reaaliaikaisen puuttumisen live-lähetyksissä.

Käyttämällä algoritmien ja ihmismoderaattoreiden yhdistelmää seuraamme Yubo-toimintaa, jotta voimme tunnistaa käyttäjät, jotka rikkovat yhteisöohjeistamme ja jotka voivat asettaa itsensä tai muut vaaraan live-striimauksen aikana. Ryhdymme sitten välittömiin toimiin lähettämällä käyttäjälle viestin, jossa selitämme, miten he ovat ylittäneet rajan, miten muuttaa käyttäytymistään ja mitä toimia ryhdymme, jos he eivät noudata ohjeita. Vaihtoehtojamme ovat muun muassa live-lähetyksen väliaikainen käytöstä poistaminen ja tilin jäädyttäminen.

Yubo on ainoa sosiaalinen videosovellus, joka puuttuu asiaan tällä tavalla auttaakseen pitämään käyttäjät turvassa. Kyllä, se on rohkea siirto. Kyllä, jotkut ihmiset yllättyvät saadessaan meiltä varoitusviestin. Mutta uskomme, että tärkein asia on tukea ja suojella käyttäjiämme sekä tehdä Yubo-yhteisöstä entistäkin parempi paikka olla.

Tässä blogikirjoituksessa tarkastelemme lähemmin live-puuttumista ja tutkimme, miten se edistää käyttäytymisen muutosta kannustamalla Yubo-käyttäjiä pysymään turvallisempina ja vastuullisempina sekä auttaa vähentämään seksuaalisen hyväksikäytön ja muiden ongelmien riskiä. Keskustelemme myös yhden kokeneimmista moderaattoreistamme kanssa ja saamme selville, miten käyttäjämme reagoivat hänen viesteihinsä sopimattomasta käyttäytymisestä tai sopimattomasta sisällöstä, jonka he ovat julkaisseet.

"Tiedämme, että sosiaalisten verkostojen on mahdollista tehdä enemmän, ja joillain sivustoilla kuten Yubolla on jo hyviä käytäntöjä live-striimauksen suhteen." Andy Burrows, lapsiturvallisuuden verkkoyksikön apulaisjohtaja, NSPCC (2018)

Kouluta ja sitouta

Aivan kuten ihmiset saattavat kokeilla ja testata rajoja tosielämässä, sama tapahtuu digitaalisessa maailmassa. Verkossa ihmiset ovat saattaneet jo nähdä sopimatonta käyttäytymistä tai sisältöä eivätkä aina ole varmoja siitä, mikä on hyväksyttävää. Olipa kyse itsensä kuvaamisesta alusvaatteissa tai ilkeistä kommenteista jostakusta, on tärkeää, että he ymmärtävät ja pohtivat niitä seurauksia, joita heidän käyttäytymisellään voi olla heille itselleen ja muille. Lisäksi yrityksenä meidän on kyettävä ryhtymään toimiin nähdessämme sopimatonta tai laitonta käyttäytymistä ja sisältöä Yubon live-lähetyksissä (joita kutsumme Livesiksi).

Yhteisösääntömme ovat oleellisia käyttäjien käyttäytymistandardien asettamisessa – käyttäjiemme on suostuttava noudattamaan niitä, ja viittaamme niihin aina puutuessamme live-lähetyksiin. Teemme näissä ohjeissa hyvin selväksi, että meillä on nollatoleranssi alastomuudelle ja poseeraamiselle alusvaatteissa Livesissa, esimerkiksi.

Jos näitä ohjeita ei noudateta, käytäntömme on sitouttaa ja kouluttaa käyttäjiämme sen sijaan, että rankaisemme heitä. Tämä tarkoittaa niiden tilanteiden hyödyntämistä, joissa sääntöjä on rikottu, jotta voimme auttaa heitä ymmärtämään ja pohtimaan, mitä he ovat tehneet väärin, ja kannustaa heitä muuttamaan käyttäytymistään kyseisellä hetkellä ja tulevaisuudessa. Näemme jo reaaliaikaisten sovelluksensisäisten varoitusten positiivisen vaikutuksen, ja lähestymistapamme on saanut myönteisen vastaanoton lainvalvontaviranomaisilta, hyväntekeväisyysjärjestöiltä ja muilta verkkoturvallisuuden puolestapuhujilta.

Kuten verkkoturvallisuusneuvonantajamme Annie Mullins OBE sanoo:

"Olen työskennellyt Yubon kanssa live-puuttumisten käyttöönottamiseksi estämään sen käyttäjiä asettamasta itseään vaaraan. Tämä on tärkeä muutos verkkoturvallisuuden alalla ja sellainen, jota muiden sosiaalisen median yritysten tulisi harkita seuraamaan. Mitä enemmän reaaliaikaisia puuttumisia ihmisten kanssa tapahtuu, sitä paremmin pystymme tukemaan ja kouluttamaan heitä. Ihmiset tekevät virheitä – se kuuluu elämään – mutta on tärkeää, että sosiaalisen median tarjoajat tarjoavat heille turvaverkkoja ja ohjaavat heitä oikeaan suuntaan, kun heidän käyttäytymisensä voi asettaa heidät vaaraan."

Konsultoiva lasten ja nuorten psykiatri tohtori Richard Graham lisää:

"Digitaalisen maailman tulevaisuus lepää nyt sen varassa, kuinka halukkaita olemme käyttämään käyttäytymisen ymmärrystä estämään pahaa pilaamisesta hyvää. Yubo johtaa tietä live-puuttumisella, eikä ole parempaa tapaa oppia kuin hetkessä."

Moderaattorin havaintoja

Maailmanlaajuinen moderaattoritiimimme käsittelee erilaisia tilanteita live-lähetyksissä, mukaan lukien ihmisiä, jotka poseeraavat alusvaatteissaan, riisuvat vaatteitaan, ahdistelevat muita käyttäjiä ja uhkaavat vahingoittaa itseään.

Kysyimme yhdeltä moderaattoriltamme, Tom*:lta, miksi on niin tärkeää puuttua Livesiin.

"Sisältö lähetetään suorana verkossa, joten on järkevää, että puutumme asiaan välittömästi ennen kuin vahinkoa syntyy. Mitä nopeammin ryhdymme toimiin, sitä parempi," hän sanoo.

Huolimatta siitä, että käyttäjät saavat ponnahdusikkunan yhteisöohjeistostamme tullessaan live-lähetyksiin Yubossa ja tietäen, että Livesit voivat nähdä kuka tahansa (eivät vain heidän ystävänsä), jotkut käyttäjät valitsevat silti rajojen koettelun.

Joten, miksi ihmiset käyttäytyvät tällä tavalla verkossa? Motivaatioita on useita — jotkut tekevät sitä pröystäillääkseen tai flirtatakseen, toiset siksi, että näkevät idoliensa ja muiden julkkisten käyttäytyvän tietyllä tavalla tai koska joku kannustaa heitä tai painostaa heitä tekemään niin.

"Kyse on usein huomion saamisesta, jota he eivät ehkä saa tosielämässä", Tom kommentoi. "Live-lähetys on hyvä tapa tavoittaa paljon ihmisiä ja saada paljon katselukertoja. Paidan riisuvat kaverit haluavat esimerkiksi näyttää lihaksiaan."

.Live-suoratoiston mahdollisia riskejä ovat kiusaaminen, pakottaminen seksuaalisesti eksplisiittiseen toimintaan ja pahantahtoisten vieraiden yhteydenotot.

Tom selittää, kuinka käyttäjät usein uppoutuvat niin syvästi sovellukseen, etteivät ajattele mitä tekevät.

"Ihmiset jäävät usein kiinni 'hetkeen elämiseen' eivätkä ymmärrä välittömiä riskejä tai sitä, että sisältö ei ehkä katoa Live-lähetyksen jälkeen. Jos he kuvaavat itsensä alusvaatteissa, joku voisi tallentaa sen, julkaista sen muualla ja käyttää sitä heitä vastaan", hän huomauttaa.

Jos Yubo-moderaattori näkee jotain tapahtuvan, joka rikkoo yhteisösääntöjämme ja voisi vaarantaa jonkun, he lähettävät varoitusviestin käyttäjälle. Viesti saattaa sanoa, että Live-lähetys suljetaan minuutin kuluttua tai se saattaa varoittaa käyttäjää, että hänet hyllytetään sovelluksesta, ellei hän muuta käyttäytymistään.

Olemme ainoa sosiaalinen videosovellus, joka tekee tätä, koska pidämme tärkeänä, että käyttäjämme ymmärtävät mikä ongelma on ja että kannustamme heitä muuttamaan toimintaansa. Loppujen lopuksi paras tapa oppia on hetkessä ja tosielämän kokemuksen kautta.

Tämän jälkeen ryhdymme asianmukaisiin toimiin, joita voivat olla sisällön poistaminen, käyttäjän tilin hyllyttäminen tai sulkeminen sekä mahdollisesti laittoman toiminnan ilmoittaminen poliisille ja muille viranomaisille, kuten Internet Watch Foundationille (IWF). Tavoitteenamme on auttaa käyttäjiä muuttamaan käyttäytymistään ennen kuin tilanne menee siihen pisteeseen, mutta lopulta teemme sen, mikä on oikein heille ja muille käyttäjille.

"Valitettavasti yksi asia, jonka kohtaamme, on ihmisiä, jotka vahingoittavat itseään tai ovat itsetuhoisia", Tom sanoo. "Vaikka Live-lähetystä katsovat ihmiset yrittäisivät auttaa, he eivät ole koulutettuja ammattilaisia ja voisivat tahattomasti pahentaa tilannetta. Sen näkeminen, että joku puhuu itsensä vahingoittamisesta, voisi myös laukaista samanlaisia tunteita muissa käyttäjissä."

Emme salli itseä vahingoittavan sisällön jäämistä Yuboon ja selitämme käyttäjillemme miksi näin on. Live-väliintulo tarkoittaa, että voimme auttaa jotakuta tuossa ratkaisevassa hetkessä ja ohjata hänet tukiorganisaatioiden luo.

"Uskallan väittää, että... tämä sovellus on muodostumassa live-suoratoistovideoiden turvallisuuden edelläkävijäksi."Anne Collier, NetFamilyNews (elokuu 2017)

Tukea ja suojelua

Kaiken kaikkiaan Yubo-käyttäjät suhtautuvat myönteisesti reaaliaikaiseen väliintuloon. He eivät ole tottuneet muiden sovellusten kommunikoimaan tällä tavalla, mutta he yleensä ottavat ilmoitukset hyvin vastaan ja noudattavat pyyntöjämme. Jos joku saa varoituksen juuri riisuessan vaatteitaan kameralle, he yleensä lopettavat heti nähdessään viestin ja pukevat vaatteensa takaisin päälle.

Tom huomauttaa, että käyttäjät usein kiittävät häntä väliintulosta, koska se tarkoittaa, että heidän ei tarvitse käsitellä vaikeaa tilannetta itse. Jos he tuntevat painostusta käyttäytyä tietyllä tavalla verkossa, on hyvä, että he tietävät meidän olevan siellä pitämässä silmällä asioita ja auttamassa heitä hallitsemaan noita odotuksia.

Monet käyttäjistämme kertovat ystävilleen säännöistämme ja siitä, kuinka Yubo-moderaattorit ovat siellä auttamassa — selvä merkki siitä, että vaikka ihmiset haluavat olla itsenäisiä, he tarvitsevat silti tukea. Todellakin, yhden ihmisen opettamisella voi olla voimakas verkostovaikutus. Olemme saaneet paljon myönteisiä kommentteja live-väliintulosta käyttäjiltämme, mukaan lukien "Mielestäni se on hyödyllistä, pitää vain yhteisön turvallisempana ja puhtaampana" ja "Se on todella hyvä idea, se antaa ihmisille mahdollisuuden muuttaa käyttäytymistään ja jos eivät, niin he kohtaavat seuraukset."

Uskomme, että reaaliaikainen väliintulo on elintärkeä työkalu, joka auttaa ihmisiä saamaan turvallisemman kokemuksen sosiaalisten videosovelluksien käytössä. Anne Collierin sanoin on tärkeää rakentaa digitaalinen yhteisö, jossa on "ohjattua harjoittelua" — sellainen, jossa ihmiset voivat olla itsevarmoja, onnellisia, kunnioittavia ja turvassa. Visiomme mukaisesti haluamme olla verkkoturvallisuuden edelläkävijä, ja jatkamme innovatiivisten turvallisuusominaisuuksien kehittämistä Yuboon, jotta voimme tehdä juuri sitä.

"Kiitän Yuboa sen turvallisuusominaisuuksien laajamittaisesta uudelleentyöstämisestä, jotta sen alusta olisi turvallisempi käyttäjille." Julie Inman Grant, Australian eSafety Commissioner (maaliskuu 2018)

Viisi tapaa, joilla Yubo auttaa käyttäjiä

• Yubolla on 18 vuoden vähimmäisikäraja ja käyttäjien on annettava todelliset tietonsa. Käytämme teknologiaa ja moderaattoreita alaikäisten profiilien tunnistamiseen ja estämiseen.
• Yubo-käyttäjät voivat asettaa omat mieltymyksensä, mukaan lukien sen, näyttävätkö he sijaintinsa ja päättää kenen kanssa puhuvat.
• Jokaisen käyttäjän on suostuttava noudattamaan yhteisösääntöjämme, joihin kuuluvat säännöt kiusaamisesta, alastomuudesta, väärennetyistä profiileista ja muusta sopimattomasta tai laittomasta käyttäytymisestä.
• Käytämme innovatiivista teknologiaa ja ihmismoderaattoreita tarkistaaksemme mitä Yubossa tapahtuu ja ryhdymme toimiin, jos näemme sääntöjämme rikottavan.
• On helppoa ilmoittaa meille ongelmista tai huolenaiheista sovelluksen lippu-kuvakkeen kautta tai turvallisuuskeskuksestamme. Tavoitteenamme on vastata ilmoituksiin 24 tunnin kuluessa ja priorisoimme hätätapaukset.