Als Branchen-Neuheit erweitert die Gen-Z-Social-Discovery-App die Audio-Moderation für Livestreams auf die UK, Australien und Kanada, nachdem sie diesen Sommer in den USA gestartet wurde.

Yubo, die Live-Social-Discovery-App für die Generation Z, hat ihre Audio-Moderationstechnologie für Livestreams auf vier ihrer größten Märkte erweitert: die Vereinigten Staaten, das Vereinigte Königreich, Australien und Kanada. In Partnerschaft mit Hive führte Yubo diese Technologie Ende Mai in den USA ein und wurde damit die erste bedeutende Social-Media-Plattform weltweit, die sich den Herausforderungen der Echtzeit-Audio-Analyse stellt.

Während bedeutende Fortschritte bei der Entwicklung von Echtzeit-Bild- und Video-Moderationstechnologien gemacht wurden, bleibt die Audio-Moderation eine ungelöste Herausforderung. Laut einem Bericht der Anti-Defamation League wurden etwa die Hälfte der Personen, die Belästigung in Online-Spielen gemeldet haben - wo Livestreaming historisch gesehen am weitesten verbreitet ist - über die Stimme angegriffen.

Yubo hat die Testphase mittlerweile auf alle englischsprachigen Regionen erweitert, in denen es eine große Nutzerbasis hat, und erreicht damit einen entscheidenden Wendepunkt, um aussagekräftige Erkenntnisse zu diesem bahnbrechenden Sicherheitswerkzeug zu sammeln. Obwohl die Technologie noch in den Anfängen steckt, hat sie sich als besonders effektiv bei der Erkennung potenzieller Risiken in der realen Welt, wie Gewalt gegen andere oder Selbstverletzung, erwiesen.

Die Audio-Moderationstechnologie von Hive auf Yubo funktioniert derzeit so, dass sie 10-sekündige Audio-Schnipsel in Livestreams mit 10 oder mehr Personen aufzeichnet und automatisch transkribiert. Der Text wird dann sofort mit Hilfe von künstlicher Intelligenz gescannt. Nur Transkripte, die Wörter oder Phrasen enthalten, die gegen die Community-Richtlinien der App verstoßen, werden von den Sicherheitsspezialisten von Yubo zur Überprüfung markiert. Diese beginnen dann in Echtzeit mit der Untersuchung der Vorfälle, um zu bestimmen, welche Maßnahmen ergriffen werden sollten, einschließlich einer Eskalation bei den Strafverfolgungsbehörden. Transkripte ohne Verdachtsmomente werden weder überprüft noch aufbewahrt.

Die Algorithmen, die diese Audio-Moderationstechnologie antreiben, nutzen maschinelles Lernen und werden daher mit der Zeit immer präziser und besser. Um die Privatsphäre der Benutzer zu schützen, werden Livestream-Transkripte, die nicht zur Untersuchung markiert wurden, nach 24 Stunden gelöscht. Transkripte, die markiert und intern oder von Strafverfolgungsbehörden untersucht werden müssen, werden für bis zu einem Jahr gespeichert.

"Unsere Erweiterung der Audio-Moderationstechnologie ist nicht nur ein entscheidender Bestandteil von Yubos sich ständig weiterentwickeltem Sicherheitsprodukt-Roadmap, sondern auch eine bedeutende Entwicklung, um die Parameter der Online-Sicherheit in der gesamten Branche zu erweitern", sagte Yubos Chief Operating Officer Marc-Antoine Durand. "Bei der Erkennung von Sprache gibt es noch viel zu tun, aber wir sind stolz darauf, unseren Weg zu ebnen, indem wir als erste Audio-Moderation mit Hive einführen und dieses Tool durch diesen Testlauf zuverlässiger und effektiver machen."

Yubo führte die Audio-Moderationstechnologie zuerst im Sommer für einen kleinen Querschnitt von Nutzern in den USA ein. Mit einer größeren Anwendung in vier Hauptmärkten lösen Audio-Moderations-Stichwörter nun durchschnittlich 600 Livestreams pro Tag für die Überprüfung durch Sicherheitsspezialisten aus. Dennoch machen eine beträchtliche Anzahl davon sogenannte "falsch positive" Fälle aus. Falsch positive beziehen sich auf Fälle, in denen zum Beispiel ein im Hintergrund abgespieltes Lied oder verspielte Sprache, die auslösende Schlüsselwörter enthält, zur Überprüfung markiert wird, aber tatsächlich keine schädliche Sprache darstellt. Falsch positive Fälle zeigen nicht nur die Komplexität einer effektiven Moderation von Online-Inhalten, sondern auch die Bedeutung der Kombination von technischen Werkzeugen mit menschlicher Aufsicht für Nuancen und Kontext. Deshalb haben die menschlichen Moderatoren bei Yubo immer das letzte Wort darüber, welche Moderationsmaßnahmen ergriffen werden sollen, und überwachen kontinuierlich die Erkennungsalgorithmen.

Yubo skaliert seine Echtzeit-Audio-Moderationstechnologie auf vier bedeutende internationale Märkte.

Yubo erweitert seine Echtzeit-Audio-Moderationstechnologie auf vier große internationale Märkte.

Cybermobbing ist unter Jugendlichen auf dem Vormarsch und hat Berichten zufolge im Laufe der Lockdowns um 50 % zugenommen, was die Diskussionen über Maßnahmen zum Schutz von Kindern und Jugendlichen im Internet verstärkt.

In dieser Anti-Mobbing-Woche (15.-21. November) klärt Yubo seine Nutzer/innen über die Auswirkungen von Mobbing auf und arbeitet dabei mit der britischen Wohltätigkeitsorganisation The Diana Award zusammen, um die Yubo-Community mit einer Kampagne direkt in der App und einem informativen Quiz darüber aufzuklären, wie man sich verhalten sollte, wenn man gemobbt wird. Jetzt werden auch andere Social-Media-Plattformen dazu aufgefordert, proaktiv Maßnahmen zum Schutz jüngerer Online-Nutzer/innen zu ergreifen und Teenager darüber aufzuklären, wie man sich online freundlich verhält, um sie langfristig zu schützen.

Anfang des Jahres hat Yubo mit der Einführung der neuen Funktion "Blockierte Wörter" Maßnahmen gegen Online-Mobbing und schädliche Inhalte ergriffen, die es den Nutzern ermöglicht, bestimmte Wörter und Phrasen, die sie persönlich als anstößig empfinden, zu blockieren, damit sie nicht in der App angezeigt werden.

Mit der Funktion "Blockierte Wörter" können Nutzer/innen eine Reihe von Wörtern und Abkürzungen angeben, die sie als beleidigend, schädlich oder auslösend empfinden und die sie in Kommentaren oder Inhalten auf der App nicht mehr sehen wollen. Die Nutzer/innen können auch auswählen, für wen sie die Wörter blockieren wollen - zum Beispiel für alle Nutzer/innen oder nur für diejenigen, die nicht auf ihrer Freundesliste stehen. Yubo blendet dann Kommentare, die diese Wörter enthalten, automatisch aus der Sicht des Nutzers aus.

Sacha Lazimi, CEO und Mitbegründer von Yubo, sagt: "Soziale Medien spielen im Leben der Generation Z eine große Rolle - sie sind die ersten Digital Natives, für die es keinen Unterschied macht, ob sie sich online oder offline treffen. Da sie mehr Zeit online verbringen, ist es unsere Aufgabe als Social-Media-Organisationen, sie vor Online-Mobbing und unangemessenem Verhalten zu schützen.

Mehr denn je braucht diese Generation einen Ort, an dem sie sich sicher mit Gleichgesinnten treffen und soziale Interaktion online erleben kann. Es liegt jedoch in unserer Verantwortung als Unternehmen, dafür zu sorgen, dass die Mitglieder dieser Generation geschützt und darüber aufgeklärt werden, wie man sich online verantwortungsvoll verhält - nicht nur auf Yubo, sondern in allen sozialen Medien und Online-Foren. Deshalb haben wir diese neuen Funktionen eingeführt und werden auch weiterhin proaktiv mit unseren Sicherheits- und Moderationsexperten zusammenarbeiten, um sicherzustellen, dass Yubo ein sicherer Ort ist, an dem man neue und sinnvolle Kontakte knüpfen kann."

In dieser Anti-Mobbing-Woche (15.-21. November) klärt Yubo seine Nutzer über die Auswirkungen von Mobbing auf. In Zusammenarbeit mit der britischen Wohltätigkeitsorganisation The Diana Award soll die Yubo-Community durch eine Kampagne direkt in der App und ein Quiz darüber aufgeklärt werden, wie man sich verhalten sollte, wenn man gemobbt wird.

In dieser Anti-Mobbing-Woche arbeitet Yubo mit den Diana Awards zusammen

Das Nationale Zentrum für vermisste und ausgebeutete Kinder (National Center for Missing & Exploited Children, NCMEC), die führende gemeinnützige Organisation, die sich für die Suche nach vermissten Kindern, die Verringerung der sexuellen Ausbeutung von Kindern und die Verhinderung zukünftiger Viktimisierung einsetzt, geht eine Partnerschaft mit Yubo ein, der weltweit größten Social-Discovery-Plattform, um die Sicherheit junger Menschen im digitalen Zeitalter zu gewährleisten. Yubo reiht sich in die Riege der weltweit bekanntesten Tech-Giganten ein, um die Plattform, die sich ausschließlich an eine jüngere Generation richtet, mit beispiellosen Sicherheitsfunktionen auszustatten.

Ab heute kann das Yubo-Moderationsteam, das sich ausschließlich der Verhinderung unsicheren Nutzerverhaltens auf der Plattform widmet, mutmaßliche Online-Kinderausbeutung mit nur einem Klick in Echtzeit an die CyberTipline der NCMEC melden. Wenn NCMEC eine Meldung erhält, werden diese Informationen den Strafverfolgungsbehörden auf der ganzen Welt zur Verfügung gestellt, damit diese sie überprüfen und untersuchen können. Yubo identifiziert verdächtige Profile durch einen Hash-Wert-Abgleich mit der NCMEC-Datenbank, die den "digitalen Fingerabdruck" bekannter Bilder und Dateien, die Inhalte mit sexuellem Missbrauch von Kindern enthalten, verfolgt.

NCMEC wird außerdem eine beratende Funktion für Yubo übernehmen und bei der Entwicklung von Moderations- und Sicherheitstools beraten. John Shehan, Vizepräsident der NCMEC-Abteilung für ausgebeutete Kinder, tritt dem Sicherheitsausschuss von Yubo bei, dem bereits führende Vertreter anderer wichtiger öffentlicher und gemeinnütziger Organisationen wie Thorn, Diana Award, Ex-Interpol, dem Londoner Dienst für psychische Gesundheit Good Thinking und der Gründer von NetFamilyNews.org angehören. Johns Rolle bei der Plattform unterstreicht Yubos Engagement für eine transparente und positive Zusammenarbeit mit den einflussreichsten Sicherheitsorganisationen auf der ganzen Welt, die sich für den Schutz junger Internetnutzer/innen einsetzen.

John Shehan sagt: "Wir sind beeindruckt von Yubos Engagement für die Sicherheit ihrer Nutzerinnen und Nutzer und ihren innovativen Lösungen für ein sichereres Online-Umfeld. Wir sind stolz darauf, mit Yubo zusammenzuarbeiten, um weiterhin Tools zu entwickeln, die junge Menschen vor Ausbeutung schützen."

Marc-Antoine Durand, Chief Operating Officer von Yubo, fügt hinzu: "Die Sicherheit der Nutzer hat für Yubo oberste Priorität. Wir sind eine der wenigen sozialen Plattformen, die so viel in personelle, technische und finanzielle Ressourcen investieren, um sicherzustellen, dass Yubo die sicherste Plattform für die Generation Z ist."

"Unsere Partnerschaft mit dem NCMEC stellt sicher, dass Fälle von Ausbeutung sofort gemeldet werden, sodass die lokalen Behörden vollständigen Zugang zu Informationen haben, um digitale Täter schneller und intelligenter als je zuvor zu fassen."

Die Ankündigung der Partnerschaft wird durch die Einführung von zwei neuen Sicherheitsfunktionen auf der Plattform unterstützt. Die erste verhindert Profile ohne Profilbild; ein neues Tool verlangt von den Nutzern, dass sie ein Foto von sich selbst hochladen, um auf die App zugreifen und sie nutzen zu können. Ein zweites von Yubo entwickeltes Tool erkennt und warnt die Nutzer/innen in Echtzeit, wenn sie im Begriff sind, persönliche Informationen wie ihren Standort, ihre E-Mail-Adresse oder ihre Telefonnummer weiterzugeben, damit sie das Senden einer Nachricht überdenken können.

Introducing: True identity popups

Diese neuen Funktionen ergänzen Yubos bestehende Sicherheitsstandards wie die Altersschätzung in Zusammenarbeit mit Yoti Age Scan, die Echtzeit-Moderation von sozialen Videos sowie die kontinuierliche Zusammenarbeit mit der Polizei auf der ganzen Welt und machen die Plattform zur weltweit führenden Plattform für soziale Medien, bei der die Sicherheit höchste Priorität hat.

Annie Mullins, Mitbegründerin von The Trust and Safety Group und unabhängige Sicherheitsberaterin, sagt:

"Es braucht eine ganze Armee, um gegen die Ausbeutung junger Menschen zu kämpfen. Wir brauchen Tech-Unternehmen, die mit lokalen gemeinnützigen Organisationen und den Strafverfolgungsbehörden zusammenarbeiten, um sicherzustellen, dass Straftäter mit der vollen Härte des Gesetzes konfrontiert werden"

"Von der Aufklärung und Unterstützung der Nutzer durch integrierte Sicherheitstools in der App bis hin zu Partnerschaften mit wichtigen und relevanten Organisationen wie NCMEC - Yubos Engagement für die Sicherheit ist lobenswert und sollte anderen sozialen Plattformen als Beispiel dienen"

Mit einer globalen Gemeinschaft von über 28 Millionen jungen Menschen auf der Plattform und mit zehntausenden neuen Mitgliedern, die der Gemeinschaft jeden Tag beitreten, ist Yubo dazu verpflichtet, die Sicherheit jeder Person auf der Plattform zu gewährleisten

NCMEC kooperiert mit Yubo, um gegen Online-Ausbeutung vorzugehen

Als Plattform, auf der es darum geht, jungen Menschen zu helfen, sinnvolle Verbindungen zu knüpfen, konzentrieren wir uns jeden Tag auf die Sicherheit unserer Gemeinschaft. Deshalb sind wir stolz darauf, den #SaferInternetDay zu unterstützen, der heute (9. Februar) weltweit stattfindet.

In den letzten Jahren haben wir eine Reihe von branchenführenden Sicherheitsmaßnahmen eingeführt, um junge Nutzer/innen auf Yubo zu schützen, zu unterstützen und aufzuklären. Dazu gehören Eingriffe in Echtzeit, bei denen wir eine Kombination aus KI-Algorithmen und menschlichen Moderatoren einsetzen, um Aktivitäten zu überwachen und Maßnahmen zu ergreifen, wenn gegen unsere Community-Richtlinien verstoßen wird. Wir erlauben zum Beispiel keine Nacktheit auf Yubo - wenn jemand gegen diese Regel verstößt, schicken wir ihm eine Nachricht, in der wir ihn auffordern, sein Verhalten zu ändern, oder wir schließen den Livestream und/oder sperren seinen Account.

 Wir ermutigen unsere jungen Nutzer auch, es sich zweimal zu überlegen, bevor sie persönliche Daten im privaten Chat preisgeben. Wenn jemand einen Satz wie "Ich wohne in..." oder "Meine Telefonnummer ist..." eintippt, wird ein Pop-up-Alarm ausgelöst, der dem Nutzer die Möglichkeit gibt, die Nachricht zu löschen oder sie trotzdem zu senden. Heute führen wir eine neue Sicherheitsfunktion ein: Wenn eine unserer Nutzerinnen und Nutzer versucht, unangemessene Anfragen im privaten Chat zu stellen, warnen wir sie mit einer Pop-up-Warnung und blockieren die Weitergabe dieser Inhalte.  

Warum ist es so wichtig, dass wir möglichen Risiken bei Yubo zuvorkommen? In der Pubertät haben junge Menschen ein großes Potenzial, neue Dinge zu lernen, aber der Teil des Gehirns, der ihnen hilft, Entscheidungen zu treffen und die Konsequenzen dieser Entscheidungen zu bedenken, ist noch nicht vollständig entwickelt. Gleichzeitig können sie von Gleichaltrigen unter Druck gesetzt werden, sich auf eine bestimmte Weise zu verhalten und Risiken einzugehen.

 Um dem entgegenzuwirken, klären wir unsere jungen Nutzerinnen und Nutzer auf und geben ihnen die Möglichkeit, sorgfältig über das Teilen von Inhalten oder persönlichen Informationen nachzudenken und ihre Meinung zu ändern, wenn sie es sich anders überlegen. Wir unterstützen ihr Recht auf freie Meinungsäußerung, aber es ist auch wichtig, sie zu schützen.

Unsere Sicherheitsberaterin Annie Mullins OBE sagt: "Jugendliche machen Fehler - das gehört zum Erwachsenwerden dazu - aber es ist wichtig, dass die Anbieter sozialer Medien Sicherheitsnetze für sie bereitstellen und sie in die richtige Richtung lenken, wenn ihr Verhalten sie in Gefahr bringen könnte. Der Fokus sollte auf der Förderung der digitalen Resilienz und des Wohlbefindens liegen."

Das Recht auf Privatsphäre und Sicherheit

Wenn wir uns die Kinderrechtskonvention der Vereinten Nationen (UNCRC) ansehen, sehen wir, dass junge Menschen das Recht auf Privatsphäre und das Recht haben, ihre Meinung zu äußern. Aber sie haben auch das Recht auf Schutz vor Diskriminierung, Gewalt, sexuellem Missbrauch und anderen Formen der Ausbeutung. Diese Rechte gelten natürlich sowohl online als auch offline. In einem kürzlich erschienenen Blog bezeichnete Professorin Sonia Livingstone von der LSE die Verabschiedung einer Allgemeinen Bemerkung über die Rechte von Kindern in Bezug auf das digitale Umfeld durch den Ausschuss der Vereinten Nationen für die Rechte des Kindes als " Wendepunkt".

Die Balance zwischen Privatsphäre und Sicherheit zu finden, ist sicherlich eine der größten Herausforderungen für Tech-Unternehmen und Regulierungsbehörden. Das Bedürfnis nach Privatsphäre muss gegen das Risiko digitaler Verbrechen gegen junge Menschen wie Identitätsdiebstahl, Hassreden und sexuellen Missbrauch von Kindern abgewogen werden. Bei Yubo bitten wir alle neuen Nutzer/innen, unsere Community-Richtlinien zu lesen und zu akzeptieren, und wir sind so transparent wie möglich, wenn es darum geht, wie wir Inhalte auf unserer Plattform überwachen und moderieren (ohne die bestehenden Schutzmaßnahmen zu untergraben).

Wir halten an unseren Sicherheitsverpflichtungen fest

Im Jahr 2020 beteiligten wir uns an den Bemühungen der Branche, in der EU (wo Yubo seinen Sitz hat) einen harmonisierten Regulierungsansatz für den elektronischen Datenschutz einzuführen. Wir sind der Meinung, dass die Fokussierung auf die Privatsphäre der Nutzer/innen unbeabsichtigte Folgen haben und Kinder einem größeren Risiko der sexuellen Ausbeutung aussetzen könnte. Gemeinsam mit Google, Linkedin, Microsoft und Roblox haben wir angekündigt, dass Yubo "seine Sicherheitsverpflichtungen, die die Europäer - und in der Tat die Nutzer auf der ganzen Welt - erwarten und auf die sie sich verlassen, unbeirrt einhalten wird."

Unsere Position wurde von  Organisationen begrüßt, darunter vom National Center for Missing & Exploited Children (NCMEC) und von der Internet Watch Foundation (IWF).

NCMEC Präsident und CEO John Clark sagte: "Wir loben Google, LinkedIn, Microsoft, Roblox und Yubo, die sich öffentlich dazu verpflichtet haben, ihre proaktiven Bemühungen zur Aufdeckung der sexuellen Ausbeutung von Kindern fortzusetzen, auch während die EU über die nächsten Schritte berät".

"Wir begrüßen von ganzem Herzen die Haltung dieser Unternehmen, die wirklich alles tun, um Kinder zu schützen", kommentierte Susie Hargreaves OBE, Geschäftsführerin der IWF. "Der Schutz von Kindern, online wie offline, muss für alle Priorität haben, und wir dürfen das nie aus den Augen verlieren" .

Das heutige Motto des Safer Internet Day "Gemeinsam für ein besseres Internet" erinnert uns an die wichtige Rolle, die Yubo im Ökosystem der digitalen Sicherheit spielt. Die enge Zusammenarbeit mit anderen Interessengruppen - zum Beispiel als Mitglied der Technology Coalition und Unterstützer von Project Protect - ist ein wichtiger Teil davon.

Mit mehr als 45 Millionen Nutzerinnen und Nutzern und einem Anstieg unserer Livestream-Nutzung um 550% im Jahr 2020 haben wir die Verantwortung, junge Menschen weiterhin über verantwortungsvolles und sicheres Online-Verhalten aufzuklären. Diese Aufgabe nehmen wir sehr ernst, vor allem, weil die digitalen Räume während der Coronavirus-Pandemie noch mehr zu einem Rettungsanker geworden sind.

Wie unser COO Marc-Antoine Durand sagt: "Mehr denn je braucht diese Generation einen sicheren Raum, um mit Gleichgesinnten in Kontakt zu treten und soziale Interaktion online zu erleben, wenn sie im realen Leben dazu nicht in der Lage ist... Es ist unsere Verantwortung als Unternehmen, dafür zu sorgen, dass junge Menschen geschützt und darüber aufgeklärt werden, wie man sich online verantwortungsvoll verhält, nicht nur auf Yubo, sondern in allen sozialen Medien oder Online-Foren."

Besuche die#SaferInternetDay Website, um herauszufinden, wie du dich beteiligen kannst.

Yubo feiert den Safer Internet Day 2021 mit einer Reihe von branchenführenden Sicherheitsmaßnahmen, um junge Nutzer zu schützen, zu unterstützen und aufzuklären.

Safer Internet Day 2021

Sicherheit

Über Yubo

Unternehmen

User Experience

Product

Contact press@yubo.live

Für Medienanfragen

Bleib auf dem Laufenden. Erhalte die neuesten Updates direkt von Yubo, deiner sozialen Video-Livestreaming-App.

Bleibe auf dem Laufenden.

Erhalte die neuesten Updates, direkt von uns.

Yubo erweitert seine Echtzeit-Audio-Moderationstechnologie auf vier große i...

In dieser Anti-Mobbing-Woche arbeitet Yubo mit den Diana Awards zusammen

NCMEC kooperiert mit Yubo, um gegen Online-Ausbeutung vorzugehen

Safer Internet Day 2021

Für Medienanfragen