Mobbing und Belästigung von und durch Creator - YouTube reagiert

Moin allerseits,

in den letzten Tagen ging vor allem im US YouTube einiges drunter und drüber. Besonders 2 Kanäle stehen dabei im Mittelpunkt, ein News Channel von Carlos Maza (der auch Moderator bei VOX ist) und ein rechter oder sogar rechtsradikaler Kanal der einem Steven Crowder gehört. Crowder hat gegenüber Maza allerlei homophobe und teilweise rassistische Sachen losgelassen, der hat sich bei YouTube darüber beschwert. Unter anderem, nachdem die User von Crowder ebenfalls auf Maza losgingen, und in diesem Prozess wohl auch allerhand private Daten, Telefonnummern, etc von Maza veröffentlich wurden, und die Belästigung damit sehr viel stärker wurde, da sie auf Twitter, Instagram und private Nachrichten an Mazas Telefon und sogar Drohanrufe ausgeweitet wurde.

YouTube hat sich zuerst geweigert, gegen Crowder direkt vorzugehen, darauf hin gab es Vorwürfe, dass YouTube sowas nur durchgehen lassen würde, weil Crowder mehrere Millionen Abonnenten hat und die Plattform an den geschalteten Werbungen auf dem Kanal gut verdienen würde.

Mittlerweile wurde Crowders Kanal wohl demonetarisiert und YouTube hat ein Statement dazu veröffentlicht (aus dem englischen durch Google Übersetzer, Link zum Original Text siehe Quellen):

Zitat von YouTube

In den letzten Tagen gab es viele Fragen zu unseren Belästigungsrichtlinien, insbesondere zu zwei YouTube-Erstellern: Carlos Maza und Steven Crowder. Dies sind wichtige Themen, und wir möchten mehr Details und Kontexte bereitstellen, als dies in einer Tweetserie möglich ist.

Seit YouTube vor 14 Jahren gegründet wurde, haben wir uns darauf konzentriert, eine Plattform bereitzustellen, auf der sich jeder selbst ausstrahlen, mit Menschen in Verbindung treten und ihre Stimmen und Erfahrungen mit der Welt teilen kann. Dies hat eine Menge Gutes gebracht - wie Jouelzy, der die #smartbrowngirl Bewegung gegründet hat, um Frauen der Farbe zu stärken, oder MatPat, ein Spiele Creator, der zusammen mit seinen Fans und anderen Creatorn über 200.000 US-Dollar gesammelt hat, um psychische Erkrankungen zu bekämpfen. Aber es hat auch viele Herausforderungen geschaffen. Eines der wichtigsten Probleme, mit denen wir konfrontiert sind, ist die Belästigung. Wir setzen unsere Richtlinien hier konsequent und unabhängig vom jeweiligen Urheber durch: Im ersten Quartal 2019 haben wir Zehntausende von Videos entfernt und sind für Verstöße gegen unsere Richtlinien zu Cybermobbing und Belästigung verantwortlich. Wir haben auch Hunderte von Millionen von Kommentaren entfernt, von denen viele aufgrund von Belästigung markiert und entfernt wurden.

Die Politik muss jedoch mit den aktuellen Problemen Schritt halten. Eine besondere Herausforderung, der wir uns heutzutage immer mehr stellen müssen, ist die Belästigung von Schöpfern gegen Schöpfer. Dies ist ein Problem, das Susan in ihrem neuesten Erstellerbrief angesprochen hat. Wir aktualisieren unsere Richtlinien laufend, um sicherzustellen, dass sie aktuell sind. Erst heute haben wir einen weiteren Schritt in unserem Kampf gegen Hassreden unternommen und sind dafür verantwortlich, die Verbreitung schädlicher Grenzinhalte zu verringern. Wie bereits erwähnt, wird eines unserer nächsten Projekte auch unsere Belästigungspolitik überprüfen.

Als offene Plattform hosten wir manchmal Meinungen und Ansichten, die viele, selbst eingeschlossen, als anstößig empfinden. Dazu könnten ausgefallene Stand-up-Comedy-Routinen, ein Song, der ganz oben auf der Liste steht, oder ein politischer Schimpanse gehören - und vieles mehr. Kurze Momente aus diesen Videos ergeben ein beunruhigendes Bild. Im Einzelfall überschreiten sie jedoch nicht immer die Ziellinie.

Hier spielen zwei Schlüsselstrategien eine Rolle: Belästigung und Hassreden. Im Hinblick auf Belästigung prüfen wir, ob der Zweck des Videos darin besteht, eine Person zu belästigen, zu bedrohen oder zu demütigen. oder ob persönliche Informationen preisgegeben werden. Wir betrachten das gesamte Video: Handelt es sich zum Beispiel um ein zweiminütiges Video, in dem eine Person verfolgt wird? Ein 30-minütiges Video mit politischen Reden, in dem verschiedene Personen ein paar Mal angesprochen werden? Ist es auf eine öffentliche oder private Person ausgerichtet? In Bezug auf Hassreden untersuchen wir, ob der Hauptzweck des Videos darin besteht, Hass gegenüber einer geschützten Gruppe zu schüren oder sie zu Überlegenheit zu ermutigen. oder ob es versucht, Gewalt anzuregen. Es ist klar, dass die alleinige Verwendung rassistischer, homophober oder sexistischer Epitheta nicht unbedingt gegen eine dieser Richtlinien verstößt. Zum Beispiel wird, wie oben erwähnt, in Liedern und komödiantischen Routinen oft eine unanständige oder anstößige Sprache verwendet. Es ist, wenn der Hauptzweck des Videos Hass oder Belästigung ist. Und wenn Videos gegen diese Richtlinien verstoßen, entfernen wir sie.

Nicht jeder wird mit unseren Anrufen einverstanden sein - einige werden sagen, dass wir nicht genug getan haben. andere werden sagen, wir sind zu weit gegangen. Und manchmal sieht die Entscheidung, ein beleidigendes Video auf der Website zu belassen, so aus, als würden wir Menschen verteidigen, die ihre Plattformen und Zielgruppen dazu genutzt haben, andere zu schikanieren, zu degradieren, zu marginalisieren oder zu ignorieren. Wenn wir alle potenziell anstößigen Inhalte unterbinden, verlieren wir wertvolle Sprache - Sprache, mit der Menschen überall ihre Stimmen erheben, ihre Geschichten erzählen, die Machthaber befragen und an den kritischen kulturellen und politischen Gesprächen unserer Zeit teilnehmen können .

Auch wenn der Inhalt eines Erstellers nicht gegen unsere Community-Richtlinien verstößt, werden wir uns mit dem breiteren Kontext und den Auswirkungen befassen. Wenn ihr Verhalten ungeheuerlich ist und der breiteren Community schadet, können wir Maßnahmen ergreifen. Im Falle von Crowders Kanal ergab eine gründliche Überprüfung am Wochenende, dass die gekennzeichneten Videos nicht gegen unsere Community-Richtlinien verstießen. In den folgenden Tagen sahen wir jedoch den weitverbreiteten Schaden für die YouTube-Community, der aus dem anhaltenden Muster ungeheuerlichen Verhaltens resultierte. Wir haben einen genaueren Blick darauf geworfen und beschlossen, die Monetarisierung auszusetzen. Um für die Wiedereinstellung in Betracht gezogen zu werden, müssen alle relevanten Probleme mit dem Kanal behoben werden, einschließlich aller Videos, die gegen unsere Richtlinien verstoßen, sowie Dinge wie anstößige Waren.

In den kommenden Monaten werden wir uns intensiv mit unseren Belästigungsrichtlinien befassen, um sie - wie wir es im Laufe der Jahre bei so vielen Richtlinien getan haben - in Absprache mit Experten, Machern, Journalisten und denen, die selbst belästigt haben, zu aktualisieren. Opfer von Belästigungen geworden. Wir sind entschlossen, unsere Richtlinien weiterzuentwickeln und unsere Urheber und uns selbst weiterhin auf einem höheren Standard zu halten.

- Chris Dale, YouTube

Alles anzeigen

Meine Meinung:
Ich hab die Vorfälle nicht voll im Blick, um sie richtig beurteilen zu können. Darum habe ich mehrere Links von US Seiten bei den Quellen verlinkt. Problematische Zustände, vor allem natürlich, weil Rassismus und generell Mobbing und Belästigung durch große Creator nicht nur nicht unterstützt werden sollte, sondern so etwas ungeachtet der Kanalgröße angeschaut werden sollte. Und für Betroffene von Mobbing und Belästigung braucht es vernünftige Schutzmassnahmen. Andererseits ist das Recht auf Freie Meinungsäußerung auch wichtig. Und dieser Fall ist nur die Spitze des Eisbergs.

YouTube gerät hier zunehmen in eine Richterposition, wo sie entscheiden müssen, wenn so etwas passiert, ob jemand "verurteilt" wird, oder nicht. Ob sie reagieren oder ob sie es dulden, wie schlimm die Belästigung ist, ob es Strafen gibt und wenn ja, wie hart. Und dabei spielt vor allem eine Rolle für YT, wie Schlimm der entstehende Schaden für die Plattform, für die Firma und am Rande auch, für die Community ist.

Und dann hat die zögerliche Haltung von YouTube und die öffentliche Diskussion dazu bereits wieder den Ansatz von Adpocalypse, der Begriff VoxAdpocalypse macht die Runde. Dies bedeutet, dass wohl bereits wieder zahlreiche Werbetreibende auf diese Vorfälle reagieren, YouTube damit in Zugzwang gerät und es im Endeffekt wieder Auswirkungen auf alle Creator haben kann, wie zB im Fall mit dem Logan Paul Leichenvideo.

Wie siehst Du die Sache, hast Du eine Meinung dazu? Die Diskussion ist eröffnet.

Quellen

• CNN , https://edition.cnn.com/2019/0…der-demonetize/index.html
• The Verge , https://www.theverge.com/2019/…lying-enforcement-verdict
• YouTube original Statement , https://youtube.googleblog.com…r-look-at-harassment.html
• Gizmodo , https://gizmodo.com/youtube-no…-of-racist-ant-1835259054

Das Ganze zieht noch weitere Kreise:

https://www.nytimes.com/2019/0…ove-extremist-videos.html
https://www.tagesschau.de/wirt…sistische-videos-101.html

https://www.tt.com/lebensart/w…sismus-doch-keine-meinung

https://www.heise.de/newsticke…d-Luegen-ein-4440656.html

https://www.spiegel.de/netzwel…che-videos-a-1271076.html

Mehr Infos:

Es gibt inzwischen einen 2. Blogpost von YouTube zum Thema: (Wieder Google Übersetzer, leicht von Hand nachgebessert. ich werde die Texte austauschen, wenn es offizielle deutsche Varianten davon gibt)

Zitat von YouTube

Unsere fortwährende Arbeit zur Bekämpfung des Hasses
Mittwoch, 5. Juni 2019

In den letzten Jahren haben wir in Richtlinien, Ressourcen und Produkte investiert, um unserer Verantwortung gerecht zu werden und die YouTube-Community vor schädlichen Inhalten zu schützen. Diese Arbeit konzentrierte sich auf vier Säulen: Entfernen von verletzenden Inhalten, Erhöhen von autorisierenden Inhalten, Verringern der Verbreitung von Grenzinhalten und Belohnen von vertrauenswürdigen Autoren. Dank dieser Investitionen werden Videos, die gegen unsere Richtlinien verstoßen, schneller als je zuvor entfernt und die Nutzer sehen weniger Grenzinhalte und schädliche Fehlinformationen. Dabei arbeiten wir eng mit dem Gesetzgeber und der Zivilgesellschaft auf der ganzen Welt zusammen, um die Verbreitung von gewalttätigen extremistischen Inhalten im Internet zu begrenzen. Wir überprüfen unsere Richtlinien fortlaufend, um sicherzustellen, dass wir die Linie an der richtigen Stelle ziehen: Allein im Jahr 2018 haben wir mehr als 30 Richtlinienaktualisierungen vorgenommen. Einer der komplexesten und sich ständig weiterentwickelnden Bereiche, mit denen wir uns befassen, ist Hassreden. Wir haben unsere Herangehensweise an hasserfüllte Inhalte in Absprache mit Dutzenden von Experten in Themen wie gewalttätigem Extremismus, Supremacismus, Bürgerrechten und Redefreiheit unter die Lupe genommen. Basierend auf diesen Erkenntnissen führen wir mehrere Aktualisierungen durch:

Entfernen von hasserfüllten und rassistischen Inhalten von YouTube
YouTube hatte schon immer Regeln für den gegenseitigen Umgang, einschließlich einer langjährigen Politik gegen Hassreden. 2017 haben wir eine härtere Haltung gegenüber Videos mit rassistischen Inhalten eingeführt, einschließlich der Einschränkung von Empfehlungen und Funktionen wie Kommentaren und der Möglichkeit, das Video zu teilen. Durch diesen Schritt wurden die Aufrufe dieser Videos drastisch reduziert (durchschnittlich 80%). Heute machen wir einen weiteren Schritt in unserer Hassrede-Politik, indem wir speziell Videos verbieten, in denen behauptet wird, eine Gruppe sei überlegen, um Diskriminierung, Segregation oder Ausgrenzung aufgrund von Eigenschaften wie Alter, Geschlecht, Rasse, Kaste, Religion, sexueller Orientierung oder Veteran zu rechtfertigen Status. Dazu gehören beispielsweise Videos, die die nationalsozialistische Ideologie fördern oder verherrlichen, die von Natur aus diskriminierend ist. Schließlich werden wir Inhalte entfernen, die bestreiten, dass gut dokumentierte gewalttätige Ereignisse wie der Holocaust oder die Schießerei auf Sandy Hook Elementary stattgefunden haben. Wir sind uns bewusst, dass einige dieser Inhalte für Forscher und NGOs von Wert sind, die Hass verstehen wollen, um ihn zu bekämpfen, und wir prüfen Optionen, um ihn ihnen in Zukunft zur Verfügung zu stellen. Und wie immer kommt es auf den Kontext an, sodass einige Videos möglicherweise weiterhin angezeigt werden, weil sie Themen wie anhängige Gesetze diskutieren, Hass verurteilen oder entlarven oder aktuelle Ereignisse analysieren sollen. Wir werden heute mit der Durchsetzung dieser aktualisierten Richtlinie beginnen. Es wird jedoch einige Zeit dauern, bis unsere Systeme vollständig hochgefahren sind, und wir werden die Abdeckung in den nächsten Monaten schrittweise erweitern.

Reduzieren von extremistischen Inhalten und Erhöhen von maßgeblichen Stimmen
Neben dem Entfernen von Videos, die gegen unsere Richtlinien verstoßen, möchten wir auch die Verbreitung von Inhalten reduzieren, die auf den Punkt gebracht werden. Im Januar haben wir ein Update unserer Systeme in den USA getestet, um die Empfehlungen für Grenzinhalte und schädliche Fehlinformationen einzuschränken, z. B. Videos, die ein falsches Wundermittel für eine schwere Krankheit bewerben, oder die Behauptung, die Erde sei flach. Wir sind bestrebt, dieses aktualisierte System bis Ende 2019 in weitere Länder zu bringen. Dank dieser Änderung ist die Anzahl der Aufrufe, die diese Art von Inhalten von Empfehlungen erhält, in den USA um über 50% gesunken. Unsere Systeme werden auch intelligenter Welche Arten von Videos sollten diese Behandlung erhalten, und wir werden sie in Zukunft auf noch mehr Grenzvideos anwenden können. Auf diese Weise werden wir auch die Empfehlungen inhaltlich verbindlicher gestalten und auf den Änderungen aufbauen, die wir im letzten Jahr an den Nachrichten vorgenommen haben. Wenn ein Nutzer beispielsweise ein Video ansieht, das in der Nähe eines Verstoßes gegen unsere Richtlinien liegt, werden in unseren Systemen möglicherweise mehr Videos aus maßgeblichen Quellen (z. B. Top-Nachrichtenkanälen) im Bereich "Nächstes ansehen" angezeigt.

Belohnen Sie weiterhin vertrauenswürdige Urheber und setzen Sie unsere Monetarisierungsrichtlinien durch
Schließlich ist es wichtig, dass unsere Monetarisierungssysteme vertrauenswürdige Urheber belohnen, die einen Mehrwert für YouTube schaffen. Wir verfügen über langjährige werbefinanzierte Richtlinien, die die Schaltung von Anzeigen auf Videos mit hasserfüllten Inhalten untersagen, und setzen diese konsequent um. Um unser Ökosystem aus Entwicklern, Werbetreibenden und Zuschauern zu schützen, haben wir 2017 unsere Werbekriterien verschärft. Im Falle von Hassreden verstärken wir die Durchsetzung unserer bestehenden Richtlinien für das YouTube-Partnerprogramm. Kanäle, die wiederholt gegen unsere Hassreden verstoßen, werden vom YouTube-Partnerprogramm gesperrt. Dies bedeutet, dass sie keine Anzeigen in ihrem Kanal schalten oder andere Monetarisierungsfunktionen wie den Super-Chat verwenden können. Die Offenheit der YouTube-Plattform hat dazu beigetragen, dass Kreativität und Zugang zu Informationen gedeihen. Es liegt in unserer Verantwortung, dies zu schützen und zu verhindern, dass unsere Plattform dazu genutzt wird, Hass, Belästigung, Diskriminierung und Gewalt anzuregen. Wir verpflichten uns, die notwendigen Schritte zu unternehmen, um dieser Verantwortung heute, morgen und in Zukunft gerecht zu werden

Alles anzeigen

Quelle: https://youtube.googleblog.com…-work-to-tackle-hate.html

Die Übersetzung "Grenzwertig" ist in den meisten Fällen im englischen aus dem Begriff "extremist" hervorgegangen. Und da wird es vermutlich auch schon deutlicher. Es geht vor allem auch um rassistischen Content im Sinne von "Wir sind besser als die anderen weil," oder "Die anderen sind einfach schlechter als wir, weil wir so eine tolle Rasse sind" und ähnliche Inhalte. Dies ist im englischen der Begriff "Supremacy", der im deutschen soviel wie "Vorherrschaft" bedeutet. Die Dominanz einer Gruppe über eine andere, weil sie die anderen unterdrückt. Dies ist auf viele Fälle von Unterdrückung und Diskriminierung anwendbar und meiner Meinung nach ist dies auch das, was YouTube im Ziel hat.

Problem dabei ist, dass durch die riesige Menge an Content halt alles per automatik geht, nur im Nachhinein und bei Widerspruch wird von Hand geprüft. Und diese Technik ist halt nicht perfekt. Auf der einen Seite werden Sachen "ausgefiltert", die eigentlich vielleicht gar nicht schlimm waren und auf der anderen Seite wird manches nicht ausgefiltert, was für die meisten völlig offensichtlich in diesen Bereich fällt. Und manches ist Ironie, manches Satire und wird falsch verstanden. Und wieder andere verstehen es wunderbar ihre ekligen Diskriminierungen immer haarscharf an der Grenze zu halten.

Obendrein hat vermutlich jeder Mensch auch noch seine völlig eigene Interpretation davon, was geht und was nicht geht. Manche sind über-empfindlich, andere haben selbst diese extremen Meinungen und "verstehen" überhaupt nicht, warum da was gelöscht wird. Hier gibt es halt einfach keinen perfekten, einfachen Weg. Aber wie bisher in den meisten Fällen nichts zu tun, ist wohl auch nicht das richtige. Vor allem wenn man es geschäftlich betrachtet und Werbetreibende nicht neben ISIS, Nazi, homophoben, frauenfeindlichen oder ähnlichen "Wir sind die besten, alle anderen sind nichts wert" Content-Makern angezeigt werden möchten.

Die KI, die diese Entscheidungen trifft, wird da noch eine lange Weile brauchen, ehe sie das besser kann. Aber auch zu Beginn der Demonetarisierung per KI gab es unheimlich viele Fehlentscheidungen, und eine Menge Ärger und Kritik an den Entscheidungen der KI, Massenweise Widersprüche, etc. Aber heute ist sie bei weitem besser in der Lage, die Monetarisierungs-Richtlinien und die Grenzen was in diesem Bereich geht und was nicht zu erkennen. Ich vermute, auch die "Supremacy and discrimination" KI wird mit der Zeit viel besser werden, als man das jetzt erstmal denkt, bei den merkwürdigen Anfängen.

PS: Ich hab die Themen mal miteinander verschmolzen