Microsoft versucht, die Erkennung von Kindesmissbrauch zu verbessern, indem es das Xbox-Chat-Tool für andere Unternehmen öffnet

Microsoft hat ein neues Tool zum Erkennen von Kindesraubtieren veröffentlicht, die Kinder in Online-Chats wegen Missbrauchs ausbessern. Project Artemis, basierend auf einer Technik, die Microsoft auf der Xbox verwendet hat, wird nun anderen Online-Unternehmen mit Chat-Funktionen zur Verfügung gestellt. Es kommt zu einer Zeit, in der sich mehrere Plattformen mit Kindesraubtieren befassen, die Kinder wegen sexuellen Missbrauchs zum Ziel haben, indem sie Gespräche in Chatfenstern führen.

Artemis erkennt bestimmte Wörter und Sprachmuster und meldet verdächtige Nachrichten zur Überprüfung durch einen menschlichen Moderator. Der Moderator entscheidet dann, ob die Situation durch Kontaktaufnahme mit der Polizei oder anderen Strafverfolgungsbehörden eskaliert werden soll. Wenn ein Moderator eine Aufforderung zur sexuellen Ausbeutung von Kindern oder Bilder von Kindesmisshandlung findet, wird das Nationale Zentrum für vermisste und ausgebeutete Kinder über weitere Maßnahmen informiert.

„Manchmal schreien wir auf den Plattformen – und auf jeder Plattform mit Online-Chat gibt es Missbrauch -, aber wir sollten sie dafür begrüßen, dass sie Mechanismen eingerichtet haben“, sagt Julie Cordua, CEO der gemeinnützigen Tech-Organisation Thorn, die gegen sexuellen Missbrauch im Internet vorgeht von Kindern. “Wenn jemand sagt:” Oh, wir haben keinen Missbrauch “, sage ich zu ihm:” Na, suchen Sie? ”

Im Dezember stellte die New York Times fest, dass Online-Chat-Plattformen ein fruchtbares “Jagdrevier” für Raubtiere sind, die ihre Opfer pflegen, indem sie sich zuerst mit ihnen anfreunden und sich dann online und offline in das Leben eines Kindes einarbeiten. Die meisten großen Plattformen, einschließlich Xbox Live von Microsoft, befassen sich mit einem gewissen Maß an Missbrauch durch Kindesraubtiere. Wie die Times feststellte, wurde 2017 ein Mann zu 15 Jahren Gefängnis verurteilt, weil er Kindern über den Xbox Live-Chat mit Vergewaltigung und Mord gedroht hatte.

Die Aufdeckung von sexuellem Missbrauch von Online-Kindern und die entsprechenden Richtlinien können von Unternehmen zu Unternehmen sehr unterschiedlich sein. Viele der beteiligten Unternehmen sind sich potenzieller Datenschutzverletzungen bewusst, berichtete die Times. Im Jahr 2018 kündigte Facebook ein System an, mit dem Raubtiere abgefangen werden können, um festzustellen, ob sich jemand schnell mit vielen Kindern in Verbindung setzt und wie oft sie blockiert werden. Facebook hat jedoch auch Zugriff auf viel mehr Daten über seine Benutzer als andere Plattformen.

Laut Thorn ist das Tool von Microsoft wichtig, da es jedem Unternehmen per Chat zur Verfügung steht und dabei hilft, einen Industriestandard für die Erkennung und Überwachung von Raubtieren festzulegen, der bei der Entwicklung künftiger Präventionstools helfen soll. Laut Cordua ist es schwierig, Chats auf möglichen Kindesmissbrauch hin zu überwachen, da ein Gespräch so nuanciert sein kann.

Raubtiere können sich in Online-Chatrooms aufhalten, um Opfer zu finden, ähnlich wie sie es offline tun würden, aber mit einem viel schnelleren Zugang, sagt Elizabeth Jeglic, Professorin für Psychologie am John Jay College für Strafjustiz in New York, die ausführlich über den Schutz von Kindern geschrieben hat Online-sexueller Missbrauch, insbesondere die oft subtile Praxis der Pflege. “Innerhalb von 30 Minuten können sie sexuell mit einem Kind sprechen”, sagt sie. “Persönlich ist es schwieriger, Zugang zu einem Kind zu bekommen, aber online kann ein Raubtier hineingehen, das Wasser testen und, wenn es nicht funktioniert, zum nächsten Opfer übergehen.”

Es hört nicht bei einer Plattform auf, fügt Cordua hinzu. “Sie werden versuchen, das Kind zu isolieren, und sie werden ihnen über mehrere Plattformen hinweg folgen, damit sie mehrere Ausnutzungspunkte haben können”, sagt sie. Ein Raubtier kann ein Kind um ein Foto bitten und dann die Anforderungen an Videos erhöhen, wodurch der Grad an sexuellem Inhalt erhöht wird. „Das Kind ist von Schuldgefühlen und Angst geplagt, und aus diesem Grund geht der Raubtier über Plattformen: Er kann sagen, oh, ich kenne alle deine Freunde auf Facebook, wenn du mir kein Video schickst, sende ich das erste Foto an alle an deiner Junior High. ”

Artemis befindet sich laut Microsoft seit mehr als 14 Monaten in der Entwicklung und begann im November 2018 mit einem branchenübergreifenden Hackathon von Microsoft, der von zwei Kinderschutzgruppen, der WePROTECT Global Alliance und der Child Dignity Alliance, gemeinsam gesponsert wurde. Ein Team aus Roblox, Kik, Thorn und The Meet Group arbeitete mit Microsoft an dem Projekt. Es wurde von Hany Farid geleitet, der das PhotoDNA-Tool zur Erkennung und Meldung von Bildern der sexuellen Ausbeutung von Kindern im Internet entwickelte.

Einige Details zur Funktionsweise des Artemis-Tools in der Praxis sind jedoch unklar und können je nach verwendeter Plattform variieren. Es ist nicht festgelegt, ob Artemis mit Chat-Programmen arbeiten würde, die eine Ende-zu-Ende-Verschlüsselung verwenden, oder welche Schritte unternommen werden, um eine mögliche PTBS bei Moderatoren zu verhindern.

Thorn wird das Programm verwalten und die Lizenzierung und den Support übernehmen, um die teilnehmenden Unternehmen an Bord zu bringen, so Microsoft.

Laut Cordua hat Artemis einige anfängliche Einschränkungen – es funktioniert derzeit nur auf Englisch – das Tool ist ein großer Schritt in die richtige Richtung. Da jedes Unternehmen, das das Tool verwendet, es für sein eigenes Publikum anpassen kann (Chats auf Spieleplattformen unterscheiden sich offensichtlich von denen auf sozialen Apps), gibt es reichlich Gelegenheit, die Funktionsweise des Tools anzupassen und zu verfeinern. Und sie sagt, es geht darum, dass Plattformen von den fehlgeschlagenen Praktiken der Selbstkontrolle weggehen und eine proaktive Prävention von Kindespflege und Missbrauch fördern.

In seinem Blogbeitrag fügt Microsoft hinzu, dass das Artemis-Tool “keineswegs ein Allheilmittel” ist, sondern ein erster Schritt zur Erkennung der Online-Pflege von Kindern durch sexuelle Raubtiere, die es als “gewichtige” Probleme bezeichnet.

“Der erste Schritt ist, dass wir besser identifizieren können, wo dies geschieht”, sagt Cordua. “Aber alle Unternehmen, die einen Chat oder ein Video hosten, sollten dies tun, oder sie sind mitschuldig, den Missbrauch von Kindern auf ihren Plattformen zuzulassen.”

Leave a Reply

Your email address will not be published. Required fields are marked *