Cybermobbing ’shield‘ – app nutzt AI zur Bekämpfung von social-media-Trolle
Computer-Wissenschaftler von der Aston University, Birmingham, lanciert eine app, die verwendet eine neuartige künstliche Intelligenz (AI) algorithmen zur Bekämpfung von Trollen und Mobbing online.
Die herunterladbare app, Bullstop, ist das einzige anti-Cybermobbing-app lässt sich direkt auf social media-Plattformen, um Benutzer von Mobber und Trolle messaging direkt von Ihnen.
Entwickelt wurde es von Semiu Salawu, eine Doktorandin / Doktorand in der College of Engineering and Physical Sciences und wurde ursprünglich entwickelt, mit Jugendlichen im Alter von 13 aufwärts in den Sinn.
Die app wurde entwickelt, gemeinsam mit Jungen Menschen zur Verbesserung Ihrer chance auf übernahme unter der Hauptzielgruppe. Es ist aber auch hilfreich für Erwachsene, die regelmäßig nutzen Sie social media tools wie Twitter und sind Häufig Opfer von trolling und Missbrauch. Hochkarätige Beispiele der internet-trolling sind Häufig genug, um uns zu zeigen, dass diese Art des Missbrauchs ist weit verbreitet in den sozialen Medien.
Seit dem Ausbruch der Covid-19 und der start von lockdown, Jugendliche und Erwachsene bewegt haben, Ihr Leben online-mit der TV-Nutzung steigt stark an und Berichte von Cyber-Mobbing nehmen zu. Im April, die britische Regierung hat neue online-Sicherheits-Hinweise für Eltern, forderte Sie auf, die Ratschläge zu befolgen, um zu halten Kinder sicher online bei lockdown.
Comparitech.com befragt wurden über 1000 Eltern weltweit festgestellt, dass zwischen 2018 und 2020, ein Fünftel aller Mobbing aufgetreten ist, durch social media und apps, mit einem weiteren 11% Auftritt per SMS. Berichte von cyberbullying ist eine Zunahme von rund 70% zu Beginn der Sperrung nach Angaben aus israelischen startup-Unternehmen, L1ght im Digitalen Trends, verlassen jüngere Menschen besonders ausgesetzt online-harms.
Bullstop ist einzigartig, es überwacht Benutzer-social-media-Profil und durchsucht für offensive eingehende Nachrichten, um sicherzustellen, der Benutzer ist nicht Gegenstand der eingehenden Missbrauch, wie auch als offensive ausgehenden Nachrichten, um sicherzustellen, die Nutzer nicht mit unangemessenen Sprache und ein Mittel der selbst-Reflexion. Dies funktioniert über eine künstliche Intelligenz (AI) algorithmen, die konzipiert ist, um zu verstehen geschriebener Sprache: es wird analysiert, Nachrichten und Fahnen beleidigende Inhalte wie Instanzen von Cybermobbing, beschimpfender, beleidigender oder bedrohender Sprache, Pornographie und spam.
Anstößige Nachrichten werden sofort gelöscht aus dem Posteingang des Benutzers. Eine Kopie der gelöschten Nachrichten werden jedoch beibehalten, sollte der Benutzer wünschen, um zu überprüfen Sie. Die app kann auch automatisch blockieren Sie Kontakte, die ständig beleidigende Nachrichten senden. Bullstop ist in hohem Maße konfigurierbar, so dass der Benutzer bestimmen, wie umfassend die app entfernt unangebrachte Nachrichten.
Ph. D. student Semiu Salawu, die entworfen Bullstop sagte: „Diese Anwendung unterscheidet sich von anderen apps, da der Einsatz von künstlicher Intelligenz zu erkennen, die cyberbullying an sich ist einzigartig. Andere anti-Cybermobbing-apps im Vergleich, die Verwendung von keywords zu erkennen, Instanzen von Mobbing, anstößige oder bedrohliche Sprache.
„Die Erkennung AI ausgebildet worden ist, auf mehr als 60.000 tweets zu erkennen, nicht nur beleidigende und beleidigende Sprache, aber auch die Verwendung von subtilen Mitteln wie Sarkasmus und Ausgrenzung zu schikanieren, die sind sonst schwer zu erkennen, mit keywords.
„Es nutzt einen verteilten cloud-basierten Architektur, die es möglich macht, für ‚Klassifikatoren‘ vertauscht werden und aus. Daher ist, wie eine bessere künstliche Intelligenz-algorithmen verfügbar, können Sie leicht integriert werden, um die app verbessern zu können.“
Bullstop unterstützt derzeit Twitter mit Unterstützung für text-Nachrichten geplant in der nächsten Phase des roll-out. Es ist zu hoffen, dass mit der fortgesetzten Nutzung der app und gute Ergebnisse, andere social-media-Plattformen wie Facebook und Instagram kommen an Bord, so dass Ihre Nutzer von der Anwendung profitieren.
Semiu Hinzugefügt: „Twitter war sehr unterstützend von Forschungsarbeiten wie diese, in so apps wie BullStop sicher zu integrieren, die mit Ihrer Plattform und dies war der Schlüssel bei der Fertigstellung der Forschung. Wir hoffen, dass die anderen social media Plattformen Folgen werden.“
Die app ist derzeit in der beta-Testphase, was bedeutet, die Forscher fordern die Nutzer der app, um Sie mit feedback um Ihnen zu ermöglichen, um Verbesserungen zu machen. Es wurde bereits getestet, indem eine Reihe von Jungen Menschen und Fachkräften, darunter Lehrer, Polizisten und Psychologen.
Ein user im Alter von 11, sagte: „ich mag, dass, wenn ich will, um Nachricht die Menschen, die es prüfen können, ist es für mich, weil so viel wie ich will nicht verletzt werden, ich will nicht, Menschen zu verletzen entweder. Auch, wenn die Menschen nicht wollen, um in Schwierigkeiten zu bringen für das senden etwas, Sie können die app verwenden, um Ihnen zu sagen, wenn was Sie senden ist schlecht.“
Ein user im Alter von 16, sagte: „ich mag, dass Sie können Kontakte knüpfen, Vertrauen kann, oder blockiert, und es können automatisch blockieren Menschen, wenn Sie beleidigend.“
Ein Psychiater, der überprüft die app, sagte: „Es wurde eine“ stop and think “ – Abschnitt, der für jedes Kind, nicht direkt wollen, zu schikanieren oder nicht die Absicht haben, von Mobbing, ist sehr positiv. Auch ich glaube nicht, dass ein Kind eine app installiert, wenn Sie es wissen, können Ihre Eltern den Zugang, so dass die Entscheidung, nicht zu elterliche Kontrolle in der app ist die richtige“.
Ein Sprecher der West Midlands Police cybercrime-Einheit, sagte: „Mein Erster Eindruck war sehr gut. Als Benutzer, oder sogar vielleicht einen Vormund, ich kann gehen Sie durch die tour in der app und verstehen sehr schnell, was die Anwendung versucht zu erreichen. Ich denke, die Tatsache, die es nicht haben ein Eltern-oder companion-app verwendet werden sollte ein Verkaufsargument. Wenn jemand gemobbt wurde online, ich würde definitiv empfehlen, diese app zu Ihnen und wenn Sie dieses tool öffentlich verfügbar ist, dann könnte ich sehen, es wäre etwas konnte die Polizei empfehlen als Schutz-tool.“
Einen lokalen general practitioner (GP), die getestet, die app Hinzugefügt: „Nun, ich weiß, BullStop verfügbar sein wird, kann ich auch empfehlen, denn es setzt die Beratung, die wir geben, sind Patienten und Ihre Eltern in Kraft. Zum Beispiel würden wir beraten Sie blockieren anstößigen Kontakte, und überprüfen Sie die Verbindung anfordert. Mit so etwas gibt sich ein junger Mensch ein gewisses Maß an Kontrolle zurück.“