Browser-Erweiterung: KI soll Hass-Kommentare verbergen
Eine Kommentarspalte ohne Beleidigungen oder Kleinkriege? Die Chrome-Erweiterung "Tune" setzt auf maschinelles Lernen, um toxische Kommentare aus dem Web zu filtern.
Anfeindungen, persönliche Auseinandersetzungen und Beschimpfungen: In manchen Kommentaren im Web verschwimmen oftmals die Grenzen zwischen Diskussionen und ernsthaften Beleidigungen. Zwar können bereits Browser-Erweiterungen wie "Shut up" im Kommentarbereich Abhilfe schaffen, jedoch können dabei auch hilfreiche Ergänzungen zu einem Artikel oder Video verschwinden. Dort soll nun die Chrome-Erweiterung "Tune" helfen, die mittels KI gezielter aussortiert.
Nutzer bestimmt selbst
Bereits 2017 kooperierte die Google-Schwester Jigsaw und Google gemeinsam mit Partnern wie The New York Times, The Economist und The Guardian. Anstelle von manueller Kuration wird maschinelles Lernen verwendet, um Kommentare zu überprüfen und die Toxizität zu bewerten. Denn Tune lässt den Anwender bestimmten, wie viel Toxizität in Kommentaren auf YouTube, Facebook, Reddit und Twitter erscheinen soll. Wenn die Erweiterung installiert ist und ein Google-Konto angemeldet ist, kann der Anwender durch einen virtuellen Drehregler – von "alle anzeigen" bis "alle verstecken" – selbständig entscheiden. Jigsaw stellt zudem fest, dass keine personenbezogenen Daten gespeichert werden, wobei der Kommentartext zur Bewertung gesendet und nach der Bewertung automatisch gelöscht wird. Feedback zur Anwendung können die Nutzer direkt im Tool geben, um die Algorithmen zu verbessern.
Derzeit nur in englischer Sprache anwendbar
Ein paar Einschränkungen bringt die Erweiterung jedoch mit sich. Zunächst ist Tune derzeit nur auf Englisch verfügbar, für deutsche Kommentare taugt die Erweiterung daher nicht. Zudem wird ein Google-Konto vorausgesetzt. Des Weiteren geben die Entwickler zu, dass sich ihr Machine-Learning-Algorithmus noch in einer experimentellen Phase befindet. Zuweilen kann es daher immer noch dazu kommen, dass beleidigende Kommentare nicht erkannt werden und umgekehrt völlig harmlose Beiträge ausgeblendet werden.
Den Quellcode von Tune finden Sie auf GitHub. Weitere Informationen zu Tune gibt es hier.
LG
Sie möchten zukünftig per Newsletter der Informatik Aktuell informiert werden? Hier können Sie sich anmelden.
