Kann künstliche Intelligenz vor Hatespeech schützen? KI-gestützte Content Moderation auf Social-Media

Abstract

Content Moderation auf Social-Media-Plattformen wird aufgrund der großen Menge an Daten meist mit der Unterstützung von künstlicher Intelligenz durchgeführt. Das ist nötig, um schädliche Inhalte wie Hatespeech auf diesen Plattformen zu minimieren. Der Beitrag beschäftigt sich in Form eines Literaturreviews mit den Problemen, die der Einsatz von KI bei Content Moderation in diesem Feld mit sich bringen kann.

Content Moderation is a vital part of social media platforms. It is a task usually supported by the use of artificial intelligence due to the size of most platforms. To minimize harmful content such as hate speech, a platform has to implement content moderation. This text reviews the literature on this subject and compiles problems that might arise when employing AI for content moderation.