Hass im Netz & Deepfakes

Ursprünglich zur sozialen Vernetzung erschaffen, nimmt auf den Social-Media-Plattformen der Hass gegenüber Personen oder bestimmten Personengruppen zu. Vor allem (junge) Frauen sind dem Problem ausgesetzt. Gewaltandrohungen, Cyberstalking oder Mobbing sind tägliche Realität.

Ein weiteres Problem sind Deepfakes. Mit KI ist es möglich, schnell und einfach Bilder und Videos zu erzeugen. Aber auch bestehendes Bildmaterial kann umgestaltet werden, so werden diverse Sequenzen von Bild-, Video- oder Audiodateien eingefügt, ersetzt oder überhaupt neu erstellt. In diesem Fall, um einer Person Schaden in Form von Diffamierung, Machtausübung, Zerstörung der öffentlichen Reputation zuzufügen. So kursieren derzeit zahlreiche Deepfakes im Netz, zum Teil von prominenten Personen, Influencern, aber mittlerweile auch von Menschen aus der breiten Gesellschaft.

Die EU hat sich darauf geeinigt gegen Deepfakes vorzugehen. Es sollen in nationalen Staaten KI-Behörden gegründet werden. KI-Anwendungen, die eine sexualisierte Deepfakeerstellung ermöglichen, sollen laut EU verboten werden.

Der dadurch entstehende Schaden ist jedenfalls groß. Vor allem bei den betroffenen Personen, die derzeit nur wenig Handhabe haben, um gegen die Verbreitung vorzugehen.

Weiterführende Informationen können Sie hier nachlesen:

• Hass im Netz (ÖGB, 25.03.2026)

• EU einigt sich auf einfachere und innovationsfreundliche Vorschriften für künstliche Intelligenz (07.05.2026, Inhalt mittig zu finden)

• Deepfakes: Falsches Vertrauen in Videos (03.09.2021)

+++

Bild: mit KI erstellt - ChatGPT (JE)