Episode 7: Warum Sprachmodelle falsche Antworten liefern

Künstliche Intelligenz ist für viele Menschen längst Teil des Alltags. Ob im Studium, in der Forschung oder im Berufsleben: Sprachmodelle wie ChatGPT liefern innerhalb weniger Sekunden Antworten auf komplexe Fragen. Doch nicht immer sind diese Antworten korrekt.

In der aktuellen Folge von Welthandelsplatz 1 spricht Karin Heitzmann mit Axel Polleres, Professor für Data and Knowledge Engineering an der WU Wien, darüber, wie moderne Sprachmodelle funktionieren, warum sie manchmal halluzinieren und wie verlässlichere KI-Systeme entwickelt werden können.

Warum Sprachmodelle halluzinieren

Viele kennen das Problem: KI-Systeme erfinden Quellen, schreiben Autor*innen die falschen Publikationen zu oder präsentieren unzutreffende Informationen mit großer Selbstsicherheit. Axel Polleres hat das selbst getestet und ein Sprachmodell nach seinen wichtigsten wissenschaftlichen Publikationen gefragt. Das Ergebnis: Neben mehreren korrekten Treffern tauchten auch Veröffentlichungen auf, die ihm fälschlicherweise zugeschrieben wurden, sowie eine Publikation, die gar nicht existiert.

Der Grund dafür liegt in der Funktionsweise von Sprachmodellen. Sie speichern Wissen nicht wie eine klassische Datenbank, sondern erkennen statistische Muster in riesigen Mengen von Texten. Dadurch können sie beeindruckend gute Antworten formulieren, gleichzeitig aber auch plausibel klingende Fehler produzieren.

Wie verlässlichere KI entstehen könnte

Ein weiterer Schwerpunkt der Episode ist die Frage, wie KI-Systeme künftig zuverlässiger werden können. Polleres erklärt, wie Forschende Sprachmodelle mit sogenannten Knowledge Graphs verbinden. Diese Wissensgraphen helfen dabei, Informationen auf Plausibilität zu prüfen und Fehler zu reduzieren.

Wie das konkret aussehen kann, zeigt ein Forschungsprojekt zur Analyse von Unfallberichten im europäischen Bahnverkehr. Dort werden Sprachmodelle genutzt, um Informationen aus Texten zu extrahieren, während Wissensgraphen die Ergebnisse überprüfen und einordnen.

Kritisches Denken und der Austausch mit anderen bleiben unverzichtbar

Die Folge wirft außerdem einen Blick auf die Geschichte der Künstlichen Intelligenz und zeigt, dass technologische Entwicklung selten geradlinig verläuft. Immer wieder folgten auf Phasen großer Erwartungen auch Zeiten der Ernüchterung, sogenannte KI-Winter.

Am Ende bleibt eine Frage, die für Axel Polleres besonders wichtig ist: Wen sollen wir eigentlich fragen? Seine Antwort macht deutlich, dass KI zwar ein hilfreiches Werkzeug sein kann, kritisches Denken und der Austausch mit anderen Menschen aber unverzichtbar bleiben.

Weiterführende Informationen

• Axel Polleres: „Was kann Künstliche Intelligenz (noch) (nicht)?“

• Sohi, S., Balan, D., Anjomshoaa, A. & Polleres, A. (2025): Towards Harmonised Rail Safety Knowledge: LLM Techniques for EU Accident Report Processing. Verfügbar unter: https://ceur-ws.org/Vol-4079/short4.pdf

• BilateralAI project