Was ist Source Credibility bzw. Quellenglaubwürdigkeit? (Definition)
Der Begriff Source Credibility bezeichnet die Glaubwürdigkeit und Vertrauenswürdigkeit einer Informationsquelle. Bei KI-gestützten Systemen und Chatbots wie ChatGPT oder Google AI Mode beschreibt er insbesondere, wie vertrauenswürdig und qualitativ hochwertig die Quellen eingeschätzt werden, auf denen die generierten Antworten oder Zusammenfassungen basieren.
Da Sprachmodelle (LLMs) Informationen weder selbst recherchieren noch wie ein Mensch verstehen können, spielt bei generativer KI die Source Credibility eine zentrale Rolle. Sie müssen Inhalte aus großen Datenmengen ableiten und Wahrscheinlichkeiten berechnen. Damit die Antworten der KI möglichst korrekt und vertrauenswürdig sind, müssen die Systeme in der Lage sein, hochwertige, seriöse und fachlich belastbare Quellen zu identifizieren.
KI-Suchsysteme und Chatbots analysieren dafür verschiedene Signale:
- Reputation einer Website
- Fachliche Expertise von Autoren (z. B. Autorenprofile)
- Wissenschaftliche Referenzen
- Aktualität von Informationen (z. B. Veröffentlichungsdatum)
Im Gegensatz zu klassischen Suchmaschinen liefern KI-Systeme oft direkte Antworten statt Linklisten. Dadurch sehen Nutzer oft nicht mehr unmittelbar, aus welchen Quellen die Informationen stammen oder wie belastbar sie tatsächlich sind.
Die Glaubwürdigkeit von KI-Antworten ist trotzdem nicht automatisch gewährleistet. LLMs können sogenannte Halluzinationen erzeugen und somit erfundene, ungenaue oder sachlich falsche Aussagen formulieren. Zusätzlich übernehmen KI-Systeme teilweise Verzerrungen aus ihren Trainingsdaten (z. B. politische, kulturelle oder gesellschaftliche Vorurteile). Selbst seriöse Quellen können von KI falsch interpretiert oder unvollständig zusammengefasst werden.
Insbesondere in sensiblen Bereichen wie der Medizin, dem Recht, der Wissenschaft oder der Politik sollten KI-generierte Antworten deshalb stets kritisch überprüft und mit vertrauenswürdigen Primärquellen abgeglichen werden.
Source Credibility ist daher einer der wichtigsten Faktoren für die Qualität, Sicherheit und Verlässlichkeit von KI-Such- und Antwortsystemen.
