Was KI gut kann — und wo sie scheitert

Fangen wir mit den Stärken an, denn die sind echt: KI ist richtig gut darin, mit Sprache zu arbeiten. Texte formulieren, umschreiben, kürzen, zusammenfassen, übersetzen, Ideen sammeln, Sachen erklären, Entwürfe strukturieren. Alles, wo es um das Umformen und Erzeugen von Text geht, geht schnell und geduldig. Jetzt die Schwäche, die du kennen musst: Fakten, Zahlen, Namen, Daten und Quellen. Hier passiert das, was man „Halluzination" nennt — die KI erfindet Angaben, die plausibel klingen, aber schlicht falsch sind. Ein ausgedachtes Zitat, eine erfundene Studie, eine falsche Jahreszahl, ein Paragraf, den es gar nicht gibt. Der Grund ist genau das aus der letzten Lektion: Die KI schlägt nicht nach, sie setzt Wahrscheinlichkeiten fort. Eine erfundene Quelle „sieht richtig aus", weil das Modell gelernt hat, wie richtige Quellen aussehen — nicht, ob diese eine wirklich existiert. Dazu kommen weitere Grenzen: Das Wissen der KI reicht nur bis zu einem bestimmten Trainingsstand, topaktuelle Ereignisse kennt sie oft nicht. Sauberes Rechnen ist nicht ihre Stärke. Und deine internen Firmendaten kennt sie sowieso nicht — außer, du gibst sie ihr. Faustregel für den Alltag: Alles, was überprüfbar und wichtig ist — Zahlen, Namen, Rechtliches, Fakten — kontrollierst du gegen. Die KI liefert den Entwurf, du sorgst für die Wahrheit.