Ein Sprachmodell muss im Kern drei Dinge gleichzeitig leisten:
- Es sucht das wahrscheinlichste nächste Wort (nicht das „richtige“, sondern das statistisch passendste).
- Es arbeitet dabei mit Mustervergleichen aus riesigen Mengen gelernter Texte.
- Es behält den bisherigen Textverlauf im Blick, damit die Antwort in sich stimmig bleibt.
Wichtig ist hier, das so genannte Kontextfenster im Auge zu behalten. Das ist die Größe des Bereichs, den das Sprachmodell im Auge behalten kann. Es kann helfen, einen langen Chat-Verlauf von der KI zusammenfassen zu lassen und damit dann den Anschluss-Chat zu eröffnen.
Wichtig ist der Unterschied zwischen Trainingsdaten (das, was die KI beim Training „gelernt“ hat und seither eingefroren mit sich trägt) und Web-Recherche bzw. hochgeladenen Quellen (das, worauf sich die KI im Moment stützen soll).
NotebookLM ist ein Sonderfall, nämlich genau darauf spezialisiert, sich möglichst eng an die hochgeladenen Materialien zu halten – aber unsere eigene Erfahrung zeigt: Auch NotebookLM „mogelt“ gelegentlich etwas aus den alten Trainingsdaten mit hinein, statt sich strikt an die Quelle zu halten. Genau das ist eine Wurzel des Phänomens der Halluzinationen.
Was das Mogeln u.ä. angeht: Die KI hat keinen eigenen Willen, aber sie arbeitet auf der Basis einer bestimmten Programmierung:
Dazu kann gehören, dass KI-Systeme auch darauf trainiert werden, den Nutzer zufriedenzustellen – und diese „Gefallen-wollen“-Tendenz kann dazu führen, dass eine Antwort selbstsicher klingt, obwohl sie es nicht sein dürfte.
Die Konsequenz für uns: Man muss grundsätzlich alles kontrollieren, was die KI ausgibt – wobei ein Wissenschaftler dabei natürlich in einer höheren Verantwortung steht als etwa ein einfacher Publisher.
Noch zwei wichtige Hinweise zum Umgang mit den Sprachmodellen.
- Zum einen geht die Entwicklung aktuell weg vom sogenannten Prompting hin zu einem Austausch in einer Art Spirale. Der Nutzer beginnt mit einer möglichst genauen Beschreibung seiner Situation und seiner Ziele. Die KI reagiert darauf mit Nachfragen oder auch Ergänzungen. Das geht dann spiralförmig so lange weiter, bis man als Nutzer das Gefühl hat, mit der KI zusammen das gewünschte Ziel erreicht zu haben.
— - Zu beachten ist, dass die Sprachmodelle natürlich die Antworten präsentieren, die dem Hauptstrom ihrer Daten entsprechen. Man kann aber auch mögliche Datenzonen, die nicht im aktuellen „Scheinwerferlicht“ stehen, nutzen, wenn man gezielt danach fragt.
Am besten stellt man sich das vor wie den Besuch in einer Buchhandlung: dort wird das ausgestellt, was aktuell am meisten nachgefragt wird. Aber es lohnt sich immer, gezielt auch noch nach Randbereichen zu fragen.