ChatGPT-Grundproblem: Datenstrom statt Lebenswelt - gezeigt am Verständnis eines Romanzitats
May 3, 2025
🎓 Für Schülerinnen und Schüler
Was passiert, wenn man ChatGPT eine scheinbar einfache Frage zu einer Figur im Roman *Nach Mitternacht* stellt – und plötzlich merkt, dass die Antwort irgendwie nicht passt?
---
In diesem Video erfährst du:
Wer Herr Kulmbach ist – und warum Sanna ihn für gefährlich hält
Was genau in der Kneipenszene passiert – mit Gerti, Pielmann und Sanna
Wie eine Künstliche Intelligenz den Text anders liest als du
Warum man nie blind übernehmen sollte, was die KI sagt – selbst wenn es sich klug anhört
---
Besonders spannend: Am Ende wird sogar deutlich, wie du selbst in wenigen Schritten solche Fehler erkennen und klären kannst.
---
📘⚙️ Für Lehrkräfte
Dieses Video eignet sich ideal zur Einführung in zentrale Themen des Romans *Nach Mitternacht* – und zum Gespräch über den reflektierten Einsatz von KI im Literaturunterricht.
Es zeigt exemplarisch:
Wie eine literarische Figur (Kulmbach) aus dem Kontext heraus interpretiert werden kann
Wo Sprachmodelle wie ChatGPT zu Fehldeutungen neigen – und warum das didaktisch aufschlussreich ist
Wie sich Analysekompetenz, Perspektivbewusstsein und KI-Verständnis verbinden lassen
Show More Show Less View Video Transcript
0:01
ja zurzeit beschäftigen wir uns mit dem
0:03
Roman Nach Mitternacht von Irmgard Coin
0:07
den muss man nicht kennen aber es lohnt
0:09
sich mit uns gemeinsam mal eine
0:11
Erfahrung zu rekonstruieren die wir
0:13
heute bei einem Zitat aus diesem Roman
0:16
gemacht haben und zwar haben wir dabei
0:18
ein Grundproblem von Chet GPT äh
0:22
festgestellt das wohl für alle äh KI
0:26
Sprachmodelle äh gilt und das
0:28
Interessante war wir konnten darüber
0:29
auch mit ChatGPT dann diskutieren und am
0:32
Ende hat ChatGPT uns sogar die
0:34
Zusammenfassung seines eigenen Problems
0:37
beschrieben und das fanden wir sehr
0:38
schön und für alle die sich dafür
0:40
interessieren in welchem Verhältnis denn
0:42
nun die äh künstliche und die
0:44
menschliche Intelligenz stehen könnte
0:46
das so ein bisschen helfen äh wir haben
0:49
das auf den einfachen Gegensatz gebracht
0:52
der Datenstrom der KI schafft eine
0:55
bestimmte Art von Intelligenz und dem
0:58
gegenüber steht die Lebenswelt
1:01
Intelligenz des einzelnen Menschen in
1:04
seiner Sprachgemeinschaft schauen wir
1:06
uns das mal jetzt an
1:08
hier oben haben wir äh zunächst
1:12
einmal die Angabe um welchen Roman es
1:15
sich handelt und wie man an den kommen
1:17
kann und so weiter ist ein Roman der
1:19
1937
1:21
entstanden ist und eben heute äh in dem
1:24
ein oder anderen Bundesland auch äh
1:26
gelesen wird abiturlektüre ist und wir
1:28
haben aus der Ebook Ausgabe aus den
1:31
Seiten 6 bis 9 äh einige Textstellen
1:34
herausgelöst die man kurz kennen sollte
1:37
um den Rest einfach zu verstehen für uns
1:40
war die Geschichte ganz klar äh hier
1:43
oben haben wir zunächst mal äh die
1:46
Icherzählerin die in Ruhe in einer
1:48
Kneipe ein Bier trinken will und dann
1:50
mit dem Wort Weltanschauung konfrontiert
1:54
wird und das ist ja Naziseit die Nazis
1:56
sind ja so trauinteressierende Macht
1:57
gekommen und in den Jahren danach spielt
2:00
das entsprechend in Deutschland und sie
2:02
ist mit ihrer Freundin Gert in einer
2:05
Kneipe und die fängt an einen SA Mann zu
2:09
reizen man muss wissen die SA das war
2:11
die Kampftruppe
2:13
aus der Zeit vor 1933 die auch dann da
2:17
ein gewissen Stolz für sich da
2:19
rausgezogen haben und jetzt fängt sie an
2:22
diesen Smann zu reizen äh weil sie ihn
2:25
vergleicht mit den Reichswehrleuten das
2:27
war die ordentliche Armee äh damals und
2:30
die hatten ihrer Meinung nach schönere
2:31
Uniformen und so weiter und das macht
2:33
diesen Mann ganz äh fertig und dann
2:36
heißt es hier plötzlich ganz krank sieht
2:38
er aus
2:39
und der ist auch extra hier
2:42
nach Frankfurt gefahren hat also vor
2:44
drei Tagen noch einen Stern bekommen
2:45
also eine Auszeichnung und ist heute von
2:48
Würzburg nach Frankfurt gefahren um
2:49
diese Gerti zu sehen anscheinend kann er
2:51
sie gut leiden und er möchte auch den
2:54
Führer sehen also Hitler der zu dem an
2:56
dem Tag eben in Frankfurt äh ist äh das
3:00
spielt aber hier weiter keine Rolle
3:01
außer dass das auf ihn eben und andere
3:04
ganz positiv wirkt und sie will jetzt
3:07
die ich erzähle eine Runde Bier
3:08
bestellen äh und vor allen Dingen um
3:11
abzulenken sie möchte also dass andere
3:13
Leute vor allen Dingen ein Herr Kulmbach
3:16
äh nicht mitbekommt äh was äh die Gert
3:19
da veranstaltet und dass sie da auch
3:21
Dinge erzählt äh die man aus
3:23
Naziperspektive nicht so gerne äh hört
3:26
äh und ähm dann sagt sie ja auch ich
3:28
wollte nicht gerne dass Herr Kulmbach
3:30
hört wenn die Gert so gefährlich mit dem
3:33
Kurt Pielmann der Sann spricht und darum
3:35
erzähle ich ihm einfach drauf los wie es
3:38
gerade kommt nur um ihn abzulenken mit
3:40
dem einen Ohr höre ich meine lauten
3:43
Worte und mit dem anderen Ohr höre ich
3:45
den Krach kommen zwischen Gert und
3:47
Pielmann ja und dann wird auch deutlich
3:50
äh dass dieser ähm Kulmann oder wie der
3:53
da heißt Kulenbach schon äh etwas mit
3:56
Hitler zu tun hat mit der Naziebewegung
4:00
äh denn es heißt im folgenden ähm auf
4:02
unseren Führer und ein wunderbarer Tag
4:06
war das heute zu dem Zeitpunkt ist diese
4:08
Veranstaltung Hitler schon gewesen das
4:10
geht ein bisschen durcheinander in dem
4:11
Roman das macht aber für unseren
4:13
Zusammenhang auch nichts und es war ein
4:14
einzigartiges Erlebnis für die
4:16
Frankfurter Bevölkerung und dann gucken
4:18
wir noch SS Leute das waren die noch
4:20
gefährlicheren Leute neben der SA in der
4:23
Nazizeiteit gucken schon rüber und
4:24
machen auch Prost und so weiter jetzt
4:26
muss man sehr sehr vorsichtig sein jetzt
4:28
ist die Aufmerksamkeit da ja auch ein
4:30
bisschen da und ich weiß nicht recht ob
4:33
sie die Gert meinen mit dem Prost oder
4:34
den Führer gut so stellt die ich
4:36
Erzählerin sich immer ein bisschen
4:37
vielleicht sind sie betrunken und meinen
4:39
die ganze Welt und dann kommt auch der
4:40
Hinweis darauf dass man damals nicht
4:43
viel Hat von Juden schon gar nicht
4:45
Sozialdemokraten auch nicht Russen auch
4:47
nicht Kommunisten auch nicht und
4:48
Franzosen auch nicht wegen der
4:50
Niederlage aus dem ersten Welt das sind
4:51
die ganzen Feindbilder und dann äh von
4:54
kommt eine lange Passage und dann ist
4:56
die Gefahr auch vorbei sie erzählt
4:58
nämlich dem Herrn Kulmbach da ihre ganze
5:02
Lebensgeschichte so das ist also hier
5:04
das was da abläuft und man versteht
5:07
gleich als Mensch die Icherzählerin ist
5:10
in einer problematischen Situation
5:12
Naziumgebung und sie sieht dass ihre
5:14
Freundin da anfängt
5:17
einen Smann zu reizen und um zu
5:20
verhindern dass andere das mitbekommen
5:21
und besonders dieser möglicherweise noch
5:23
gefährlichere Herr Kulmbach ein
5:25
richtiger
5:27
Naziferehrer fängt sie an da alles
5:29
mögliche zu erzählen einen auszugeben
5:31
und so weiter man merkt deutlich dieser
5:33
Herr Kulenbach
5:34
interessiert sich sehr für den Führer
5:36
und dann fragt man einfach
5:39
sich was da für eine Beziehung auch
5:41
herrscht ob der eine andere Rolle spielt
5:43
im weiteren Verlauf des Romans und dann
5:46
fragt man einfach die KI und dann
5:49
passiert etwas was wir jetzt hier die KI
5:52
haben zusammenfassen lassen das kann sie
5:55
nämlich sehr gut und das konnten wir
5:57
auch dann verwenden hier aber in dieser
6:00
Zusammenfassung steckt die ganze
6:02
Problematik auf die wir hinaus
6:07
wollen so kommen wir jetzt mal zu dem
6:10
was die KI hier anschließend
6:13
zusammengefasst hat nachdem äh sie uns
6:16
ihre Darstellung geliefert hat und wir
6:18
fanden die nicht so ganz richtig und
6:20
dann haben wir darüber diskutiert und
6:21
sind auch zu einem Ergebnis gekommen sie
6:24
stellt das also stellt das aus meiner
6:27
Perspektive da und darum heißt es hier
6:30
am Anfang ne ich habe das erste Kapitel
6:33
gelesen die Sorge von Sanna angesichts
6:36
eines Mannes namen Kulenbach schien mir
6:39
nachvollziehbar und klar motiviert so
6:41
wir es eben dargestellt haben kulmbach
6:43
wirkte auf mich wie eine schlüssige
6:44
Figur war begeistert vom Besuch Hitlers
6:46
fühlte sich aufgewertet dass er da ein
6:48
bisschen was tun durfte an der
6:50
Absperrkette und ist regelrecht
6:52
vitalisiert also hat zu einem größeren
6:55
Lebensbewusstsein ähm gefunden und ist
6:58
richtig begeistert und jetzt habe ich
7:00
eben drauf hingewiesen schon dann habe
7:01
ich die Frage gestellt ob dieser Mann im
7:03
weiteren Verlauf noch eine Rolle spielt
7:05
und ob er eine bestimmte Funktion im
7:07
System einnimmt und jetzt geht's los
7:10
also das ist hier jetzt praktisch der
7:12
Fehler den die KI macht jgpt antwortete
7:16
höflich und bemüht differenziert aber
7:19
aus meiner Sicht auch noch irreführend
7:22
kulenbach wurde als ambivalente Figur
7:24
eingeordnet also jemand der so zwischen
7:26
den Welten schwang zwischen Hitler oder
7:28
auch nicht Hitler als möglicher
7:30
Mitläufer der nur mitmacht oder ironisch
7:33
gebrochene Erscheinung äh was alles
7:37
überhaupt nicht übereinstimmt mit dem
7:38
was wir eben festgestellt haben der ist
7:39
ja voll begeistert von Hitler und fühlt
7:42
sich da vitalisiert und so weiter darum
7:44
heißt es hier auch das irritierte mich
7:47
als menschlichen Nutzer da ich keine
7:49
Anzeichen für die Vieldeutigkeit im Text
7:51
gefunden hatte also fragte ich nach und
7:53
prüfte genauer woher diese Lesart der KI
7:56
denn nun kommen könnte und das fasst
7:59
jetzt Chat GVT sehr einsichtig so
8:01
zusammen als meine
8:03
Erkenntnis das habe ich natürlich
8:05
rausgefunden dann irgendwann die KI hat
8:08
den Tonfall der Erzählstimme also Sanna
8:11
ich erzählerin ironische Distanz die hat
8:14
das nämlich durchaus irrtümlich der
8:16
Figur selbst zugeschrieben diesem
8:18
Kulbach kulbach selbst aber spricht
8:20
nicht ironisch nicht zwielichtig er
8:23
glaubt an das Regime und ist davon
8:25
überzeugt und jetzt kommt der
8:27
entscheidende Punkt diese falsche
8:29
Annahme der KI entstand durch das
8:32
Zusammenfügen isolierter Texteile zu
8:35
einer stimmig wirkenden Interpretation
8:38
ohne deren reale Narrative gemeint ist
8:42
damit der Erzählzusammenhang so wie wir
8:45
ihn eben entwickelt haben ohne diese
8:47
Funktion zu erkennen das ist der
8:49
entscheidende Punkt so arbeitet die KI
8:52
wir werden da gleich noch genauer drauf
8:53
eingehen und damit haben wir eine
8:55
typische Schwäche von Sprachmodellen sie
8:58
operieren
9:00
Datenbasiert und verknüpften
9:02
Informationen durchaus clever und
9:04
meistens auch recht überzeugend aber und
9:06
jetzt kommt der entscheidende Punkt sie
9:08
denken nicht wie Menschen sie spüren
9:11
keine Gefahr keine Dramaturgie keine
9:13
implizite also eingebaute Beziehung
9:16
zwischen Figuren und das ähm bezeichnen
9:20
wir immer als Lebenswelt das heißt bei
9:23
Menschen sieht das so aus und das haben
9:25
habe ich dann der KI versucht ein
9:27
Beispiel eines Kneipenbesuchs zu
9:29
erklären in der unbekannten Umgebung man
9:31
checkt die Leute kurz man das eine
9:33
gefährliche Ecke vielleicht sogar äh wer
9:36
ist harmlos wer ist gefährlich und dann
9:38
schaut man sich den Wirt an hängt der
9:40
Wirt vielleicht irgendwie zusammen mit
9:42
irgendwelchen Leuten oder ist ja eine
9:44
neutrale Person an die man sich gegeben
9:46
was auch wenden könnte wenn es hier ein
9:48
bisschen gefährlich äh ist und wie
9:50
verändert sich die Lage durch das
9:52
Gespräch alles das sind äh Dinge wo bei
9:55
einem Menschen eine Menge abgeht in
9:57
seiner Lebenswelt
9:59
jetzt stellt die KI wieder fest solches
10:01
Denken in Beziehungen Blickachsen was in
10:04
den Blick kommt und Rollenverständnis
10:07
Roll des Wirts z.B kann ein Sprachmodell
10:10
bislang nur simulieren aber nicht
10:13
wirklich nachvollziehen es kann sich
10:15
nicht in die Situation hineinversetzen
10:18
weil es eben kein Mensch ist keine
10:20
Gefühle hat und auch natürlich keine
10:22
Erfahrungen hat ja die helfen ja auch
10:25
beim Verständnis einer Textstelle und
10:27
dieses Beispiel zeigt deutlich stellt
10:30
dann die KI selbstkritisch fest Mensch
10:32
und Maschine haben unterschiedliche
10:33
Stärken das sehen wir durchaus die
10:35
Stärke ist ja z.B diesen ganzen Ablauf
10:38
hier so zusammengefasst zu haben dass
10:40
ich den hier eben präsentieren kann ohne
10:43
ihn noch mal selbst zusammenstellen zu
10:45
müssen das macht ihr ganz gut so
10:48
unterschiedliche Stärken
10:49
unterschiedliche Risiken auch wer mit
10:51
KIS arbeitet muss ihre Begrenzungen
10:53
kennen um nicht Opfer ihrer scheinbaren
10:56
Kompetenz zu werden wer also einfach
10:58
diese Ambivalenzgeschichte da bei dem
11:00
einfach hier kopiert und dann irgendwo
11:03
weitergibt als Schüler wegen beim Lehrer
11:05
oder so wird dann mit der kritischen
11:07
Frage konfrontiert werden ja wo ist der
11:09
denn überhaupt ein bisschen zwielichtig
11:11
unklar und dann kommt man in
11:13
Schwierigkeiten und am Ende heißt es:
11:15
"Aha stammt wohl von der KI und das hört
11:18
sich dann nicht gut an." Jetzt der
11:20
positive
11:21
Nebeneffekt solche Irrtümer der KI
11:23
machen den menschlichen Leser wacher und
11:26
darum erzählen wir das eigentlich hier
11:28
um das deutlich zu machen damit man eben
11:31
kritisch damit umgeht äh immer wieder
11:33
auf den Text
11:35
achtet wenn man den überhaupt nicht
11:37
gelesen hat dann ist Chat GPT ein sehr
11:38
gefährlicher
11:40
Partner und ein besseres Verständnis für
11:44
Erzählhaltungen ja ja hier das haben wir
11:46
im Narrativ und so weiter das spielt ja
11:48
eine Rolle wenn die Ergebnisse aus
11:51
diesem Dialog irgendwann auch in die
11:52
Weiterentwicklung des Modells einfließen
11:54
damit rechnen wir ja z.B dass dieses
11:57
Video wenn wir wichtig genug sind eines
11:59
Tages ne für die KI dann wird sie diese
12:02
Dinge natürlich einfließen lassen daraus
12:04
lernen bis jetzt ist das ja angeblich so
12:06
dass die KI alles vergessen muss
12:08
hinterher wenn wir den Chat schließen
12:11
aber unabhängig davon hilft mir als
12:13
Mensch diese Erfahrung auch künftige KI
12:16
Antworten wacher und reflektierter
12:19
einzuordnen wir halten also noch einmal
12:21
fest hier im Verständnis des linken
12:24
Teils hier war die KE sehr schwach eben
12:27
aufgrund ihrer völlig anderen Denkweise
12:29
auf die wir leider noch kurz reingehen
12:31
werden aber hier im Bereich der
12:32
Zusammenfassung rechts kann man nur
12:34
einfach sagen: "Wow das ist eine gute
12:37
Vorarbeit die man nur noch ein bisschen
12:39
abändern ergänzen muss und dann kann man
12:42
das verwenden." Ja kommen wir jetzt zur
12:44
Auswertung ne unser Zusammenfassung wie
12:47
ist der aktuelle Stand des
12:49
Verständnisses der Gemeinsamkeiten und
12:51
Unterschiede zwischen der KI und wir
12:53
haben eben mit Chat GPT gearbeitet und
12:56
MA MIA menschliche Intelligenz in Aktion
13:00
wir müssen eben äh aktiv werden und das
13:02
heißt eben auch kritisch mit äh dem
13:05
umgehen was die KI uns liefert und bei
13:08
der KI haben wir eben diese gigantischen
13:10
Trainingsdaten dazu auch noch die Daten
13:12
des Internets ähm und äh das Ganze ist
13:16
auf ein Sprachmodell programmiert worden
13:18
was man als Leihe da natürlich nur
13:21
anerkennen muss dass es dazu in der Lage
13:24
ist äh kann also menschliche Sprache
13:26
interpretieren und Antworten generieren
13:29
und darum sprich ich ja meistens auch
13:30
von generativen
13:33
Sprachmodellen und wir haben dann mal
13:34
Perplexity einfach mal gefragt eine
13:36
andere ein anderes Sprachmodell ähm das
13:39
also ziemlich gut ist was die Präzision
13:41
der Antworten ähm angeht und äh da haben
13:44
wir jetzt folgendes rausgezogen die KI
13:46
ist auf Muster von Wörtern und Sätzen
13:48
trainiert und die KI Modelle berechnen
13:52
immer die Wahrscheinlichkeit des
13:54
nächsten Wortes auf der Basis des
13:57
bisherigen Kontextes ja was ist jetzt
13:59
eigentlich das wahrscheinlichste Wort an
14:01
dieser Stelle das kann man sie als
14:02
Menschen kaum vorstellen aber wir können
14:04
uns auch die Millionen von Jahren der
14:06
Evolution nicht vorstellen bei denen das
14:08
menschliche Auge entstanden ist damit
14:10
müssen wir einfach leben wir haben aber
14:12
auch schon mitbekommen dass die KI zum
14:15
Teil dann Dinge vergisst die wir für
14:19
wichtig halten und das ist eben der
14:21
Unterschied wir verfügen über
14:25
Sprache so über Sprache und das
14:27
entsprechende Verständnis und wir gehen
14:30
aus von eigenen Erfahrungen mit der
14:32
Kneipe z.B ne wer schon mal in der
14:34
Kneipe gewesen ist in der fremden Gegend
14:36
oder zu einer Fäe geht der checkt
14:38
erstmal das Ganze ab und zieht seine
14:39
Konsequenzen daraus auf der Basis
14:41
bisheriger Erfahrungen und auch
14:43
Konnotationen spielen dabei eine Rolle
14:45
es geht ja hier um einen Roman und bei
14:48
einem bestimmten Wort wie Weltanschauung
14:50
z.B da gibt es unterschiedliche
14:53
Verständnisvarianten auch wenn man
14:54
grundsätzlich weiß was damit gemeint ist
14:57
vor allen Dingen kann der Mensch
14:59
natürlich auch aktuelle Elemente mit
15:01
einbeziehen ähm und so dass wir
15:04
insgesamt einfach sagen die Lebenswelt
15:07
das ist der große Vorteil äh des
15:11
Menschen äh alles das was er in
15:13
Erfahrung gesammelt hat gelesen gehört
15:15
hat und so weiter alles das fließt in
15:17
sein Verständnis ein und die KI hat eben
15:21
ihren Daten Strom hier äh und die
15:25
Programmierung aber das ist immer äh der
15:28
Stand der schon da ist und wir bemühen
15:31
uns ja hier immer auch ein bisschen
15:32
Beyond the Books zu gehen das heißt über
15:34
die Bücher den aktuellen Stand
15:36
hinauszugehen und darum macht es uns
15:38
auch so viel Spaß solche Dinge mal
15:40
aktuell auszuprobieren und wir gehen mal
15:42
davon aus dass diese spezielle Stelle
15:44
und unsere Auswertung bisher noch
15:46
nirgendwo existiert das heißt die KI
15:49
kann davon nichts wissen aber das könnte
15:50
sich eines Tages ändern aber bis dahin
15:53
haben wir uns schon wieder neue Dinge
15:55
einfallen lassen wie immer legen wir die
15:58
Dokumentation hier ab ne dort gibt es
16:00
dann auch Aktualisierungen eventuell die
16:02
Korrektur von Fehlern wenn wir darauf
16:04
aufmerksam gemacht werden oder wir es
16:05
selbst merken ähm diese URL hier die
16:09
wird hier bei den Infos zum Video
16:10
abgelegt und hier oben dann auch äh im
16:13
Abspannen äh sag man da leicht drauf
16:15
zugreifen äh kann wir freuen uns
16:17
natürlich über Fragen und Anregungen in
16:19
den Kommentaren denn auch dadurch werden
16:21
wir natürlich schlauer hoffen wir
16:23
zumindest äh und wir würden uns freuen
16:26
wenn unser Kanal schnell durchblicken
16:28
abonniert wird abonniert bleibt und auch
16:30
andere darauf aufmerksam gemacht werden
16:32
wobei uns natürlich klar ist dass viele
16:34
Leute einfach die KI nur nutzen wollen
16:37
aber sie können dann zumindest dem hier
16:39
entnehmen dass man äh in bestimmter
16:42
Hinsicht vorsichtig sein muss weil die
16:44
KI einfach äh etwas macht ä dass er aus
16:48
vorhandenen Daten etwas zusammenstellt
16:50
auf andere Art und Weise als wir das tun
16:52
und das könnte dann gegebenfalls sein
16:53
dass ein anderer Mensch oder auch die
16:55
Lehrkraft dann z.B unangenehme Fragen
16:57
stellt weil sie menschlich dann mit der
16:59
Frage umgeht und wir haben die KI
17:01
einfach nur genutzt da sollte man also
17:03
vorsichtig sein wir wünschen auf jeden
17:05
Fall viel Erfolg m
#Books & Literature
#Literary Classics
#Education

