KI-Skeptiker überzeugen? Vom fehlerhaften Modell zum kognitiven Sparringspartner (Mat4280-fzs)

Es gibt viel Kritik an den aktuellen Sprachmodellen der künstlichen Intelligenz, wie ChatGPT oder Google Gemini. Aber die Vorteile sind unbestritten und die Nachteile kann man mit ein bisschen Geschicklichkeit und Überlegung verringern oder sogar ganz ausschließen.

Beschreibung der Grafik für Eilige 😉

  • Ziel ist so etwas wie kognitive Grenzerweiterung! Das heißt, es geht darum, die Grenzen unseres Verstandes, vor allem auch im Hinblick auf die Geschwindigkeit, zu überschreiten.
    —
  • Beginnen wir bei den Problemen bzw. sogar Fehlern, die es bei der KI gibt.
    Da gibt es die sogenannten Halluzinationen. Die KI ist aktuell darauf programmiert, uns in erster Linie zufrieden zu stellen.
  • Da sie keinen menschlichen Verstand hat, macht sie das manchmal auf ganz eigene Art und Weise. Sie liest nicht die Dokumente, die wir ihr mitgegeben haben, sondern sie greift bei einem langen Chat auf frühere Dinge zurück.
    —
  • Das ist aber eine Herausforderung eher an uns Menschen als an die künstliche Intelligenz. Wenn wir uns bemühen, ihre digitale Logik zu durchschauen, können wir so etwas weitgehend verhindern.
  • Dann geht man eben in einen neuen Chat, da gibt es keine alten Reste.
  • Außerdem haben wir gute Erfahrungen damit gemacht, Google Gemini zum Beispiel hinterher zu fragen, warum es diesen Fehler gemacht hat. Man bekommt erstaunlich gute Antworten und kann sich darauf einstellen.
    —
  • Wer das Gefühl hat, dass die künstliche Intelligenz nur die Antworten gibt, die man schon erwartet hat, weil sie in allen Büchern stehen – der sollte einfach gezielt nach Quellen fragen, die in die Richtung der eigenen Vermutungen gehen. Auf diese Art und Weise kann man bei NotebookLM zum Beispiel fernab des Mainstreams die spannenden Randzonen des Wissens ausleuchten.
    —
  • Wirkliche Erkenntnisse ergeben sich auf diesem Weg meistens erst, wenn man immer wieder nachfragt oder nachrecherchieren lässt.
    —
  • Wir nennen das eine relative temporäre Horizontverschmelzung oben rechts zwischen künstlicher und menschlicher Intelligenz.
    • Mit Horizont ist das gemeint, was man aktuell als Erkenntnis im Kopf hat.
    • Verschmelzung bedeutet, dass man sich möglichst einig ist.Also ein gemeinsames Bewusstsein erreicht hat
    • Relativ ist das immer, weil keine Wahrheit ist hundertprozentig.
    • Temporär verweist darauf, dass durch die sich verändernde Zeit immer neue Erkenntnisse hinzukommen – zum Beispiel, weil auch die Rahmenbedingungen sich ändern.
      Der Schriftsteller Max Frisch hat das auf die wunderbare Formulierung gebracht: wir sollten nicht so tun, „als gäbe es Wahrheit ohne Zeit.“
      —
  • Auf jeden Fall ist es schön, dass heutzutage die KI die kognitive Handarbeit übernehmen und uns das „Skelett“ aus globalem Wissen liefern kann.
  • Uns Menschen bleibt die Aufgabe, die Ergebnisse zu überprüfen und richtig einzuordnen und wirklich positiv zu handhaben. Jedenfalls haben wir heute so viele Möglichkeiten über den Tellerrand der Standardlehrwerke hinauszublicken – wie keine Generation vor uns.

Eine Rede an die Gebildeten unter den Skeptikern

Die Grafik oben hat unser Behelfsautor Anders Freistein zusammen mit NotebookLM entwickelt. Basis dafür war ein Text, den er vorher schon geschrieben hatte. Wir präsentieren ihn hier, weil er noch ausführlicher als unsere kurze Beschreibung das zusammenfasst, was hinter dem Schaubild steht.

Vom pragmatischen Nutzen und der Kunst der kognitiven Grenzerweiterung

  • Der aktuelle Diskurs über Künstliche Intelligenz (KI) im Bildungsbereich verharrt oft in einer sterilen Debatte zwischen „Verdummungsgefahr“ und „Arbeitserleichterung“.
  • Dabei wird die eigentlich entscheidende Frage übersehen: Wie nutzen wir diese Technologie als kognitive Prothese, um über den Tellerrand der Standardlehrwerke („Beyond the Books“) hinauszublicken?

Die Grenzen als Startpunkt, nicht als Ausschlusskriterium

  • Kritiker stürzen sich oft auf die offensichtlichen Schwächen der Sprachmodelle: Die Unfähigkeit, lyrische Metren korrekt zu bestimmen, oder die Neigung zu internen Halluzinationen bei längeren Chats.
  • Doch diese Mängel sollten nicht zur Ablehnung führen, sondern zum Verständnis der Werkzeugnatur.
  • Wer begreift, dass Sprachmodelle statistische Muster abgleichen und keine „Wahrheitsmaschinen“ sind, kann ihre Fehler produktiv nutzen.
  • Ein bewährter Weg ist es, sich von der KI selbst erklären zu lassen, wie ein Fehler zustande kam – ein Prozess, der das eigene Verständnis für die Arbeitsweise digitaler Logik massiv schärft.

Der Resonanzraum für Schüler und Lehrkräfte

  • Für Schüler bietet die KI einen bisher ungekannten empathiefreien Schutzraum.
  • Sie fungiert als Sparringspartner, an dem man originelle, gewagte oder noch unfertige Gedanken testen kann.
  • Dies verhindert peinliche Situationen im sozialen Gefüge der Klasse und ermutigt zu einer intellektuellen Wagniskultur.
  • Lehrkräfte wiederum gewinnen einen Sparringspartner, der ressourcenstark auf Argumente eingeht und das eigene Denken durch Reibung ausdifferenziert.

Die Strategie des „gezielten Scheinwerfers“ (Beispiel NotebookLM)

  • Das größte Potenzial liegt in der Steuerung der KI weg vom „Mainstream-Wissen“. Programme wie NotebookLM greifen natürlicherweise zuerst auf das am leichtesten Erreichbare zurück. Hier setzt die menschliche Intelligenz ein:
    —
  • Initialstadium: Die KI liefert Standardantworten (Mainstream).
    —
  • Investigative Phase: Durch präzises Nachfragen und das Einspielen spezifischer Quellen lenkt man den „Scheinwerfer“ der KI in die Randzonen eines Problems.
    —
  • Beispiel: Bei der Analyse historischer Persönlichkeiten (wie Henry Ford) erlaubt erst die gezielte Abfrage von Nuancen – etwa die Unterscheidung zwischen rassistischem Determinismus und gruppenbezogener Feindlichkeit – eine Bewertung, die über das Schulbuchniveau hinausgeht.
    —
  • Die KI wird hier zum Werkzeug, das komplexe historische Graustufen ausleuchtet, statt nur in Schwarz-Weiß-Mustern zu verharren.

 Fazit: Kognitive Erweiterung statt Substitution

  • Die Nutzung von Sprachmodellen führt nicht zur Verdummung, wenn sie als Einladung zum kritischen Nachdenken verstanden wird.
  • Die KI liefert das Skelett aus globalem Wissen; der Mensch muss das Mark der Analyse und die moralische sowie logische Letztprüfung beisteuern.
  • Es ist die Chance auf eine enorme kognitive Breite, die kein menschliches Gehirn allein abdecken kann – vorausgesetzt, man ist bereit, die Weichen selbst zu stellen.

Weitere Infos, Tipps und Materialien?