Wie kann eine Maschine Menschen in Entscheidungsprozessen unterstützen, ohne dass sie das menschliche Denken, Urteilen und Verantworten verdrängt?

Menschen lagern Denken seit jeher nach außen aus: in Notizen, Karten, Bücher, Rechenhilfen, Artefakten, Rituellen, Mitmenschen und Institutionen.

Kognitive Auslagerung ("cognitive offloading") ist deshalb nicht grundsätzlich problematisch.

Problematisch wird sie, wenn das Werkzeug den Aufbau eigener Begriffe, Hypothesen, Urteilskraft, "das Denken" selbst ersetzt.

KI verschärft dieses Risiko, weil sie nicht nur speichert oder rechnet, sondern plausible, funktionierende Antworten erzeugt.

Extremfälle: "cognitive outsourcing" und "deskilling"

HM-Prinzip = Human-Machine Principle = Human intuition precedes Machine confirmation.

Der Mensch formuliert zuerst eine Hypothese, Lösung, Diagnose oder Entscheidung.

Erst danach erzeugt die Maschine unabhängig eine eigene Antwort oder Bewertung.

Die Maschine wird nicht zum Entscheider, sondern zur Bestätigungs-, Irritations- oder Gegeninstanz.

Das Ziel ist nicht bloß richtige Antwortproduktion. Das Ziel ist der Erhalt und die Weiterentwicklung menschlicher Urteilskraft.

Ein Bestätigungorakel ("confirmation oracle") ist ein technisches System, das zu einer menschlich formulierten Hypothese eine eigene, möglichst unabhängig erzeugte Antwort liefert.

Eingabe: Problem, Frage oder Beobachtung.

Human candidate: menschliche Antwort, Hypothese oder Entscheidung.

Machine candidate: maschinell erzeugte Antwort, Klassifikation oder Prognose.

Comparator: Vergleich beider Ergebnisse nach expliziten Kriterien.

Folge: match - vorläufige Bestätigung, mismatch - begründeter Widerspruch oder erneute Recherche.

Das Orakel ersetzt kein Urteil; es strukturiert einen Prüfprozess.

Beim Human-Machine Peer Learning verändern Mensch und Maschine ihre neuronalen Netzwerke im wechselseitigen Lernprozess: das Kind durch Übung, Irrtum und Rückmeldung, die Maschine durch Daten, Training und Anpassung ihrer Erkennungsmodelle.

Ein Kind sieht auf dem Bildschirm die Wörter "der Hund".

Das Kind liest das Wort laut und bildet damit zuerst selbst eine Lösung.

Ein Speech-to-Text-System erkennt die gesprochene Äußerung.

Stimmt die erkannte Äußerung mit dem angezeigten Wort überein, gilt die Aufgabe als vorläufig gelöst.

Match und Nicht-Match sind Lernsignale – sowohl für Kind wie auch für die Maschine.

Übereinstimmung zwischen zwei Antworten ist noch kein Wahrheits- / Gültigkeits- beweis.

Beispiel: Bildschirm: „Hund“; Kind: „Mund“; Speech-to-Text: „Hund“

Match zwischen erwarteten und erkannten Wort – aber nicht mit dem Wort das Kind gelesen hat.

Ein gemeinsamer Fehler bleibt möglich.

4-Augen-Prinzip: Bei unabhängigen Fehlern gilt näherungsweise:

P(gemeinsamer Fehler) = P(Fehler Mensch) × P(Fehler Maschine)

Doppelfehler sind deutlich seltener – aber, inwiefern keiner von den zwei Akteuren kein perfektes Orakel ist - nie ausgeschlossen.

Studierende oder Schüler*innen begegnen einer Pflanze (z.B. 🌼) zunächst als konkretem Lebewesen, nicht als App-Ergebnis.

Sie beobachten verschiedene "Features" (d.g. Blattform, Stängel, Blüte, Standort, Jahreszeit u.s.w.).

Sie entwickeln allein oder mithilfe eines Bestimmungsbuchs eine erste Hypothese (z.B. "Ringelblume").

Erst danach wird eine Anwendung wie Naturblick oder PlantNet konsultiert.

Die App fungiert als Bestätigunsorakel, nicht als Ersatz für botanische Wahrnehmung.

Bei Nichtübereinstimmung wird erneut beobachtet, verglichen und recherchiert.

Der Vergleich kann durch Lehrende, Peers oder dokumentierte Kriterien moderiert werden.

Wie kann eine Maschine meine eigene, begründete Zukunftsentscheidung prüfen, ohne sie für mich zu treffen?

Eigene Intuition: Ich formuliere zuerst meine ideale Antwort auf eine persönliche Zukunftsfrage.

Mehrere Confirmation Oracles: Verschiedene LMs erzeugen eigenständige Antwortvorschläge.

Nachhaltigkeitsbezug: Einige Modellen sind an den Sustainable Development Goals ausgerichtet.

Vergleich: Die Nähe zwischen meiner Antwort und den Modellantworten wird semantisch berechnet.

Als Nächstes: Sustainable AI? Aligned in Franken! – was geschieht, wenn nachhaltigkeitsorientierte lokale KI auf eine persönliche Zukunftsentscheidung trifft?

KI-gestützte Entscheidungen werden nicht dadurch gut, dass Maschinen Antworten erzeugen – sondern dadurch, dass Menschen ihre eigenen Antworten bewusst prüfen lassen.

Kognitive Auslagerung: nachhaltig nur wenn sie Urteilskraft erweitert statt ersetzt.

HM-Prinzip: Human intuition precedes machine confirmation.

Bestätigungsorakel: Die Maschine erzeugt eine eigenständige Gegenantwort oder Prüfung.

4-Augen-Prinzip: Zwei fallible Prüfungen machen Doppelfehler seltener.

Orakel-Fall: Ist eine Prüfinstanz in einem domänspezifischen Bereich (z.B. Pflanzenbestimmung) zuverlässig entscheidend, kann sie einen Fehler ausschließen.