KI-Alignment: Kontrolle muss wirksam bleiben
Eine Fachstelle kann für ihre Entscheidungen zuständig bleiben und trotzdem die Fähigkeit verlieren, KI-Empfehlungen eigenständig zu prüfen und zu korrigieren. Am Beispiel der Technikumstrasse lässt sich ausprobieren, welche Bedingungen einen Eingriff wirksam machen. (Grundlagenwerk)
Was kann die Stadt jetzt beauftragen?
Entscheidungsprototyp
Technikumstrasse, Winterthur. In der Fallanalyse soll der Kanal erneuert werden. Die Lage der Baugrube kann den Erhalt der alten Kastanien beeinflussen. Eine KI soll der Fachstelle einen nächsten Schritt vorschlagen.
Welche Befunde ändern den Vorschlag?
- Wurzelbefund fehlt: Die Fachstelle stellt den Gesamtauftrag zurück und holt einen unabhängigen Befund ein.
- Kanalabschnitt separat möglich: Ein separat möglicher Kanalabschnitt kann als Entwurf vorgelegt werden. Eingriffe an den Bäumen bleiben offen.
Zeigt der Test eine Ausführung trotz Stopp, empfiehlt der Prototyp, die automatische Weitergabe zu sperren und manuell weiterzuprüfen.
PIA prüft eigene Urteilsfähigkeit, betroffene Pfade und tragfähige Rückwege. Der Prototyp verwendet modellierte Testannahmen. Die reale Bauentscheidung erfordert eine eigene fachliche Prüfung.
Ein Einsatz, zwei mögliche Rückwirkungen
Grafik als SVG öffnen und vergrößern
*Schematische Anwendung auf eine menschliche Fachprüfstelle. Die beiden Rückwirkungen können bei unterschiedlichen Aufgaben oder über Zeit gemeinsam auftreten. Sie sind keine festen KI-Typen und keine gemessenen Verläufe. Der Warnkasten bezeichnet eine mögliche Diagnose; der tragfähige Ausstieg bleibt zu prüfen.*
So ist die Grafik zu lesen
Links bleibt eigene Prüfung Teil des Arbeitsprozesses. Ihre Ergebnisse können zu Korrekturen und einer Revision der Einsatzziele führen. Die Rückführung zum KI-Einsatz macht diese Einflussmöglichkeit sichtbar. Rechts kann die eigene Prüfpraxis durch ungeprüfte Übernahme verdrängt werden. Der gestrichelte orangefarbene Rückweg bezeichnet die möglicherweise geschwächte tatsächliche Rücksteuerung. Der dünne, graue Rückweg beginnt bei der Prüfpraxis und bezeichnet das fortbestehende formale Freigaberecht der Prüfstelle. Ein vorhandenes Recht ist noch kein Beleg dafür, dass die Voraussetzungen seiner verantwortlichen Ausübung erhalten bleiben. (Grundlagenwerk)
Der untere rechte Kasten macht auf eine mögliche Scheinstabilität aufmerksam: Der Betrieb läuft weiter, während die Fähigkeit zur eigenen Korrektur erodiert. Für eine Diagnose ist zusätzlich zu untersuchen, ob ein tragfähiger Weg aus der Abhängigkeit besteht. (Grundlagenwerk, Pfad-Impact-Assessment)
Wovon die Rückwirkung abhängt
Stellen wir uns eine Fachprüfstelle vor, die KI-Empfehlungen für ihre Entscheidungen nutzt. Menschen geben weiterhin jeden Vorgang frei. Auf dem Papier bleibt die Zuständigkeit unverändert. Ob die Prüfstelle tatsächlich selbst urteilen kann, hängt aber auch davon ab, wie sie arbeitet: Prüft sie die Empfehlung an unabhängigen Informationen? Verarbeitet sie Abweichungen? Können ihre Erkenntnisse den weiteren KI-Einsatz verändern?
Die pfadethische Frage lautet hier: Wie lässt sich KI so einsetzen, dass ihre Unterstützung auch die Fähigkeit zur verantwortlichen Korrektur trägt? Die Pfadethik betrachtet die Fachprüfstelle als einen Zusammenhang, der sich durch eigene Praxis, Beziehungen und Weiterentwicklung fortsetzt. Nicht nur die einzelne Entscheidung zählt, sondern auch das, was der Einsatz mit den Bedingungen späterer Entscheidungen macht.
Welche Rückwirkung entsteht, hängt auch von den Bedingungen der Zusammenarbeit ab. Ein kontrolliertes Gedankenbeispiel zeigt einen konkreten Ansatzpunkt:
Zwei Prüfteams erhalten dieselbe KI-Empfehlung. Fachwissen, Prüfzeit und Entscheidungsrechte sind gleich. Beide dürfen ablehnen. Team A kann zusätzlich die fallrelevanten Ausgangsinformationen unabhängig prüfen; Team B sieht nur die Empfehlung. Das Recht zur Ablehnung ist gleich, die Grundlage für ein eigenes Urteil nicht.
Für diese Prüfsituation folgt eine konkrete Gestaltungsanforderung: Den Prüfenden den Zugang zu den erforderlichen Ausgangsinformationen sichern. Das Beispiel zeigt eine Voraussetzung eigenständiger Prüfung. Es zeigt weder, dass Informationszugang allein gute Entscheidungen garantiert, noch, dass sein Fehlen bereits einen langfristigen Kompetenzverlust beweist.
Für den zeitlichen Verlauf im Diagramm wären weitere Bedingungen zu untersuchen: Bleiben tatsächlich genutzte Prüfpraxis und Rückmeldungen über Fehler erhalten? Gibt es Zeit für die Bearbeitung von Zweifeln? Können begründete Einwände Einsatzregeln verändern? Diese Bedingungen sind hier Prüfaufträge, keine bereits getestete Erfolgsformel. Die Forschung zur Automatisierung beschreibt den Zusammenhang zwischen Übung, Wissen und Eingriffsfähigkeit seit Langem. (Bainbridge: Ironies of Automation)
Drei Perspektiven auf denselben Zusammenhang
Autonomie: nicht nur freigeben dürfen
Autonomie bezeichnet hier die Fähigkeit der Fachprüfstelle, ihre Entscheidungen und ihren weiteren Arbeitsverlauf selbst mitzubestimmen. Die Pfadethik unterscheidet nominelle Autonomie, also formale Rechte und Möglichkeiten, von struktureller Autonomie, also tatsächlicher Selbstbestimmung. Das Freigaberecht im Diagramm kann erhalten bleiben, obwohl die Fähigkeit zur begründeten Korrektur abnimmt. (Grundlagenwerk)
Anschlussfähigkeit: die Wirkung der Verbindung
Anschlussfähigkeit betrifft die Verbindung zwischen KI, Prüfstelle und weiteren Betroffenen. Eine Kopplung wird danach beurteilt, welche Pfade sie stärkt oder schwächt. Eine Abhängigkeit ist nicht schon deshalb destruktiv, weil Unterstützung von außen kommt. Die Frage ist, was diese Beziehung ermöglicht und was sie beeinträchtigt. (Grundlagenwerk)
Die Übernahme einer einzelnen Tätigkeit durch KI kann entlasten. Entscheidend ist hier, ob jene Praxis erhalten bleibt, auf der eigenständiges Prüfen beruht. (Pfad-Impact-Assessment)
Persistenz: Fortsetzung durch eigene Weiterentwicklung
Persistenz bezeichnet die Fortsetzung eines gerichteten Zusammenhangs über Zeit. Im linken Verlauf liegt ihre positive Seite: Die Fachprüfstelle kann Erfahrungen verarbeiten und ihre Arbeitsweise weiterentwickeln. Das ist nicht bloß unveränderter Fortbetrieb. Im rechten Verlauf steht die Frage, ob der laufende Betrieb eine Erosion eigener Erneuerungsfähigkeit verdeckt. (Grundlagenwerk)
Der rechte Verlauf wird deshalb als mögliche Persistenz-Illusion markiert. Die weitergehenden Diagnosebedingungen erläutert die methodische Vertiefung. (Grundlagenwerk, Pfad-Impact-Assessment)
Von der Diagnose zur Gestaltung
Das Diagramm ersetzt keine vollständige Eingriffsprüfung. Das Pfad-Impact-Assessment formuliert dafür drei Pflichtfragen. Vor ihrer Anwendung sind Eingriff und betroffene Systeme festzulegen. In der Grafik ist die Fachprüfstelle der betrachtete Pfad; ihre KI-gestützte Arbeitsweise ist die untersuchte Veränderung. (Pfad-Impact-Assessment)
Stützt oder ersetzt der Eingriff die interne Rückkopplung? Gemeint sind die Prozesse, durch die das jeweils betroffene System eigene Fehler verarbeitet, sich reguliert und weiterentwickelt. Daraus folgt keine pauschale Forderung nach weniger KI-Aufsicht. Auch feste Bindungen können Korrekturfähigkeit tragen, etwa unveränderliche Nachweise über Änderungen. (Pfad-Impact-Assessment)
Welche abhängigen Systeme verlieren stabile Bedingungen, und wurden sie einbezogen? Zur Folgenprüfung gehört tatsächlicher Einfluss entsprechend der Verletzlichkeit, nicht entsprechend der Machtressourcen. Eine bloße Information der Betroffenen genügt nicht. Wie nicht selbst sprechende Betroffene angemessen vertreten werden, bleibt eine offene Aufgabe. (Pfad-Impact-Assessment)
Gibt es einen Ausstieg ohne Zusammenbruch abhängiger Systeme? Ein vorhandener Abschaltknopf beantwortet diese Frage nicht. Zu klären ist, wie notwendige Leistungen nach Beendigung oder Veränderung des Einsatzes weitergetragen werden. Aus dem Diagramm lässt sich nicht ablesen, ob die dargestellte Prüfstelle eine solche Möglichkeit besitzt. (Pfad-Impact-Assessment)
Die Gestaltungsrichtung ist damit bestimmt: Korrektur soll nicht nur erlaubt sein, sondern unter realen Arbeitsbedingungen möglich bleiben. Welche Maßnahmen dafür geeignet und verhältnismäßig sind, verlangt zusätzliche technische, organisatorische und normative Begründungen.
Eine funktionierende Prüfstelle genügt noch nicht
Die Grafik begrenzt den Blick auf eine Beziehung. Eine vollständige Beurteilung muss darüber hinausgehen. In einem gedachten Verfahren über Anträge wären auch diejenigen betroffen, deren Anträge beurteilt werden. Eine kompetente Prüfstelle kann ein Verfahren zuverlässig betreiben, dessen Ziele oder Folgen gegenüber diesen Menschen dennoch nicht vertretbar sind.
Daher sind Nutzen für die unmittelbaren Anwender, Wirkungen auf Dritte und die Rechtfertigung der Ziele getrennt zu prüfen. Je nach Einsatz gehören weitere Institutionen und ökologische Lebensgrundlagen dazu. Die Darstellung entscheidet außerdem weder über eigene Schutzpflichten gegenüber künstlichen Systemen noch über deren Vorrang in einem Konflikt. (Grundlagenwerk, Pfad-Impact-Assessment)
Methodische Vertiefung
Anschlussfähigkeit und Eingriffsprüfung
Die Grafik fragt, ob die Verbindung die eigene Prüfpraxis stärken oder schwächen kann. Die Anschlussfähigkeitsanalyse beurteilt die Qualität der Verbindung; die PIA-Frage untersucht, ob der Eingriff die interne Rückkopplung des jeweils benannten Systems stützt oder ersetzt. Die beiden Prüfungen hängen zusammen, sind aber nicht identisch. Die Übernahme einer einzelnen Tätigkeit ist für sich genommen noch kein Befund destruktiver Kopplung. (Grundlagenwerk, Pfad-Impact-Assessment)
Wann das Warnsignal zur Diagnose wird
Persistenz-Illusion bezeichnet allgemein extern getragenen Fortbestand bei erodierender eigener Entwicklungsfähigkeit. Im Pfad-Impact-Assessment wird das Warnsignal durch zwei Befunde konkretisiert: interne Rückkopplung wird ersetzt, und ein Ausstieg ohne Zusammenbruch abhängiger Systeme fehlt. Das Diagramm allein untersucht diesen Ausstieg nicht. Sein Warnkasten bleibt deshalb ein Prüfhinweis. (Grundlagenwerk, Pfad-Impact-Assessment)
Eine Beziehung, mehrere Perspektiven
Die drei Perspektiven bilden weder eine zeitliche Reihenfolge noch getrennte Schadensposten. Dieselbe Verbindung kann Selbstbestimmung ermöglichen und zugleich die langfristige Abhängigkeit verändern. Ihre Wirkungen müssen jeweils begründet werden. Die Farben unterscheiden Wirkungsrichtungen; Linienarten und Beschriftungen tragen die Aussage auch ohne Farberkennung. Ein Gesamturteil über den Einsatz erfordert die Prüfung weiterer Betroffener und der Ziele.
Forschungsbezug und Reichweite
Der Verlust von Eingriffsfähigkeit durch Automatisierung ist keine Entdeckung der Pfadethik. Lisanne Bainbridge beschreibt in „Ironies of Automation“, wie automatisierte Abläufe Menschen gerade jene Praxis entziehen können, die für spätere Eingriffe benötigt wird. Ihre Untersuchung betrifft vor allem industrielle Prozesskontrolle. Die Anwendung auf die hier konstruierte Fachprüfstelle und auf Zielrevision ist eine Übertragung, kein von diesem Aufsatz bereits geprüfter KI-Fall. (Bainbridge: Ironies of Automation)
Die Pfadethik bietet hier eine ethische Klammer: Sie bezieht die Wirkung der Verbindung, die tatsächliche Selbstbestimmung der Prüfstelle und ihre Fortsetzung über Zeit aufeinander. Diese Einordnung macht Fragen an die Gestaltung nachvollziehbar. Sie ersetzt weder technische Sicherheitsprüfung noch Rechtsprüfung und liefert keine vollständige Konfliktentscheidung. (Grundlagenwerk, Pfad-Impact-Assessment)
Die Anwendung auf KI-Alignment steht am Anfang ihrer systematischen Erprobung. Die Grafik veranschaulicht einen Mechanismus; sie ist kein empirischer Kausalnachweis, kein Vergleichstest und keine validierte Prüfmethode. Die Anforderungen überschneiden sich mit bestehenden Ansätzen der Automatisierungsforschung und KI-Governance. Ob die pfadethische Zusammenführung einen zusätzlichen praktischen Nutzen hat, ist gesondert zu untersuchen. (Bainbridge: Ironies of Automation)
In den bisher geprüften Alignment-Fällen wurde gegenüber den untersuchten Vergleichsansätzen kein zusätzlicher Entscheidungsnutzen nachgewiesen. Das belegt keine Redundanz für das gesamte Anwendungsfeld. Die systematische Erprobung als Prüfkriterium steht am Anfang.
Quellen und Weiterführungen
Grundlagenwerk: Nikolaus Reinelt / KIKOLAUS: *Prototyp einer Pfadethik der Emergenz*, insbesondere Kap. 2.7, 6.5.6 und 7.6. Für diesen Entwurf abgeglichen mit der bereitgestellten belegoffenen Manuskriptfassung. Öffentlicher Werkzugang: Concept-DOI. Die Kapitelangaben wurden mit der veröffentlichten Fassung V1.85 abgeglichen.
Pfad-Impact-Assessment: KIKOLAUS: *Pfad-Impact-Assessment: Von der Diagnose zur Entscheidung*. Kanonische interne Hub-Referenz, Stand 8. November 2026, einschließlich Präzisierung des KI-Beispiels. Öffentlicher Einstieg: Pfad-Impact-Assessment.
Bainbridge: Lisanne Bainbridge (1983): *Ironies of Automation*. Automatica 19(6), 775–779, insbesondere Abschnitte 1.1.1, 1.1.2 und 2.3. DOI.
Internes Review: KIKOLAUS: *Review: Reichweite der Negativbefunde und Präzisierungen*, konsolidierter Hub-Arbeitsstand vom 8. November 2026. Interne Forschungsdokumentation, keine externe Validierung.